Memória Multi-LLM

🧠 Aplicação Multi-LLM com Memória Partilhada

Esta aplicação Streamlit demonstra um sistema multi-LLM com uma camada de memória partilhada, permitindo que os utilizadores interajam com diferentes modelos de linguagem enquanto mantêm o histórico de conversação e o contexto entre sessões.

Funcionalidades

• Suporte para múltiplos LLMs:
• GPT-4o da OpenAI
• Claude 3.5 Sonnet da Anthropic

• Memória persistente utilizando o armazenamento de vetores Qdrant
• Histórico de conversação específico do utilizador
• Recuperação de memória para respostas contextuais
• Interface amigável com seleção de LLM

Como Começar?

1. Clona o repositório do GitHub

git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd awesome-llm-apps/llm_apps_with_memory_tutorials/multi_llm_memory

2. Instala as dependências necessárias:

npm install

pip install -r requirements.txt

3. Assegura que o Qdrant está a correr:

A aplicação espera que o Qdrant esteja a correr em localhost:6333. Ajusta a configuração no código se a tua configuração for diferente.

docker pull qdrant/qdrant
docker run -p 6333:6333 qdrant/qdrant

Para executar a aplicação Streamlit, segue os passos abaixo:

1. Abre o terminal.
2. Navega até ao diretório onde se encontra o teu ficheiro app.py.
3. Executa o seguinte comando:

streamlit run app.py

4. Após alguns momentos, a aplicação abrir-se-á automaticamente no teu navegador padrão. Se não abrir, verifica o terminal para encontrar o URL onde a aplicação está a ser executada, normalmente algo como http://localhost:8501.

Agora já deves conseguir interagir com a tua aplicação Streamlit!

streamlit run multi_llm_memory.py