ChatGPT Local com Memória

🧠 ChatGPT Local usando Llama 3.1 com Memória Pessoal

Esta aplicação Streamlit implementa uma experiência semelhante ao ChatGPT totalmente local utilizando Llama 3.1, com armazenamento de memória personalizada para cada utilizador. Todos os componentes, incluindo o modelo de linguagem, embeddings e armazenamento vetorial, funcionam localmente sem a necessidade de chaves de API externas.

Funcionalidades

• Implementação totalmente local sem dependências de API externas
• Alimentado por Llama 3.1 através de Ollama
• Espaço de memória pessoal para cada utilizador
• Geração de embeddings local utilizando Nomic Embed
• Armazenamento vetorial com Qdrant

Como Começar?

1. Clona o repositório do GitHub

git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd awesome-llm-apps/llm_apps_with_memory_tutorials/local_chatgpt_with_memory

2. Instala as dependências necessárias:

npm install

cd awesome-llm-apps/rag_tutorials/local_rag_agent
pip install -r requirements.txt

Para instalar e iniciar o Qdrant localmente, segue os passos abaixo:

Pré-requisitos

Certifica-te de que tens os seguintes pré-requisitos instalados:

• Docker
• Docker Compose

Passos para instalação

1. Clona o repositório do Qdrant:

git clone https://github.com/qdrant/qdrant.git

2. Navega até ao diretório do Qdrant:

cd qdrant

3. Inicia o Qdrant usando Docker Compose:

docker-compose up

4. Acede à interface do Qdrant:

Abre o teu navegador e vai até a http://localhost:6333.

Verificação da instalação

Para verificar se o Qdrant está a funcionar corretamente, podes enviar uma requisição HTTP para a API:

curl http://localhost:6333/collections

Deves receber uma resposta que indica que a base de dados está a funcionar.

docker pull qdrant/qdrant
docker run -p 6333:6333 qdrant/qdrant

4. Instala o Ollama e faz o pull do Llama 3.1

ollama pull llama3.1

5. Executa a Aplicação Streamlit

Para executar a aplicação Streamlit, segue os passos abaixo:

1. Abre o terminal.
2. Navega até ao diretório onde se encontra o teu ficheiro app.py.
3. Executa o seguinte comando:

streamlit run app.py

4. Após alguns momentos, deves ver uma mensagem no terminal com um URL. Abre esse URL no teu navegador para visualizar a aplicação.

streamlit run local_chatgpt_memory.py