Agente Local Rag

🦙 Agente RAG Local com Llama 3.2

🎓 Tutorial Passo-a-Passo GRÁTIS

👉 Clica aqui para seguir o nosso tutorial completo passo-a-passo e aprende a construir isto do zero com explicações detalhadas e melhores práticas.

Esta aplicação implementa um sistema de Geração Aumentada por Recuperação (RAG) utilizando Llama 3.2 através de Ollama, com Qdrant como a base de dados vetorial. Construído com Agno v2.0.

Funcionalidades

• Implementação RAG totalmente local
• Alimentado por Llama 3.2 através de Ollama
• Pesquisa vetorial utilizando Qdrant
• Interface interativa AgentOS
• Sem dependências de APIs externas
• Utiliza a classe Knowledge do Agno v2.0 para gestão de documentos

Como Começar?

1. Clona o repositório do GitHub

git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git

2. Instala as dependências necessárias:

pip install -r requirements.txt

cd awesome-llm-apps/rag_tutorials/local_rag_agent
pip install -r requirements.txt

Para instalar e iniciar a base de dados vetorial Qdrant localmente, segue os passos abaixo:

Pré-requisitos

Antes de começares, assegura-te de que tens os seguintes pré-requisitos instalados:

• Docker
• Docker Compose

Passo 1: Clonar o repositório

Primeiro, clona o repositório Qdrant:

git clone https://github.com/qdrant/qdrant.git
cd qdrant

Passo 2: Iniciar o Qdrant

Utiliza o Docker Compose para iniciar o Qdrant:

docker-compose up

Isto irá iniciar o Qdrant na porta 6333 por defeito.

Passo 3: Verificar a instalação

Para verificar se o Qdrant está a funcionar corretamente, abre o teu navegador e vai até a seguinte URL:

http://localhost:6333

Deves ver uma resposta JSON que indica que o Qdrant está a funcionar.

Passo 4: Parar o Qdrant

Para parar o Qdrant, utiliza o seguinte comando:

docker-compose down

Agora já tens o Qdrant instalado e a funcionar localmente!

docker pull qdrant/qdrant
docker run -p 6333:6333 qdrant/qdrant

4. Instala Ollama e faz o pull do Llama 3.2 para LLM e do OpenHermes como o embedder para OllamaEmbedder

ollama pull llama3.2
ollama pull openhermes

5. Executa o Agente AI RAG

Para executar o Agente AI RAG, segue os passos abaixo:

Pré-requisitos

Antes de começares, assegura-te de que tens os seguintes pré-requisitos instalados:

• Python 3.7 ou superior
• As bibliotecas necessárias listadas no requirements.txt

Passos

1. Clona o repositório

git clone <URL_DO_REPOSITÓRIO>
cd <NOME_DO_REPOSITÓRIO>

2. Instala as dependências

pip install -r requirements.txt

3. Configura as variáveis de ambiente

Cria um ficheiro .env na raiz do projeto e adiciona as seguintes variáveis:

VARIABLE_NAME=value

4. Executa o agente

Para iniciar o agente, utiliza o seguinte comando:

python main.py

5. Interage com o agente

Após a execução, poderás interagir com o agente através da interface de linha de comandos ou da interface gráfica, dependendo da configuração que escolheste.

Dicas

• Certifica-te de que a tua conexão à internet está ativa, pois o agente pode precisar de aceder a recursos online.
• Consulta a documentação para mais informações sobre as funcionalidades disponíveis e como utilizá-las.

Problemas Comuns

• Erro de dependência: Se encontrares erros relacionados com dependências, verifica se todas as bibliotecas estão corretamente instaladas.
• Problemas de configuração: Assegura-te de que as variáveis de ambiente estão corretamente definidas no ficheiro .env.

Para mais informações, consulta a [documentação oficial](<URL_DA_DOCUMENTAÇÃO>).

python local_rag_agent.py

6. Abre o teu navegador web e navega até à URL fornecida na saída do console (tipicamente http://localhost:7777) para interagir com o agente RAG através da interface AgentOS.

Nota

• A base de conhecimento carrega um PDF de Receitas Tailandesas na primeira execução. Podes comentar a linha knowledge_base.add_content() após a primeira execução para evitar recarregamentos.
• A interface AgentOS fornece uma UI baseada na web para interagir com o teu agente.