Agente de Raciocínio RAG Local Deepseek

🎓 Tutorial Passo-a-Passo GRÁTIS

👉 Clica aqui para seguir o nosso tutorial completo passo-a-passo e aprende como construir isto do zero com explicações detalhadas e melhores práticas.

Um poderoso agente de raciocínio que combina modelos locais Deepseek com capacidades RAG. Construído utilizando Deepseek (via Ollama), Snowflake para embeddings, Qdrant para armazenamento de vetores, e Agno para orquestração de agentes, esta aplicação oferece tanto um chat local simples como interações avançadas melhoradas por RAG com processamento de documentos abrangente e capacidades de pesquisa na web.

Funcionalidades

• Modos de Operação Dupla
• Modo Chat Local: Interação direta com Deepseek localmente
• Modo RAG: Raciocínio melhorado com contexto de documentos e integração de pesquisa na web - llama3.2

• Processamento de Documentos (Modo RAG)
• Upload e processamento de documentos PDF
• Extração de conteúdo de páginas web
• Divisão automática de texto e embedding
• Armazenamento de vetores na nuvem Qdrant

• Consultas Inteligentes (Modo RAG)
• Recuperação de documentos baseada em RAG
• Pesquisa de similaridade com filtragem por limiar
• Retorno automático à pesquisa na web
• Atribuição de fontes para respostas

• Capacidades Avançadas
• Integração de pesquisa na web Exa AI
• Filtragem de domínio personalizado para pesquisa na web
• Geração de respostas ciente do contexto
• Gestão do histórico de chat
• Visualização do processo de pensamento

• Funcionalidades Específicas do Modelo
• Seleção de modelo flexível:
• Deepseek r1 1.5b (mais leve, adequado para a maioria dos portáteis)
• Deepseek r1 7b (mais capaz, requer hardware melhor)
• Modelo de Embedding Snowflake Arctic (SOTA) para embeddings de vetores
• Framework Agno Agent para orquestração
• Interface interativa baseada em Streamlit

Pré-requisitos

1. Configuração do Ollama

1. Instala Ollama
2. Faz o pull do(s) modelo(s) Deepseek r1:

# For the lighter model
ollama pull deepseek-r1:1.5b

# For the more capable model (if your hardware supports it)
ollama pull deepseek-r1:7b

ollama pull snowflake-arctic-embed
ollama pull llama3.2

2. Configuração do Qdrant Cloud (para Modo RAG)

1. Visita Qdrant Cloud
2. Cria uma conta ou faz login
3. Cria um novo cluster
4. Obtém as tuas credenciais:

• Qdrant API Key: Encontrada na secção de API Keys
• Qdrant URL: A URL do teu cluster (formato: https://xxx-xxx.cloud.qdrant.io)

3. Chave de API do Exa AI (Opcional)

1. Visita Exa AI
2. Regista-te para uma conta
3. Gera uma chave de API para capacidades de pesquisa na web

Como Executar

1. Clona o repositório:

git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd rag_tutorials/deepseek_local_rag_agent

2. Instalar dependências:

Para instalar as dependências necessárias, executa o seguinte comando:

npm install

pip install -r requirements.txt

3. Executa a aplicação:

Para executar a aplicação, utiliza o seguinte comando:

npm start

A aplicação estará disponível em http://localhost:3000.

3.1. Parâmetros de execução

Podes passar parâmetros adicionais ao iniciar a aplicação. Aqui estão alguns exemplos:

• --port: Especifica a porta em que a aplicação irá correr.
• --env: Define o ambiente (por exemplo, development, production).

Exemplo de execução com parâmetros:

npm start -- --port 4000 --env production

3.2. Parar a aplicação

Para parar a aplicação, utiliza Ctrl + C no terminal onde a aplicação está a correr.

streamlit run deepseek_rag_agent.py