Gemma de Embedding Agentic Rag

🔥 Agentic RAG com EmbeddingGemma

🎓 Tutorial Passo-a-Passo GRÁTIS

👉 Clica aqui para seguir o nosso tutorial completo passo-a-passo e aprende como construir isto do zero com explicações detalhadas e melhores práticas.

Esta aplicação Streamlit demonstra um Agente de Geração Aumentada por Recuperação (RAG) agentic utilizando o EmbeddingGemma da Google para embeddings e o Llama 3.2 como modelo de linguagem, tudo a correr localmente através do Ollama.

Funcionalidades

• Modelos de IA Locais: Utiliza o EmbeddingGemma para embeddings vetoriais e o Llama 3.2 para geração de texto
• Base de Conhecimento em PDF: Adiciona dinamicamente URLs de PDFs para construir uma base de conhecimento
• Pesquisa Vetorial: Pesquisa de similaridade eficiente utilizando o LanceDB
• Interface Interativa: Interface Streamlit bonita para adicionar fontes e realizar consultas
• Respostas em Streaming: Geração de respostas em tempo real com visibilidade de chamadas de ferramentas

Como Começar?

1. Clona o repositório do GitHub

git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd awesome-llm-apps/rag_tutorials/agentic_rag_embedding_gemma

2. Instala as dependências necessárias:

Para instalar as dependências necessárias, executa o seguinte comando:

npm install

pip install -r requirements.txt

3. Assegura que o Ollama está instalado e a funcionar com os modelos necessários:

• Faz o download dos modelos: ollama pull embeddinggemma:latest e ollama pull llama3.2:latest
• Inicia o servidor Ollama se não estiver a funcionar

4. Executa a aplicação Streamlit:

streamlit run agentic_rag_embeddinggemma.py

(Note: O ficheiro da aplicação está no diretório raiz)

5. Abre o teu navegador web na URL fornecida (geralmente http://localhost:8501) para interagir com o agente RAG.

Como Funciona?

1. Configuração da Base de Conhecimento: Adiciona URLs de PDFs na barra lateral para carregar e indexar documentos.
2. Geração de Embeddings: EmbeddingGemma cria embeddings vetoriais para pesquisa semântica.
3. Processamento de Consultas: As consultas dos utilizadores são incorporadas e pesquisadas na base de conhecimento.
4. Geração de Respostas: Llama 3.2 gera respostas com base no contexto recuperado.
5. Integração de Ferramentas: O agente utiliza ferramentas de pesquisa para obter informações relevantes.

Requisitos

• Python 3.8+
• Ollama instalado e a funcionar
• Modelos necessários: embeddinggemma:latest, llama3.2:latest

Tecnologias Utilizadas

• Agno: Framework para construção de agentes de IA
• Streamlit: Framework para aplicações web
• LanceDB: Base de dados vetorial
• Ollama: Servidor LLM local
• EmbeddingGemma: Modelo de embedding do Google
• Llama 3.2: Modelo de linguagem da Meta