# Llama3.1 RAG Local

> 💻 Aplicação Streamlit Llama-3.1 local que permite conversar com qualquer página da web utilizando Llama-3.1 e Geração Aumentada por Recuperação (RAG). Esta aplicação funciona inteiramente no seu computador, tornando-a 100% gratuita e sem necessidade de conexão à internet.

- Fonte: https://doutorai.pt/apps/llama3-1-local-rag
- Categoria: RAG e Conhecimento
- Dificuldade: Médio
- Modelos: Llama
- Frameworks: LangChain, Ollama (local)
- Corre local?: Sim (Ollama)
- Chaves necessárias: Nenhuma
- Licença: Apache-2.0
- Site: Doutor AI (https://doutorai.pt) - ferramentas de IA para pequenos negócios em português

## Tutorial completo

## 💻 Local Lllama-3.1 com RAG
Aplicação Streamlit que te permite conversar com qualquer página web usando o Llama-3.1 local e Geração Aumentada por Recuperação (RAG). Esta aplicação corre inteiramente no teu computador, tornando-a 100% gratuita e sem necessidade de uma ligação à internet.

### Funcionalidades
- Introduz uma URL de página web
- Faz perguntas sobre o conteúdo da página web
- Obtém respostas precisas usando RAG e o modelo Llama-3.1 a correr localmente no teu computador

### Como Começar?

1. Clona o repositório do GitHub

```bash
git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd awesome-llm-apps/rag_tutorials/llama3.1_local_rag
```

# 2. Instala as dependências necessárias:

```bash
npm install
```

```bash
pip install -r requirements.txt
```

# 3. Executa a Aplicação Streamlit

Para executar a aplicação Streamlit, segue os passos abaixo:

1. Abre o terminal.
2. Navega até ao diretório onde se encontra o teu ficheiro `app.py`.
3. Executa o seguinte comando:

   ```bash
   streamlit run app.py
   ```

4. Após alguns momentos, a aplicação abrir-se-á automaticamente no teu navegador padrão. Se não abrir, verifica o terminal para encontrar o URL onde a aplicação está a ser executada, normalmente algo como `http://localhost:8501`.

```bash
streamlit run llama3.1_local_rag.py
```

### Como Funciona?

- A aplicação carrega os dados da página web utilizando WebBaseLoader e divide-os em partes usando RecursiveCharacterTextSplitter.
- Cria embeddings Ollama e um armazenamento de vetores utilizando Chroma.
- A aplicação configura uma cadeia RAG (Retrieval-Augmented Generation), que recupera documentos relevantes com base na pergunta do utilizador.
- O modelo Llama-3.1 é chamado para gerar uma resposta utilizando o contexto recuperado.
- A aplicação apresenta a resposta à pergunta do utilizador.

## Poupe horas todas as semanas com IA, sem complicações

O **Doutor AI** dá-lhe 1859 prompts de IA prontos a copiar, por indústria e em português simples - mais uma biblioteca técnica completa para quem quer ir mais longe. [Ver planos →](https://doutorai.pt/precos)

---
Conteúdo de Doutor AI (https://doutorai.pt). Ao citar, indique a fonte: https://doutorai.pt/apps/llama3-1-local-rag