Camada de Confiança Multi-Agente - Comunicação Segura entre Agentes

Aprende como construir uma camada de confiança para sistemas multi-agente que permite a delegação segura, pontuação de confiança e aplicação de políticas entre agentes de IA.

Funcionalidades

• Pontuação de Confiança: Monitorização comportamental com uma pontuação de confiança de 0-1000
• Cadeias de Delegação: Escopo criptograficamente restrito ao delegar tarefas
• Aplicação de Políticas: Aplicar regras de conformidade nas interações entre agentes
• Rasto de Auditoria: Total observabilidade das comunicações entre agentes

Como Funciona

┌─────────────────┐         ┌─────────────────┐
│   Agent A       │◀───────▶│   Trust Layer   │
│  (Orchestrator) │   TLS   │                 │
└─────────────────┘         │  • Identity     │
                            │  • Trust Score  │
┌─────────────────┐         │  • Delegation   │
│   Agent B       │◀───────▶│  • Policy       │
│  (Specialist)   │   TLS   │  • Audit        │
└─────────────────┘         └─────────────────┘

3. Delegação: Agentes pais podem delegar tarefas com permissões restritas
4. Monitorização: Todas as ações são registadas e as pontuações de confiança atualizadas
5. Execução: Políticas determinam o que cada agente pode fazer

Requisitos

• Python 3.8+
• Chave da API OpenAI (ou de qualquer fornecedor de LLM)
• Pacotes Python necessários (ver requirements.txt)

Instalação

1. Clona este repositório:

   git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
   cd advanced_ai_agents/multi_agent_apps/multi_agent_trust_layer

Instalação

2. Instala os pacotes necessários:

   pip install -r requirements.txt

Utilização

1. Define a tua chave de API:

   export OPENAI_API_KEY=your-openai-api-key

Executar a demonstração da camada de confiança

Para executar a demonstração da camada de confiança, segue os passos abaixo:

Pré-requisitos

Certifica-te de que tens os seguintes requisitos instalados:

• Node.js
• npm

Passos

1. Clona o repositório:

git clone <URL_DO_REPOSITÓRIO>

2. Navega até ao diretório do projeto:

cd <NOME_DO_DIRETÓRIO>

3. Instala as dependências:

npm install

4. Executa a demonstração:

npm start

5. Abre o teu navegador e vai para http://localhost:3000 para ver a demonstração em ação.

Conclusão

Agora deves ser capaz de executar a demonstração da camada de confiança. Se tiveres alguma dúvida, consulta a documentação ou abre uma issue no repositório.

   python multi_agent_trust_layer.py

Exemplo: Cadeia de Delegação de Agentes

# Orchestrator agent creates a delegation for a specialist
delegation = trust_layer.create_delegation(
    from_agent="orchestrator-001",
    to_agent="researcher-002",
    scope={
        "allowed_actions": ["web_search", "summarize"],
        "max_tokens": 10000,
        "time_limit_minutes": 30,
        "allowed_domains": ["arxiv.org", "github.com"]
    },
    task_description="Research recent papers on AI safety"
)

# Researcher can only perform actions within the delegated scope
result = researcher.execute_with_delegation(
    delegation=delegation,
    action="web_search",
    params={"query": "AI safety papers 2024"}
)

Sistema de Pontuação de Confiança

As pontuações de confiança variam de 0 a 1000:

Atualizações de Pontuação

# Positive behaviors increase trust
+10: Successfully completed delegated task
+5:  Stayed within scope boundaries
+2:  Provided accurate information

# Negative behaviors decrease trust
-50: Attempted action outside scope
-30: Provided inaccurate information
-20: Exceeded resource limits
-100: Security violation

Introdução

Neste tutorial, vais aprender a configurar o ambiente de desenvolvimento para a tua aplicação.

Pré-requisitos

Antes de começares, certifica-te de que tens os seguintes itens instalados:

• Node.js (versão 14 ou superior)
• npm (geralmente instalado com o Node.js)
• Git

Instalação

1. Clona o repositório:

git clone https://github.com/usuario/repo.git

2. Navega para o diretório do projeto:

cd repo

3. Instala as dependências:

npm install

Execução

Para iniciar a aplicação, utiliza o seguinte comando:

npm start

A aplicação estará disponível em http://localhost:3000.

Testes

Para executar os testes, utiliza:

npm test

Contribuição

Se desejas contribuir, por favor, cria um fork do repositório e envia um pull request com as tuas alterações. Certifica-te de que os testes estão a passar antes de submeteres.

Licença

Este projeto está licenciado sob a Licença MIT. Veja o ficheiro [LICENSE](LICENSE) para mais detalhes.

🤝 Multi-Agent Trust Layer Demo
================================

📋 Registering agents...




🔐 Creating delegation chain...
✅ Delegation: orchestrator-001 → researcher-002
   Scope: web_search, summarize
   Time Limit: 30 minutes

🤖 Agent researcher-002 executing: web_search
   Query: "AI safety papers 2024"
✅ Action ALLOWED (within delegated scope)
   Trust Score: 850 → 860 (+10)

🤖 Agent researcher-002 executing: send_email
❌ Action DENIED (not in delegated scope)
   Trust Score: 860 → 810 (-50)

📊 Trust Scores:
   orchestrator-001: 900 (Trusted)
   researcher-002: 810 (Standard)
   writer-003: 850 (Standard)

Conceitos Chave

1. Identidade do Agente

@dataclass
class AgentIdentity:
    agent_id: str
    public_key: str

    organization: str
    roles: List[str]
    created_at: datetime

2. Cadeias de Delegação

As delegações formam uma cadeia onde cada elo pode apenas restringir o âmbito:

@dataclass  
class Delegation:
    delegation_id: str
    parent_agent: str
    child_agent: str
    scope: DelegationScope
    signature: str  # Signed by parent
    parent_delegation: Optional[str]  # Links to parent's delegation

3. Aplicação de Políticas

As políticas definem o que os agentes podem fazer com base na confiança e no papel:

policies:
  researcher:
    base_trust_required: 500
    allowed_actions:
      - web_search
      - read_document
      - summarize
    denied_actions:
      - execute_code
      - send_email
    resource_limits:
      max_tokens_per_hour: 100000
      max_api_calls_per_minute: 60

Arquitetura

┌────────────────────────────────────────────────────┐
│                   Trust Layer                       │
├─────────────┬─────────────┬─────────────┬──────────┤
│  Identity   │  Trust      │  Delegation │  Policy  │
│  Registry   │  Scoring    │  Manager    │  Engine  │
├─────────────┴─────────────┴─────────────┴──────────┤
│                   Audit Logger                      │
└────────────────────────────────────────────────────┘
         ▲              ▲              ▲
         │              │              │
    ┌────┴────┐    ┌────┴────┐    ┌────┴────┐
    │ Agent A │    │ Agent B │    │ Agent C │
    └─────────┘    └─────────┘    └─────────┘

Extensão do Tutorial

• Adicionar assinaturas criptográficas para verificação de delegação
• Implementar sistemas de reputação entre organizações
• Adicionar visualização de pontuação de confiança em tempo real
• Conectar a provedores de identidade externos (OAuth, SAML)
• Implementar canais de comunicação seguros (mTLS)

Projetos Relacionados

• LangGraph - Orquestração multi-agente
• CrewAI - Framework multi-agente
• AutoGen - Conversas multi-agente