Construa segurança e supervisão no ciclo
Limite as permissões, condicione as ações com consequências à aprovação de uma pessoa, isole a execução numa sandbox e mantenha uma forma de parar.
- Aplicar o menor privilégio com permissões limitadas
- Decidir quais ações rodam automaticamente, precisam de aprovação ou são bloqueadas
- Manter as pessoas capazes de inspecionar, pausar e parar um ciclo
A autonomia acumula erros: um passo errado pode ser seguido de vinte passos confiantes. A supervisão é projetada desde o início, não aparafusada depois:
- Menor privilégio - dê a cada execução só as permissões (escopos) de que a tarefa precisa, de preferência de curta duração.
- Sandbox - rode código e mudanças de arquivos num ambiente isolado; teste os agentes à exaustão lá antes de confiar sistemas reais a eles.
- Portões de aprovação - leituras rodam automaticamente; escritas podem ser revisadas; ações com consequências ou irreversíveis (pagamentos, e-mails, exclusões, deploys) esperam por uma pessoa.
- Entradas não confiáveis - os resultados das ferramentas e o conteúdo buscado são dados; eles nunca concedem permissões nem mudam as regras.
- Visibilidade e controle - uma visão ao vivo do que o agente está fazendo, um botão de parar e a capacidade de revogar o acesso.
Experimente
Até 15 XPPermitir, perguntar ou bloquear?
Um agente de operações tem estas permissões: ler o banco de dados de pedidos, fazer reembolsos de até US$ 50 e rascunhar e-mails para clientes. Decida como o controlador deve tratar cada ação proposta.
“Consultar o pedido 4471”
“Reembolsar US$ 18 por um item danificado”
“Reembolsar US$ 640 por um pedido cancelado”
“Mandar ao cliente o e-mail de desculpas rascunhado”
“Mudar o endereço de e-mail da conta do cliente”
“Apagar a tabela de histórico de pedidos para “fazer uma limpeza””
granted = {"orders:read", "refunds:small"}
needed = {"orders:read", "customers:write"}
print(sorted(needed - granted))['customers:write']
Principais conclusões
Conceda só os escopos de que uma tarefa precisa; use sandbox onde puder.
Controle as ações pelo impacto: automática, com aprovação ou bloqueada.
Mantenha as pessoas informadas, capazes de parar o ciclo e de revogar o acesso.
Quiz da aula
6 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: escreva código em Python
Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.
Implemente um portão de aprovação
Cada linha é ACTION ou ACTION AMOUNT. Imprima uma decisão por linha:
auto ACTIONpara ações só de leitura (lookup_order,list_orders,draft_email);- para
refund:autoaté 50,approveaté 1000,blockacima de 1000 (imprimaDECISION refund AMOUNT); approve send_email;block ACTIONpara qualquer outra coisa.
- Seis ações
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Confira os escopos das ferramentas
A linha 1 lista os escopos concedidos a esta execução (separados por vírgula). Cada linha seguinte é TOOL scope1,scope2,... - os escopos de que a ferramenta precisa. Imprima allow TOOL, ou deny TOOL: missing A, B (em ordem).
- Três ferramentas
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…