Assistentes, agentes e permissões

Identifique como o sistema age

Um assistente pode explicar código, propor um plano ou sugerir uma implementação. Um agente também pode usar ferramentas e agir no ambiente. Nomes de produtos não definem limites confiáveis. Algumas interfaces de chat podem executar comandos. Algumas ferramentas de programação apenas sugerem texto.

Inspecione as ferramentas disponíveis. Uma descrição útil informa o que o sistema pode ler, alterar, executar e publicar. Ela também identifica as credenciais e o ambiente usados em cada ação.

A Anthropic diferencia fluxos de trabalho predefinidos de agentes que escolhem sua própria sequência de uso de ferramentas. Essa distinção ajuda a explicar como o trabalho avança. Ela não determina se uma ação específica é segura. Os dois modelos precisam de limites explícitos de permissão.

Separe o objetivo da permissão

Considere um pedido fictício: “Corrija a exportação de faturas.” Um agente pode inspecionar o repositório, reproduzir o defeito, editar uma branch e executar verificações. Ele também pode encontrar credenciais do banco de dados de produção em seu ambiente.

O objetivo não autoriza todas as ações disponíveis. Ler uma tabela de produção, alterar registros de faturas e implantar uma nova versão têm consequências diferentes. Uma instrução ampla, como “conclua a tarefa”, não explica quais dessas ações a organização permite.

Defina os limites antes de iniciar o trabalho. Neste exemplo, o agente pode usar dados inventados e um banco de dados local. Pode criar um pull request. Não pode acessar registros de produção nem implantar a alteração. Um processo separado de release cuida dessas ações.

Use controles técnicos para limitar a autoridade

As instruções ajudam o agente a entender a tarefa. As credenciais e os controles de acesso determinam o que ele realmente pode fazer. Use ambos.

Uma tarefa somente de leitura não deve receber credenciais de escrita apenas por conveniência. Um ambiente de teste não deve herdar acesso à produção sem que isso seja percebido. Revise as conexões entre ferramentas, identidades e recursos. Um comando aparentemente inofensivo pode ter grande impacto quando usa uma identidade com muitos privilégios.

Defina quando o trabalho deve parar

Um agente precisa de uma condição de parada quando a próxima ação excede sua autoridade. Também precisa parar quando as evidências são insuficientes.

No exemplo das faturas, pare se o defeito exigir uma correção de dados de produção. Pare se o comportamento solicitado contrariar a regra contábil documentada. Informe o conflito, as evidências relevantes e a decisão que um responsável precisa tomar.

Um limite de tempo ou custo é útil para tentativas repetidas. Ele não substitui um limite de permissão. Dez tentativas autorizadas e um deployment não autorizado são problemas diferentes.

Avalie o resultado e o registro de ações

Ao concluir, inspecione mais que a resposta final. Revise os arquivos alterados, as verificações executadas e as incertezas restantes. Verifique se as ações permaneceram dentro do escopo acordado.

Um agente capaz pode reduzir o trabalho manual. A organização ainda precisa definir as ações permitidas, verificar resultados importantes e assumir a decisão de release. Mais autonomia aumenta a importância dessas responsabilidades.