Assistentes, agentes e permissões

Identifique como o sistema atua

Um assistente pode explicar código, propor um plano ou sugerir uma implementação. Um agente pode também usar ferramentas e agir sobre o ambiente. Os nomes dos produtos não estabelecem uma fronteira fiável. Algumas interfaces de chat podem executar comandos. Algumas ferramentas de programação limitam-se a sugerir texto.

Inspecione as ferramentas disponíveis. Uma descrição útil indica o que o sistema pode ler, alterar, executar e publicar. Identifica também as credenciais e o ambiente usados em cada ação.

A Anthropic distingue processos predefinidos de agentes que escolhem a sua própria sequência de utilização de ferramentas. Esta distinção ajuda a explicar como o trabalho decorre. Não determina se uma ação concreta é segura. Ambas as abordagens exigem limites explícitos de permissão.

Separe o objetivo da permissão

Considere um pedido fictício: «Corrige a exportação de faturas.» Um agente pode inspecionar o repositório, reproduzir o defeito, editar um branch e executar verificações. Pode também encontrar no ambiente credenciais da base de dados de produção.

O objetivo não autoriza todas as ações disponíveis. Ler uma tabela de produção, alterar registos de faturas e instalar uma nova versão têm consequências diferentes. Uma instrução ampla como «conclui a tarefa» não explica quais destas ações a organização permite.

Defina os limites antes de começar. Neste exemplo, o agente pode usar dados inventados e uma base de dados local. Pode criar um pull request. Não pode aceder a registos de produção nem fazer deployment da alteração. Um processo de lançamento separado trata dessas ações.

Imponha limites de autoridade com controlos técnicos

As instruções ajudam o agente a compreender a tarefa. As credenciais e os controlos de acesso determinam o que consegue realmente fazer. Use ambos.

Uma tarefa apenas de leitura não deve receber credenciais de escrita só por conveniência. Um ambiente de teste não deve herdar acesso à produção sem que isso seja visível. Reveja as ligações entre ferramentas, identidades e recursos. Um comando aparentemente inofensivo pode ter grande impacto se usar uma identidade com muitos privilégios.

Defina quando o trabalho tem de parar

Um agente precisa de uma condição de paragem quando a ação seguinte excede a sua autoridade. Também precisa de parar quando as provas são insuficientes.

No exemplo das faturas, pare se o defeito exigir uma correção dos dados de produção. Pare se o comportamento pedido contrariar a regra contabilística documentada. Comunique o conflito, as provas relevantes e a decisão necessária do responsável.

Um limite de tempo ou de custo é útil para tentativas repetidas. Não substitui um limite de permissão. Dez tentativas autorizadas e um deployment não autorizado são problemas diferentes.

Avalie o resultado e o registo de ações

No fim, inspecione mais do que a resposta final. Reveja os ficheiros alterados, as verificações executadas e a incerteza que resta. Confirme que as ações respeitaram o âmbito acordado.

Um agente capaz pode reduzir o trabalho manual. A organização continua a ter de definir as ações permitidas, verificar os resultados importantes e assumir a decisão de lançamento. Uma maior autonomia torna estas responsabilidades mais importantes.