Assistenti, agenti e permessi

Individua come agisce il sistema

Un assistente può spiegare codice, proporre un piano o suggerire un’implementazione. Un agente può anche usare strumenti e agire sull’ambiente. I nomi dei prodotti non tracciano un confine affidabile. Alcune interfacce di chat possono eseguire comandi. Alcuni strumenti di programmazione suggeriscono solo testo.

Esamina gli strumenti disponibili. Una descrizione utile indica cosa il sistema può leggere, modificare, eseguire e pubblicare. Indica anche le credenziali e l’ambiente usati da ogni azione.

Anthropic distingue i flussi di lavoro predefiniti dagli agenti che scelgono la propria sequenza d’uso degli strumenti. La distinzione aiuta a spiegare come procede il lavoro. Non determina se un’azione specifica sia sicura. Entrambe le soluzioni richiedono un limite esplicito ai permessi.

Separa l’obiettivo dai permessi

Considera una richiesta fittizia: «Correggi l’esportazione delle fatture». Un agente può esaminare il repository, riprodurre il difetto, modificare un branch ed eseguire verifiche. Potrebbe anche trovare nel proprio ambiente credenziali per il database di produzione.

L’obiettivo non autorizza ogni azione disponibile. Leggere una tabella di produzione, modificare record di fatture e distribuire una nuova versione hanno conseguenze diverse. Un’istruzione generica come «completa il compito» non chiarisce quali di queste azioni l’organizzazione consenta.

Definisci il limite prima di iniziare. In questo esempio, l’agente può usare dati inventati e un database locale. Può creare una pull request. Non può accedere ai record di produzione o distribuire la modifica. Un processo di rilascio separato gestisce queste azioni.

Limita l’autorità con controlli tecnici

Le istruzioni aiutano l’agente a capire il compito. Le credenziali e i controlli di accesso determinano cosa possa fare realmente. Usa entrambi.

Un compito di sola lettura non deve ricevere credenziali di scrittura solo perché sono comode. Un ambiente di test non deve ereditare tacitamente accessi alla produzione. Esamina i collegamenti tra strumenti, identità e risorse. Un comando apparentemente innocuo può avere effetti rilevanti se usa un’identità con ampi poteri.

Definisci quando interrompere il lavoro

Un agente deve avere una condizione di arresto quando l’azione successiva supera la sua autorità. Ne serve una anche quando le prove non bastano.

Nell’esempio delle fatture, interrompi il lavoro se il difetto richiede una correzione dei dati di produzione. Fermati se il comportamento richiesto contrasta con la regola contabile documentata. Segnala il conflitto con le prove pertinenti e la decisione richiesta al responsabile.

Un limite di tempo o di costo è utile per i tentativi ripetuti. Non sostituisce un limite ai permessi. Dieci tentativi autorizzati e un deployment non autorizzato sono problemi diversi.

Valuta il risultato e il registro delle azioni

Al termine, esamina più della sola risposta finale. Controlla i file modificati, le verifiche eseguite e le incertezze residue. Verifica che le azioni siano rimaste entro l’ambito concordato.

Un agente capace può ridurre il lavoro manuale. L’organizzazione deve comunque definire le azioni consentite, verificare i risultati importanti e assumersi la responsabilità della decisione di rilascio. Più autonomia rende queste responsabilità ancora più importanti.