Assistents, agents i permisos

Identifiqueu com actua el sistema

Un assistent pot explicar codi, proposar un pla o suggerir una implementació. Un agent també pot utilitzar eines i actuar sobre l’entorn. Els noms dels productes no estableixen un límit fiable. Algunes interfícies de xat poden executar ordres. Algunes eines de programació només suggereixen text.

Inspeccioneu les eines disponibles. Una descripció útil indica què pot llegir, modificar, executar i publicar el sistema. També identifica les credencials i l’entorn que utilitza cada acció.

Anthropic distingeix els fluxos de treball predefinits dels agents que trien la seva pròpia seqüència d’ús d’eines. Aquesta distinció ajuda a explicar com avança la feina. No determina si una acció concreta és segura. Tots dos dissenys necessiten un límit explícit de permisos.

Separeu l’objectiu del permís

Considereu una petició fictícia: «Corregiu l’exportació de factures». Un agent pot inspeccionar el repositori, reproduir el defecte, editar una branca i executar comprovacions. També podria trobar al seu entorn credencials de la base de dades de producció.

L’objectiu no autoritza totes les accions disponibles. Llegir una taula de producció, modificar registres de factures i desplegar una versió nova tenen conseqüències diferents. Una instrucció àmplia com ara «completeu la tasca» no explica quines d’aquestes accions permet l’organització.

Definiu el límit abans de començar. En aquest exemple, l’agent pot utilitzar dades inventades i una base de dades local. Pot crear una pull request. No pot accedir als registres de producció ni desplegar el canvi. Un procés separat de publicació gestiona aquestes accions.

Utilitzeu controls tècnics per limitar les facultats

Les instruccions ajuden l’agent a entendre la tasca. Les credencials i els controls d’accés determinen què pot fer realment. Utilitzeu tots dos.

Una tasca de només lectura no ha de rebre credencials d’escriptura pel simple fet que resultin pràctiques. Un entorn de proves no ha d’heretar accés a producció de manera inadvertida. Reviseu les connexions entre eines, identitats i recursos. Una ordre que sembla inofensiva pot tenir un gran efecte si utilitza una identitat amb molts permisos.

Definiu quan s’ha d’aturar la feina

Un agent necessita una condició d’aturada quan l’acció següent supera les seves facultats. També en necessita una quan les evidències són insuficients.

En l’exemple de les factures, atureu la feina si el defecte requereix corregir dades de producció. Atureu-la si el comportament demanat entra en conflicte amb la regla comptable documentada. Informeu del conflicte amb les evidències rellevants i la decisió que ha de prendre un responsable.

Un límit de temps o de cost és útil per als intents repetits. No substitueix un límit de permisos. Deu intents autoritzats i un desplegament no autoritzat són problemes diferents.

Avalueu el resultat i el registre d’accions

En acabar, inspeccioneu més que la resposta final. Reviseu els fitxers modificats, les comprovacions executades i la incertesa que queda. Comproveu si les accions s’han mantingut dins de l’abast acordat.

Un agent capaç pot reduir la feina manual. L’organització encara ha de definir les accions permeses, verificar els resultats importants i assumir la decisió de publicació. Com més autonomia, més importants són aquestes responsabilitats.