Asistenți, agenți și permisiuni

Identificați cum acționează sistemul

Un asistent poate explica un cod, propune un plan sau sugera o implementare. Un agent poate și folosi instrumente și acționa asupra mediului. Numele produselor nu oferă o delimitare fiabilă. Unele interfețe de chat pot executa comenzi. Unele instrumente de programare doar sugerează text.

Inspectați instrumentele disponibile. O descriere utilă precizează ce poate citi, modifica, executa și publica sistemul. Descrierea identifică și credențialele și mediul folosite pentru fiecare acțiune.

Anthropic deosebește fluxurile de lucru predefinite de agenții care aleg propria secvență de utilizare a instrumentelor. Distincția ajută la explicarea modului de lucru. Nu stabilește dacă o anumită acțiune este sigură. Ambele abordări necesită o limită explicită a permisiunilor.

Separați obiectivul de permisiune

Luați în considerare o cerere fictivă: „Remediați exportul facturilor.” Un agent poate inspecta depozitul de cod, reproduce defectul, modifica un branch și executa verificări. Ar putea găsi în mediul său și credențiale pentru baza de date din producție.

Obiectivul nu autorizează orice acțiune disponibilă. Citirea unui tabel din producție, modificarea înregistrărilor de facturi și instalarea unei versiuni noi au consecințe diferite. O instrucțiune generală precum „duceți sarcina la capăt” nu explică pe care dintre aceste acțiuni le permite organizația.

Definiți limita înainte de începerea lucrului. În acest exemplu, agentul poate folosi date inventate și o bază de date locală. Poate crea un pull request. Nu poate accesa înregistrări din producție sau instala modificarea în mediu. Un proces separat de lansare gestionează aceste acțiuni.

Folosiți controale tehnice pentru autoritate

Instrucțiunile ajută agentul să înțeleagă sarcina. Credențialele și controalele de acces determină ce poate face efectiv agentul. Folosiți-le pe ambele.

O sarcină care necesită doar citire nu trebuie să primească credențiale de scriere doar pentru comoditate. Un mediu de testare nu trebuie să moștenească neobservat accesul la producție. Verificați legăturile dintre instrumente, identități și resurse. O comandă aparent inofensivă poate avea efecte majore când folosește o identitate cu multe drepturi.

Definiți când trebuie oprit lucrul

Un agent are nevoie de o condiție de oprire când următoarea acțiune îi depășește autoritatea. Are nevoie de una și când dovezile sunt insuficiente.

În exemplul cu facturi, opriți lucrul dacă defectul necesită corectarea datelor din producție. Opriți lucrul dacă comportamentul cerut contrazice regula contabilă documentată. Raportați conflictul împreună cu dovezile relevante și decizia necesară de la un responsabil.

O limită de timp sau de cost este utilă pentru încercările repetate. Nu înlocuiește limita permisiunilor. Zece încercări autorizate și o instalare neautorizată în producție sunt probleme diferite.

Evaluați rezultatul și istoricul acțiunilor

La terminare, inspectați mai mult decât răspunsul final. Verificați fișierele modificate, verificările executate și incertitudinea rămasă. Verificați dacă acțiunile au rămas în limitele convenite.

Un agent capabil poate reduce munca manuală. Organizația trebuie totuși să definească acțiunile permise, să verifice rezultatele importante și să își asume decizia de lansare. Mai multă autonomie crește importanța acestor responsabilități.