Asistenti, aģenti un tiesības

Nosakiet, kā sistēma rīkojas

Asistents var izskaidrot kodu, piedāvāt plānu vai ieteikt īstenojumu. Aģents var arī izmantot rīkus un rīkoties vidē. Produktu nosaukumi nedod uzticamu robežu. Dažas tērzēšanas saskarnes var izpildīt komandas. Daži programmēšanas rīki tikai iesaka tekstu.

Pārbaudiet pieejamos rīkus. Noderīgs apraksts norāda, ko sistēma var lasīt, mainīt, izpildīt un publicēt. Tas arī norāda, kurus piekļuves datus un vidi izmanto katra darbība.

Anthropic atšķir iepriekš definētas darbplūsmas no aģentiem, kas paši izvēlas rīku izmantošanas secību. Šī atšķirība palīdz izskaidrot darba norisi. Tā nenosaka, vai konkrēta darbība ir droša. Abiem risinājumiem vajag skaidru tiesību robežu.

Atdaliet mērķi no atļaujas

Aplūkojiet izdomātu pieprasījumu: „Izlabojiet rēķinu eksportu.“ Aģents var pārbaudīt repozitoriju, reproducēt defektu, rediģēt zaru un palaist pārbaudes. Tas savā vidē var arī atrast produkcijas datubāzes piekļuves datus.

Mērķis neatļauj katru pieejamo darbību. Produkcijas tabulas lasīšanai, rēķinu ierakstu maiņai un jaunas versijas izvietošanai ir atšķirīgas sekas. Plaša instrukcija, piemēram, „pabeidziet uzdevumu“, nepaskaidro, kuras no šīm darbībām organizācija atļauj.

Nosakiet robežu pirms darba sākuma. Šajā piemērā aģents var izmantot izdomātus datus un lokālu datubāzi. Tas var izveidot pull request. Tas nevar piekļūt produkcijas ierakstiem vai izvietot izmaiņu. Šīs darbības veic atsevišķs laidiena process.

Pilnvaras nodrošiniet ar tehniskām kontrolēm

Instrukcijas palīdz aģentam saprast uzdevumu. Piekļuves dati un piekļuves kontrole nosaka, ko aģents faktiski var darīt. Izmantojiet abus.

Tikai lasīšanas uzdevumam nevajadzētu saņemt rakstīšanas piekļuves datus tikai ērtības dēļ. Testa vide nedrīkst nemanāmi mantot produkcijas piekļuvi. Pārskatiet saiknes starp rīkiem, identitātēm un resursiem. Nekaitīgi izskatīgai komandai var būt liela ietekme, ja tā izmanto identitāti ar plašām tiesībām.

Nosakiet, kad darbam jāapstājas

Aģentam vajag apstāšanās nosacījumu, ja nākamā darbība pārsniedz tā pilnvaras. Tāds nosacījums vajadzīgs arī tad, ja pierādījumu nepietiek.

Rēķinu piemērā apstājieties, ja defekta novēršanai vajag labot produkcijas datus. Apstājieties, ja pieprasītā darbība ir pretrunā dokumentētam grāmatvedības noteikumam. Ziņojiet par pretrunu, pievienojot attiecīgos pierādījumus un norādot lēmumu, kas vajadzīgs no atbildīgā.

Laika vai izmaksu limits ir noderīgs atkārtotiem mēģinājumiem. Tas neaizstāj tiesību robežu. Desmit atļauti mēģinājumi un viena neatļauta izvietošana ir atšķirīgas problēmas.

Novērtējiet rezultātu un darbību ierakstu

Darba beigās pārbaudiet vairāk nekā tikai pēdējo atbildi. Pārskatiet mainītos failus, veiktās pārbaudes un atlikušo nenoteiktību. Pārbaudiet, vai darbības palika saskaņotajā tvērumā.

Spējīgs aģents var samazināt manuālo darbu. Organizācijai joprojām jānosaka atļautās darbības, jāpārbauda būtiskie rezultāti un jāuzņemas atbildība par laidiena lēmumu. Lielāka autonomija padara šos pienākumus vēl svarīgākus.