Pomočniki, agenti in dovoljenja

Ugotovite, kako sistem deluje

Pomočnik lahko pojasni kodo, predlaga načrt ali način izvedbe. Agent lahko tudi uporablja orodja in deluje v okolju. Imena izdelkov ne določajo zanesljive meje. Nekateri vmesniki za klepet lahko izvajajo ukaze. Nekatera orodja za programiranje samo predlagajo besedilo.

Preglejte razpoložljiva orodja. Uporaben opis pove, kaj lahko sistem bere, spreminja, izvaja in objavlja. Navede tudi poverilnice in okolje, ki jih uporablja posamezno dejanje.

Anthropic razlikuje med vnaprej določenimi delovnimi tokovi in agenti, ki sami izberejo zaporedje uporabe orodij. Ta razlika pomaga pojasniti potek dela. Ne določa pa, ali je posamezno dejanje varno. Obe zasnovi potrebujeta izrecno določene meje dovoljenj.

Ločite cilj od dovoljenja

Predstavljajte si izmišljeno zahtevo: »Popravite izvoz računov.« Agent lahko pregleda repozitorij, ponovi napako, uredi vejo in izvede preverjanja. V svojem okolju lahko najde tudi poverilnice za produkcijsko podatkovno zbirko.

Cilj ne dovoljuje vseh razpoložljivih dejanj. Branje produkcijske tabele, spreminjanje zapisov računov in namestitev nove različice imajo različne posledice. Splošno navodilo, kot je »dokončajte nalogo«, ne pove, katera od teh dejanj organizacija dovoljuje.

Meje določite pred začetkom dela. V tem primeru lahko agent uporablja izmišljene podatke in lokalno podatkovno zbirko. Lahko odpre pull request. Ne sme dostopati do produkcijskih zapisov ali namestiti spremembe. Za ti dejanji je namenjen ločen postopek izdajanja.

Pooblastila omejite s tehničnimi ukrepi

Navodila pomagajo agentu razumeti nalogo. Poverilnice in nadzor dostopa določajo, kaj agent dejansko lahko naredi. Uporabite oboje.

Naloga, ki potrebuje samo branje, ne sme dobiti poverilnic za pisanje zgolj zaradi priročnosti. Testno okolje ne sme neopazno podedovati dostopa do produkcije. Preglejte povezave med orodji, identitetami in viri. Navidezno neškodljiv ukaz ima lahko velik učinek, če uporablja identiteto z obsežnimi pooblastili.

Določite, kdaj se mora delo ustaviti

Agent potrebuje pogoj za ustavitev, ko bi naslednje dejanje preseglo njegova pooblastila. Potrebuje ga tudi, ko ni dovolj dokazov.

Pri primeru z računi ustavite delo, če napaka zahteva popravek produkcijskih podatkov. Ustavite ga tudi, če je zahtevano delovanje v nasprotju z dokumentiranim računovodskim pravilom. Poročajte o neskladju, priložite ustrezne dokaze in navedite, katero odločitev mora sprejeti odgovorna oseba.

Časovna ali stroškovna omejitev je uporabna pri ponovnih poskusih. Ne nadomesti pa meje dovoljenj. Deset dovoljenih poskusov in ena nedovoljena namestitev sta različni težavi.

Ocenite rezultat in zapis dejanj

Ob zaključku preglejte več kot samo končni odgovor. Preglejte spremenjene datoteke, izvedena preverjanja in preostale negotovosti. Preverite, ali so dejanja ostala v dogovorjenem obsegu.

Zmogljiv agent lahko zmanjša količino ročnega dela. Organizacija mora še vedno določiti dovoljena dejanja, preveriti pomembne rezultate in prevzeti odgovornost za odločitev o izdaji. Več samostojnosti poveča pomen teh odgovornosti.