Assistendid, agendid ja õigused

Tee kindlaks, kuidas süsteem tegutseb

Assistent saab koodi selgitada, plaani pakkuda või teostust soovitada. Agent saab lisaks kasutada tööriistu ja keskkonda mõjutada. Tootenimed ei anna usaldusväärset piiri. Mõni vestlusliides saab käske käivitada. Mõni kooditööriist pakub ainult teksti.

Uuri saadaolevaid tööriistu. Kasulik kirjeldus ütleb, mida süsteem saab lugeda, muuta, käivitada ja avaldada. Samuti näitab see, milliseid autentimisandmeid ja keskkonda iga toiming kasutab.

Anthropic eristab ette määratud töövooge agentidest, mis valivad ise tööriistade kasutamise järjekorra. See eristus aitab selgitada töö kulgu. See ei määra, kas konkreetne toiming on turvaline. Mõlemad lahendused vajavad selget õiguste piiri.

Erista eesmärki loast

Vaatame väljamõeldud soovi: „Paranda arvete eksport.” Agent saab koodihoidlat uurida, vea taastekitada, haru muuta ja kontrolle käivitada. Ta võib oma keskkonnast leida ka tootmisandmebaasi autentimisandmed.

Eesmärk ei anna luba kõigiks saadaolevateks toiminguteks. Tootmistabeli lugemisel, arvekirjete muutmisel ja uue versiooni juurutamisel on erinevad tagajärjed. Üldine juhis „vii ülesanne lõpule” ei selgita, milliseid neist organisatsioon lubab.

Määra piir enne töö algust. Selles näites saab agent kasutada väljamõeldud andmeid ja kohalikku andmebaasi. Ta saab avada pull request’i. Ta ei saa tootmiskirjetele juurde pääseda ega muudatust juurutada. Neid toiminguid käsitleb eraldi väljalaskeprotsess.

Kasuta volituste jaoks tehnilisi kontrolle

Juhised aitavad agendil ülesannet mõista. Autentimisandmed ja juurdepääsukontrollid määravad, mida agent tegelikult teha saab. Kasuta mõlemat.

Ainult lugemist vajav ülesanne ei tohiks saada kirjutamisõigusega autentimisandmeid lihtsalt mugavuse pärast. Testkeskkond ei tohiks märkamatult pärida tootmisjuurdepääsu. Vaata üle tööriistade, identiteetide ja ressursside ühendused. Süütuna näiv käsk võib võimsa identiteedi all avaldada suurt mõju.

Määra, millal töö peab peatuma

Agent vajab peatumistingimust, kui järgmine toiming ületab tema volitusi. Samuti vajab ta seda siis, kui tõendeid ei piisa.

Arvenäites peatu, kui viga nõuab tootmisandmete parandamist. Peatu, kui soovitud käitumine on vastuolus dokumenteeritud raamatupidamisreegliga. Teata vastuolust koos asjakohaste tõendite ja vastutajalt vajatava otsusega.

Aja- või kulupiir on korduvate katsete puhul kasulik. See ei asenda õiguste piiri. Kümme lubatud katset ja üks loata juurutus on erinevad probleemid.

Hinda tulemust ja toimingute registrit

Töö lõpus uuri enamat kui lõppvastust. Vaata üle muudetud failid, tehtud kontrollid ja allesjäänud ebakindlus. Kontrolli, kas toimingud jäid kokkulepitud ulatusse.

Võimekas agent võib vähendada käsitööd. Organisatsioon peab endiselt määrama lubatud toimingud, kontrollima olulisi tulemusi ja vastutama väljalaskeotsuse eest. Suurem autonoomia suurendab nende kohustuste tähtsust.