Avustajat, agentit ja käyttöoikeudet

Selvitä, miten järjestelmä toimii

Avustaja voi selittää koodia, ehdottaa suunnitelmaa tai kirjoittaa toteutuksen. Agentti voi lisäksi käyttää työkaluja ja tehdä muutoksia ympäristöön. Tuotenimi ei kerro rajaa luotettavasti. Osa chat-käyttöliittymistä suorittaa komentoja, kun taas osa coding-työkaluista vain ehdottaa tekstiä.

Katso käytettävissä olevat työkalut. Kuvaa, mitä järjestelmä voi lukea, muuttaa, suorittaa ja julkaista. Selvitä myös, mitä tunnuksia ja ympäristöä kukin toiminto käyttää.

Anthropic erottaa ennalta määritellyt työnkulut agenteista, jotka valitsevat itse työkalujen käytön järjestyksen. Jaottelu auttaa ymmärtämään työn etenemistä. Se ei yksin kerro, onko tietty toimenpide turvallinen. Molemmat tarvitsevat selkeät valtuusrajat.

Tavoite ei anna kaikkia valtuuksia

Kuvitellaan pyyntö: ”Korjaa laskujen vienti.” Agentti voi tutkia repositoriota, toistaa virheen, muokata branchia ja ajaa tarkistuksia. Se saattaa löytää ympäristöstään myös tuotantotietokannan tunnukset.

Tavoite ei valtuuta kaikkea, mikä teknisesti onnistuu. Tuotantotietojen lukeminen, laskurivien muuttaminen ja uuden version julkaiseminen ovat seurauksiltaan erilaisia toimia. ”Hoida tehtävä valmiiksi” ei kerro, mitkä niistä organisaatio sallii.

Rajaa valtuudet ennen työtä. Tässä esimerkissä agentti saa käyttää keksittyä dataa ja paikallista tietokantaa. Se saa avata pull requestin. Tuotantotietojen käsittely ja julkaisu kuuluvat erilliseen prosessiin.

Valvo rajoja myös teknisesti

Ohje auttaa agenttia ymmärtämään tehtävän. Tunnukset ja käyttöoikeudet määrittävät, mitä agentti todella pystyy tekemään. Tarvitset molemmat.

Lukutehtävä ei tarvitse kirjoitustunnuksia vain siksi, että ne ovat helposti saatavilla. Testiympäristöön ei pidä huomaamatta periytyä tuotantopääsyä. Tarkasta työkalujen, identiteettien ja resurssien yhteydet. Tavallisen näköinen komento voi vaikuttaa laajasti, jos se käyttää vahvoja oikeuksia.

Määrittele pysähtymisen ehdot

Agentin pitää pysähtyä, kun seuraava toimenpide ylittää valtuudet. Myös puutteellinen näyttö voi vaatia pysähdyksen.

Laskuesimerkissä työ pysähtyy, jos korjaus vaatii tuotantodatan muuttamista. Samoin käy, jos pyydetty toiminta on ristiriidassa kirjatun kirjanpitosäännön kanssa. Agentin tulee näyttää ristiriita, siihen liittyvä näyttö ja omistajalta tarvittava päätös.

Aika- tai kustannusraja auttaa hallitsemaan toistuvia yrityksiä. Se ei korvaa käyttöoikeusrajaa. Kymmenen sallittua yritystä ja yksi luvaton julkaisu ovat eri ongelmia.

Tarkasta tuloksen lisäksi tehdyt toimet

Lopuksi tarkasta muutetut tiedostot, ajetut tarkistukset ja avoimet kysymykset. Pelkkä agentin loppuviesti ei riitä. Varmista myös, että työ pysyi sovitussa laajuudessa.

Kyvykäs agentti voi vähentää käsityötä. Organisaatio määrittää silti sallitut toimet, tarkistaa olennaiset tulokset ja vastaa julkaisupäätöksestä. Autonomian kasvaessa näitä vastuita tarvitaan entistä enemmän.