Assistenter, agenter og tillatelser

Finn ut hvordan systemet handler

En assistent kan forklare kode, foreslå en plan eller foreslå en implementering. En agent kan også bruke verktøy og handle i miljøet. Produktnavn gir ikke en pålitelig avgrensning. Noen chatgrensesnitt kan kjøre kommandoer. Noen kodeverktøy foreslår bare tekst.

Undersøk de tilgjengelige verktøyene. En nyttig beskrivelse angir hva systemet kan lese, endre, kjøre og publisere. Den identifiserer også hvilke påloggingsopplysninger og hvilket miljø hver handling bruker.

Anthropic skiller forhåndsdefinerte arbeidsflyter fra agenter som velger sin egen rekkefølge for verktøybruk. Skillet forklarer hvordan arbeidet fortsetter. Det avgjør ikke om en bestemt handling er trygg. Begge design krever en tydelig tillatelsesgrense.

Skill mål fra tillatelse

Se for deg en fiktiv forespørsel: «Rett fakturaeksporten.» En agent kan undersøke repositoryet, gjenskape feilen, redigere en branch og kjøre kontroller. Den kan også finne påloggingsopplysninger til produksjonsdatabasen i miljøet sitt.

Målet autoriserer ikke alle tilgjengelige handlinger. Å lese en produksjonstabell, endre fakturaposter og rulle ut en ny versjon har ulike konsekvenser. En bred instruksjon som «fullfør oppgaven» forklarer ikke hvilke handlinger organisasjonen tillater.

Definer grensen før arbeidet starter. I eksemplet kan agenten bruke oppdiktede data og en lokal database. Den kan opprette en pull request. Den kan ikke få tilgang til produksjonsposter eller rulle ut endringen. En separat utgivelsesprosess håndterer disse handlingene.

Bruk tekniske kontroller for fullmakter

Instruksjoner hjelper agenten med å forstå oppgaven. Påloggingsopplysninger og tilgangskontroller avgjør hva agenten faktisk kan gjøre. Bruk begge deler.

En leseoppgave bør ikke få skrivetilgang bare fordi det er praktisk. Et testmiljø bør ikke ubemerket arve produksjonstilgang. Gjennomgå forbindelsene mellom verktøy, identiteter og ressurser. En tilsynelatende harmløs kommando kan få stor virkning når den bruker en identitet med omfattende rettigheter.

Definer når arbeidet må stoppe

En agent trenger en stoppbetingelse når neste handling overskrider fullmaktene. Den trenger også en når dokumentasjonen er utilstrekkelig.

I fakturaeksemplet skal agenten stoppe hvis feilen krever retting av produksjonsdata. Den skal stoppe hvis ønsket atferd strider mot den dokumenterte regnskapsregelen. Rapporter konflikten med relevant dokumentasjon og beslutningen som kreves fra en ansvarlig.

En tids- eller kostnadsgrense er nyttig ved gjentatte forsøk. Den erstatter ikke en tillatelsesgrense. Ti autoriserte forsøk og én uautorisert utrulling er forskjellige problemer.

Vurder resultatet og handlingsloggen

Undersøk mer enn det endelige svaret når arbeidet er ferdig. Gjennomgå endrede filer, utførte kontroller og gjenværende usikkerhet. Kontroller om handlingene holdt seg innenfor avtalt omfang.

En dyktig agent kan redusere manuelt arbeid. Organisasjonen må fortsatt definere tillatte handlinger, verifisere viktige resultater og eie utgivelsesbeslutningen. Mer autonomi gjør dette ansvaret enda viktigere.