Assistenter, agenter och behörigheter

Identifiera hur systemet agerar

En assistent kan förklara kod, föreslå en plan eller föreslå en implementation. En agent kan också använda verktyg och påverka miljön. Produktnamn ger ingen tillförlitlig gräns. Vissa chattgränssnitt kan köra kommandon. Vissa kodverktyg föreslår bara text.

Granska tillgängliga verktyg. En användbar beskrivning anger vad systemet kan läsa, ändra, köra och publicera. Den identifierar också vilka autentiseringsuppgifter och vilken miljö varje åtgärd använder.

Anthropic skiljer fördefinierade arbetsflöden från agenter som väljer sin egen följd av verktygsanrop. Skillnaden hjälper till att förklara hur arbetet går till. Den avgör inte om en viss åtgärd är säker. Båda behöver en uttrycklig behörighetsgräns.

Skilj mål från tillstånd

Tänk dig en fiktiv begäran: ”Rätta fakturaexporten.” En agent kan granska repositoryt, återskapa felet, redigera en branch och köra kontroller. Den kan också hitta autentiseringsuppgifter till produktionsdatabasen i sin miljö.

Målet ger inte tillstånd till alla tillgängliga åtgärder. Att läsa en produktionstabell, ändra fakturaposter och driftsätta en ny version har olika konsekvenser. En bred instruktion som ”slutför uppgiften” förklarar inte vilka av åtgärderna organisationen tillåter.

Definiera gränsen innan arbetet börjar. I exemplet får agenten använda påhittade data och en lokal databas. Den får skapa en pull request. Den får inte läsa produktionsposter eller driftsätta ändringen. En separat releaseprocess hanterar de åtgärderna.

Använd tekniska kontroller för befogenheter

Instruktioner hjälper agenten att förstå uppgiften. Autentiseringsuppgifter och åtkomstkontroller avgör vad agenten faktiskt kan göra. Använd båda.

En uppgift som bara kräver läsning ska inte få skrivbehörighet för bekvämlighetens skull. En testmiljö ska inte obemärkt ärva produktionsåtkomst. Granska kopplingarna mellan verktyg, identiteter och resurser. Ett till synes harmlöst kommando kan få stor effekt med en kraftfull identitet.

Bestäm när arbetet måste stanna

En agent behöver ett stoppvillkor när nästa åtgärd överskrider dess befogenhet. Den behöver också ett när underlaget är otillräckligt.

I fakturaexemplet ska arbetet stanna om felet kräver en korrigering av produktionsdata. Stanna om det begärda beteendet strider mot den dokumenterade redovisningsregeln. Rapportera konflikten med relevant underlag och det beslut som behövs från en ansvarig.

En tids- eller kostnadsgräns är användbar för upprepade försök. Den ersätter inte en behörighetsgräns. Tio tillåtna försök och en otillåten driftsättning är olika problem.

Bedöm resultatet och åtgärdsloggen

Granska mer än det slutliga svaret när arbetet är klart. Kontrollera ändrade filer, utförda kontroller och kvarvarande osäkerhet. Kontrollera att åtgärderna höll sig inom överenskommet omfång.

En kapabel agent kan minska manuellt arbete. Organisationen behöver fortfarande definiera tillåtna åtgärder, verifiera viktiga resultat och ansvara för releasebeslutet. Mer autonomi gör detta ansvar viktigare.