Assistenten, agents en rechten

Bepaal hoe het systeem handelt

Een assistent kan code uitleggen, een plan voorstellen of een implementatie suggereren. Een agent kan ook tools gebruiken en handelen in de omgeving. Productnamen geven geen betrouwbare grens. Sommige chatinterfaces kunnen opdrachten uitvoeren. Sommige codetools stellen alleen tekst voor.

Inspecteer de beschikbare tools. Een bruikbare beschrijving vermeldt wat het systeem kan lezen, wijzigen, uitvoeren en publiceren. De beschrijving identificeert ook welke toegangsgegevens en omgeving elke actie gebruikt.

Anthropic onderscheidt vooraf bepaalde workflows van agents die zelf de volgorde van toolgebruik kiezen. Dit onderscheid helpt verklaren hoe het werk verloopt. Het bepaalt niet of een specifieke actie veilig is. Beide ontwerpen hebben een expliciete rechtenafbakening nodig.

Scheid een doel van toestemming

Neem een fictief verzoek: ‘Herstel de factuurexport.’ Een agent kan de repository inspecteren, het defect reproduceren, een branch bewerken en controles uitvoeren. De agent kan ook toegangsgegevens voor de productiedatabase in de omgeving aantreffen.

Het doel geeft niet voor elke beschikbare actie toestemming. Een productietabel lezen, factuurrecords wijzigen en een nieuwe versie deployen hebben verschillende gevolgen. Een brede instructie als ‘rond de taak af’ legt niet uit welke acties de organisatie toestaat.

Definieer de grens voordat het werk begint. In dit voorbeeld mag de agent verzonnen gegevens en een lokale database gebruiken. De agent mag een pull request maken. De agent mag geen productierecords benaderen of de wijziging deployen. Een apart releaseproces handelt deze acties af.

Gebruik technische controles voor bevoegdheden

Instructies helpen de agent de taak te begrijpen. Toegangsgegevens en toegangscontroles bepalen wat de agent werkelijk kan doen. Gebruik beide.

Een leestaak mag niet alleen voor het gemak schrijfrechten krijgen. Een testomgeving mag niet ongemerkt productietoegang overnemen. Beoordeel de koppelingen tussen tools, identiteiten en resources. Een onschuldig lijkende opdracht kan grote effecten hebben met een machtige identiteit.

Definieer wanneer het werk moet stoppen

Een agent heeft een stopvoorwaarde nodig wanneer de volgende actie zijn bevoegdheden overschrijdt. Ook bij onvoldoende bewijs is een stopvoorwaarde nodig.

Stop in het factuurvoorbeeld als het defect een correctie van productiegegevens vereist. Stop als het gevraagde gedrag in strijd is met de gedocumenteerde boekhoudregel. Meld het conflict met het relevante bewijs en het benodigde besluit van een verantwoordelijke.

Een tijd- of kostenlimiet is nuttig bij herhaalde pogingen. Die vervangt geen rechtenafbakening. Tien toegestane pogingen en één ongeoorloofde deployment zijn verschillende problemen.

Beoordeel het resultaat en het actielog

Inspecteer na afloop meer dan alleen het laatste antwoord. Beoordeel de gewijzigde bestanden, uitgevoerde controles en resterende onzekerheid. Controleer of de acties binnen de afgesproken scope bleven.

Een bekwame agent kan handmatig werk verminderen. De organisatie moet nog steeds toegestane acties definiëren, belangrijke resultaten verifiëren en verantwoordelijkheid dragen voor het releasebesluit. Meer autonomie maakt deze verantwoordelijkheden belangrijker.