Asszisztensek, agentek és jogosultságok

Határozza meg, hogyan végez műveleteket a rendszer

Az asszisztens elmagyarázhat kódot, javasolhat tervet vagy megvalósítást. Az agent eszközöket is használhat, és műveleteket végezhet a környezetben. A terméknevek nem adnak megbízható elhatárolást. Egyes chatfelületek parancsokat futtathatnak. Egyes programozási eszközök csak szöveget javasolnak.

Vizsgálja meg az elérhető eszközöket. A hasznos leírás rögzíti, mit olvashat, módosíthat, futtathat és tehet közzé a rendszer. Azt is megadja, hogy az egyes műveletek milyen hitelesítő adatokat és környezetet használnak.

Az Anthropic megkülönbözteti az előre meghatározott munkafolyamatokat azoktól az agentektől, amelyek maguk választják meg az eszközhasználat sorrendjét. Ez a különbség segít megérteni a munka menetét. Nem dönti el, hogy egy adott művelet biztonságos-e. Mindkét megoldás egyértelmű jogosultsági határt igényel.

Válassza külön a célt és az engedélyt

Vegyünk egy fiktív kérést: „Javítsa ki a számlaexportot.” Az agent megvizsgálhatja a repozitárt, reprodukálhatja a hibát, módosíthat egy ágat és futtathat ellenőrzéseket. A környezetében az éles adatbázis hitelesítő adatait is megtalálhatja.

A cél nem engedélyez minden elérhető műveletet. Egy éles tábla olvasása, a számlarekordok módosítása és egy új verzió telepítése eltérő következményekkel jár. Egy általános utasítás, például „végezze el a feladatot”, nem határozza meg, hogy ezek közül mely műveleteket engedélyezi a szervezet.

A munka megkezdése előtt határozza meg a korlátokat. Ebben a példában az agent kitalált adatokat és helyi adatbázist használhat. Létrehozhat pull requestet. Nem férhet hozzá éles rekordokhoz, és nem telepítheti a módosítást. Ezeket a műveleteket külön kiadási folyamat kezeli.

Érvényesítse a jogosultságokat technikai kontrollokkal

Az utasítások segítenek az agentnek megérteni a feladatot. A hitelesítő adatok és a hozzáférés-szabályozás határozzák meg, mit tehet meg ténylegesen. Mindkettőt használja.

Egy csak olvasást igénylő feladat ne kapjon írásra jogosító hitelesítő adatokat pusztán kényelmi okból. A tesztkörnyezet ne örököljön észrevétlenül éles hozzáférést. Vizsgálja meg az eszközök, identitások és erőforrások közötti kapcsolatokat. Egy ártalmatlannak látszó parancsnak is nagy hatása lehet, ha széles jogosultságú identitást használ.

Határozza meg, mikor kell leállítani a munkát

Az agentnek leállási feltételre van szüksége, ha a következő művelet túllépné a jogosultságait. Akkor is kell ilyen feltétel, ha nincs elegendő bizonyíték.

A számlás példában állítsa le a munkát, ha a hiba éles adatok javítását igényli. Akkor is álljon le, ha a kért működés ellentmond a dokumentált számviteli szabálynak. Jelezze az ellentmondást a releváns bizonyítékokkal és a felelőstől kért döntéssel együtt.

Az idő- vagy költségkorlát hasznos az ismételt próbálkozásoknál. Nem helyettesíti a jogosultsági határt. Tíz engedélyezett próbálkozás és egy jogosulatlan telepítés két különböző probléma.

Értékelje az eredményt és a műveletek nyilvántartását

A munka végén ne csak a végső választ vizsgálja meg. Ellenőrizze a módosított fájlokat, a lefuttatott ellenőrzéseket és a fennmaradó bizonytalanságot. Nézze meg, hogy a műveletek a megállapodott kereteken belül maradtak-e.

Egy megfelelő képességű agent csökkentheti a kézi munkát. A szervezetnek továbbra is meg kell határoznia az engedélyezett műveleteket, ellenőriznie kell a fontos eredményeket, és felelnie kell a kiadási döntésért. A nagyobb autonómia növeli e feladatok jelentőségét.