Asistentai, agentai ir teisės

Nustatykite, kaip sistema veikia

Asistentas gali paaiškinti kodą, pasiūlyti planą ar įgyvendinimą. Agentas taip pat gali naudoti įrankius ir veikti aplinką. Produktų pavadinimai neleidžia patikimai nustatyti ribos. Kai kurios pokalbių sąsajos gali vykdyti komandas. Kai kurie programavimo įrankiai tik siūlo tekstą.

Išnagrinėkite prieinamus įrankius. Naudingas aprašymas nurodo, ką sistema gali skaityti, keisti, vykdyti ir paskelbti. Jis taip pat nurodo, kokius prisijungimo duomenis ir aplinką naudoja kiekvienas veiksmas.

Anthropic skiria iš anksto nustatytas darbo eigas nuo agentų, kurie patys pasirenka įrankių naudojimo seką. Šis skirtumas padeda paaiškinti darbo eigą. Jis nenustato, ar konkretus veiksmas saugus. Abiem sprendimams reikia aiškių teisių ribų.

Atskirkite tikslą nuo leidimo

Apsvarstykite išgalvotą prašymą: „Pataisyk sąskaitų faktūrų eksportą.“ Agentas gali ištirti kodo saugyklą, atkurti klaidą, pakeisti šaką ir atlikti patikrinimus. Aplinkoje jis taip pat gali rasti produkcinės duomenų bazės prisijungimo duomenis.

Tikslas nesuteikia leidimo atlikti kiekvieną prieinamą veiksmą. Produkcinės lentelės skaitymas, sąskaitų įrašų keitimas ir naujos versijos diegimas turi skirtingas pasekmes. Bendras nurodymas „užbaik užduotį“ nepaaiškina, kuriuos iš šių veiksmų organizacija leidžia.

Apibrėžkite ribas prieš darbo pradžią. Šiame pavyzdyje agentas gali naudoti išgalvotus duomenis ir vietinę duomenų bazę. Jis gali sukurti pull request. Jis negali pasiekti produkcinių įrašų ar įdiegti pakeitimo. Šiuos veiksmus apima atskiras išleidimo procesas.

Įgaliojimus ribokite techninėmis kontrolės priemonėmis

Instrukcijos padeda agentui suprasti užduotį. Prisijungimo duomenys ir prieigos kontrolės priemonės lemia, ką jis iš tiesų gali atlikti. Naudokite abi priemones.

Vien skaitymo užduočiai negalima suteikti rašymo teisių vien dėl patogumo. Testavimo aplinka neturi nepastebimai paveldėti prieigos prie produkcinės aplinkos. Peržiūrėkite įrankių, tapatybių ir išteklių ryšius. Nekaltai atrodanti komanda gali turėti didelį poveikį, jei naudoja plačius įgaliojimus turinčią tapatybę.

Nustatykite, kada darbą būtina sustabdyti

Agentui reikia sustabdymo sąlygos, kai kitas veiksmas viršija jo įgaliojimus. Jos taip pat reikia, kai nepakanka įrodymų.

Sąskaitų pavyzdyje sustokite, jei klaidai pašalinti reikia taisyti produkcinius duomenis. Sustokite, jei prašomas veikimas prieštarauja dokumentuotai apskaitos taisyklei. Praneškite apie prieštaravimą, pateikite susijusius įrodymus ir nurodykite, kokio sprendimo reikia iš atsakingo asmens.

Pakartotiniams bandymams naudinga laiko ar išlaidų riba. Ji nepakeičia teisių ribos. Dešimt leidžiamų bandymų ir vienas neleistinas diegimas yra skirtingos problemos.

Įvertinkite rezultatą ir veiksmų įrašus

Baigę darbą, išnagrinėkite ne tik galutinį atsakymą. Peržiūrėkite pakeistus failus, atliktus patikrinimus ir likusius neaiškumus. Patikrinkite, ar veiksmai neperžengė sutartos apimties.

Pajėgus agentas gali sumažinti rankinį darbą. Organizacija vis tiek turi nustatyti leidžiamus veiksmus, patikrinti svarbius rezultatus ir atsakyti už sprendimą išleisti versiją. Didesnė autonomija didina šių atsakomybių svarbą.