Aðstoðarkerfi, gervigreindaragentar og heimildir

Finndu hvernig kerfið framkvæmir aðgerðir

Aðstoðarkerfi getur útskýrt kóða, lagt til áætlun eða stungið upp á útfærslu. Gervigreindaragent getur líka notað verkfæri og framkvæmt aðgerðir í umhverfinu. Vöruheiti skilgreina ekki áreiðanleg mörk. Sum spjallviðmót geta keyrt skipanir. Sum forritunarverkfæri leggja aðeins til texta.

Skoðaðu tiltæk verkfæri. Gagnleg lýsing segir hvað kerfið getur lesið, breytt, keyrt og birt. Hún tilgreinir líka hvaða aðgangsupplýsingar og umhverfi hver aðgerð notar.

Anthropic greinir á milli fyrir fram skilgreindra verkferla og gervigreindaragenta sem velja sjálfir röð verkfæranotkunar. Þessi aðgreining hjálpar til við að útskýra hvernig vinnan fer fram. Hún segir ekki til um hvort tiltekin aðgerð sé örugg. Báðar útfærslur þurfa skýr heimildamörk.

Greindu markmið frá heimild

Skoðum ímyndaða beiðni: „Lagaðu útflutning reikninga.“ Gervigreindaragent getur skoðað kóðasafnið, endurskapað gallann, breytt grein og keyrt athuganir. Hann gæti líka fundið aðgangsupplýsingar að rekstrargagnagrunni í umhverfinu.

Markmiðið heimilar ekki allar tiltækar aðgerðir. Að lesa töflu í rekstri, breyta reikningsfærslum og setja upp nýja útgáfu hefur ólíkar afleiðingar. Víð fyrirmæli á borð við „ljúktu verkefninu“ útskýra ekki hvaða þessara aðgerða fyrirtækið leyfir.

Skilgreindu mörkin áður en vinna hefst. Í þessu dæmi getur gervigreindaragentinn notað tilbúin gögn og gagnagrunn á eigin vél. Hann getur búið til pull request. Hann má ekki opna færslur í rekstri eða setja breytinguna upp. Sérstakt útgáfuferli sér um þær aðgerðir.

Takmarkaðu heimildir með tæknilegum vörnum

Leiðbeiningar hjálpa gervigreindaragentinum að skilja verkefnið. Aðgangsupplýsingar og aðgangsstýringar ákvarða hvað hann getur í raun gert. Notaðu hvort tveggja.

Verkefni sem þarf aðeins að lesa ætti ekki að fá aðgangsupplýsingar með skrifheimildum bara vegna þess að það er þægilegt. Prufuumhverfi ætti ekki að erfa aðgang að rekstri án þess að það sé sýnilegt. Skoðaðu tengsl verkfæra, auðkenna og tilfanga. Skipun sem virðist meinlaus getur haft víðtæk áhrif ef hún notar auðkenni með miklar heimildir.

Skilgreindu hvenær vinna verður að stöðvast

Gervigreindaragent þarf stöðvunarskilyrði þegar næsta aðgerð fer út fyrir heimildir hans. Hann þarf þau líka þegar staðfestingargögn eru ófullnægjandi.

Í reikningsdæminu á að stöðva vinnu ef gallinn krefst leiðréttingar á gögnum í rekstri. Stöðvaðu vinnu ef umbeðin hegðun stangast á við skjalfesta bókhaldsreglu. Tilkynntu áreksturinn með viðeigandi gögnum og tilgreindu hvaða ákvörðun ábyrgðaraðili þarf að taka.

Tíma- eða kostnaðarmörk eru gagnleg fyrir endurteknar tilraunir. Þau koma ekki í stað heimildamarka. Tíu heimilaðar tilraunir og ein óheimil uppsetning eru ólík vandamál.

Metu niðurstöðuna og aðgerðaskrána

Þegar verki lýkur skaltu skoða meira en lokasvarið. Farðu yfir breyttar skrár, framkvæmdar athuganir og óvissu sem stendur eftir. Athugaðu hvort aðgerðirnar héldust innan samþykkts umfangs.

Öflugur gervigreindaragent getur dregið úr handavinnu. Fyrirtækið þarf samt að skilgreina leyfilegar aðgerðir, sannreyna mikilvægar niðurstöður og bera ábyrgð á ákvörðun um útgáfu. Aukið sjálfstæði gerir þessa ábyrgð enn mikilvægari.