Помошници, агенти и дозволи

Утврдете како дејствува системот

Помошник може да објасни код, да предложи план или да предложи имплементација. Агент може и да користи алатки и да дејствува врз околината. Имињата на производите не поставуваат сигурна граница. Некои интерфејси за разговор може да извршуваат команди. Некои алатки за програмирање предлагаат само текст.

Испитајте ги достапните алатки. Корисен опис наведува што системот може да чита, менува, извршува и објавува. Описот ги наведува и пристапните податоци и околината што ги користи секое дејство.

Anthropic разликува однапред дефинирани работни текови од агенти што самостојно го избираат редоследот на користење алатки. Оваа разлика помага да се објасни како се одвива работата. Не одредува дали конкретно дејство е безбедно. На двата пристапа им треба јасна граница на дозволите.

Одделете ја целта од дозволата

Разгледајте измислено барање: „Поправете го извозот на фактури.“ Агент може да го испита репозиториумот, да го репродуцира дефектот, да измени гранка и да изврши проверки. Во својата околина може да најде и пристапни податоци за продукциската база на податоци.

Целта не го овластува секое достапно дејство. Читањето табела во продукциската околина, менувањето записи за фактури и распоредувањето нова верзија имаат различни последици. Широка инструкција како „завршете ја задачата“ не објаснува кое од овие дејства го дозволува организацијата.

Одредете ги границите пред почетокот на работата. Во овој пример, агентот може да користи измислени податоци и локална база. Може да отвори барање за спојување код. Не смее да пристапи до записи од продукциската околина или да ја распореди промената. Тие дејства ги опфаќа посебен процес за издавање.

Спроведувајте ги овластувањата со технички контроли

Инструкциите му помагаат на агентот да ја разбере задачата. Пристапните податоци и контролите на пристап одредуваат што навистина може да направи. Користете ги и двете.

Задача само за читање не треба да добие пристапни податоци за запишување само затоа што тоа е погодно. Тестна околина не треба незабележано да наследи продукциски пристап. Прегледајте ги врските меѓу алатките, идентитетите и ресурсите. Команда што изгледа безопасно може да има голем ефект ако користи идентитет со широки овластувања.

Одредете кога работата мора да запре

На агентот му треба услов за запирање кога следното дејство ги надминува неговите овластувања. Му треба и кога доказите се недоволни.

Во примерот со фактурите, запрете ако поправањето на дефектот бара промена на продукциски податоци. Запрете ако бараното однесување е во судир со документираното сметководствено правило. Пријавете го судирот со релевантните докази и одлуката што треба да ја донесе одговорното лице.

Ограничување на времето или трошокот е корисно за повторени обиди. Не ја заменува границата на дозволите. Десет овластени обиди и едно неовластено распоредување се различни проблеми.

Оценете ги резултатот и записот за дејствата

По завршувањето, испитајте повеќе од конечниот одговор. Прегледајте ги изменетите датотеки, извршените проверки и преостанатата неизвесност. Проверете дали дејствата останале во договорениот опфат.

Способен агент може да ја намали рачната работа. Организацијата сепак треба да ги одреди дозволените дејства, да ги провери важните резултати и да ја преземе одговорноста за одлуката за издавање. Поголемата автономија ја зголемува важноста на овие одговорности.