Asistanlar, ajanlar ve izinler

Sistemin nasıl hareket ettiğini belirleyin

Bir asistan kodu açıklayabilir, plan önerebilir veya uygulama önerisinde bulunabilir. Bir ajan ayrıca araç kullanıp ortamda işlem yapabilir. Ürün adları güvenilir bir sınır çizmez. Bazı sohbet arayüzleri komut çalıştırabilir. Bazı kodlama araçları ise yalnızca metin önerir.

Kullanılabilen araçları inceleyin. İşe yarayan bir açıklama, sistemin neleri okuyabildiğini, değiştirebildiğini, çalıştırabildiğini ve yayımlayabildiğini belirtir. Her işlemin hangi erişim bilgilerini ve ortamı kullandığını da tanımlar.

Anthropic, önceden tanımlanmış iş akışlarını kendi araç kullanım sırasını seçen ajanlardan ayırır. Bu ayrım işin nasıl ilerlediğini açıklar. Belirli bir işlemin güvenli olup olmadığını belirlemez. Her iki tasarımın da açık bir izin sınırına ihtiyacı vardır.

Hedefi izinden ayırın

Kurgusal bir talep düşünün: ‘Fatura dışa aktarımını düzelt.’ Bir ajan kod deposunu inceleyebilir, kusuru yeniden üretebilir, bir dalı düzenleyebilir ve kontrolleri çalıştırabilir. Ortamında üretim veri tabanına ait erişim bilgileri de bulabilir.

Hedef, kullanılabilir her işleme izin vermez. Üretim tablosunu okumak, fatura kayıtlarını değiştirmek ve yeni sürüm dağıtmak farklı sonuçlar doğurur. ‘Görevi tamamla’ gibi geniş bir talimat, kuruluşun bu işlemlerden hangilerine izin verdiğini açıklamaz.

İş başlamadan sınırı tanımlayın. Bu örnekte ajan uydurma veriler ve yerel bir veri tabanı kullanabilir. Pull request açabilir. Üretim kayıtlarına erişemez veya değişikliği dağıtamaz. Bu işlemleri ayrı bir yayın süreci yürütür.

Yetki için teknik kontroller kullanın

Talimatlar ajanın görevi anlamasına yardımcı olur. Erişim bilgileri ve erişim kontrolleri ise ajanın gerçekten ne yapabileceğini belirler. İkisini de kullanın.

Salt okunur bir görev, sırf kolaylık sağladığı için yazma erişim bilgileri almamalıdır. Test ortamı üretim erişimini fark edilmeden devralmamalıdır. Araçlar, kimlikler ve kaynaklar arasındaki bağlantıları inceleyin. Zararsız görünen bir komut güçlü bir kimlik kullandığında büyük etki yaratabilir.

İşin ne zaman duracağını tanımlayın

Sonraki işlem yetkisini aştığında ajanın durma koşuluna ihtiyacı vardır. Kanıt yetersiz olduğunda da durmalıdır.

Fatura örneğinde kusur üretim verisi düzeltmesi gerektiriyorsa durun. İstenen davranış belgelenmiş muhasebe kuralıyla çelişiyorsa durun. Çelişkiyi ilgili kanıtla ve bir sorumlunun vermesi gereken kararla birlikte bildirin.

Tekrarlanan denemeler için zaman veya maliyet sınırı yararlıdır. Ancak izin sınırının yerini tutmaz. On yetkili deneme ile tek bir yetkisiz dağıtım farklı sorunlardır.

Sonucu ve işlem kaydını değerlendirin

İş tamamlandığında son yanıttan fazlasını inceleyin. Değişen dosyaları, çalıştırılan kontrolleri ve kalan belirsizliği gözden geçirin. İşlemlerin kararlaştırılan kapsam içinde kalıp kalmadığını kontrol edin.

Yetenekli bir ajan elle yapılan işi azaltabilir. Kuruluş yine de izin verilen işlemleri tanımlamalı, önemli sonuçları doğrulamalı ve yayın kararının sorumluluğunu üstlenmelidir. Daha fazla özerklik bu sorumlulukları daha önemli hâle getirir.