المساعدون والوكلاء والصلاحيات

حدّد كيف يتصرف النظام

يمكن للمساعد شرح الشيفرة أو اقتراح خطة أو اقتراح طريقة للتنفيذ. ويمكن للوكيل أيضاً استخدام أدوات والتصرف في البيئة. لا توفّر أسماء المنتجات حداً موثوقاً. تستطيع بعض واجهات المحادثة تنفيذ أوامر. ولا تقترح بعض أدوات البرمجة إلا نصاً.

افحص الأدوات المتاحة. يوضح الوصف المفيد ما يستطيع النظام قراءته وتغييره وتنفيذه ونشره. ويحدّد كذلك بيانات الاعتماد والبيئة التي يستخدمها كل فعل.

تميّز Anthropic بين مسارات العمل المحددة مسبقاً والوكلاء الذين يختارون تسلسل استخدام الأدوات بأنفسهم. يساعد هذا التمييز على شرح سير العمل. لكنه لا يحدّد إن كان فعل معين آمناً. يحتاج التصميمان إلى حدود صريحة للصلاحيات.

افصل الهدف عن الإذن

تأمّل طلباً خيالياً: «أصلح تصدير الفواتير». يستطيع الوكيل فحص المستودع وإعادة إظهار العيب وتعديل فرع وتشغيل الفحوص. وقد يجد أيضاً بيانات اعتماد قاعدة بيانات الإنتاج في بيئته.

لا يسمح الهدف بكل فعل متاح. تختلف عواقب قراءة جدول في بيئة الإنتاج وتغيير سجلات الفواتير ونشر إصدار جديد. لا تشرح تعليمة عامة مثل «أكمل المهمة» أي هذه الأفعال تسمح به المؤسسة.

حدّد الحدود قبل بدء العمل. في هذا المثال، يستطيع الوكيل استخدام بيانات مختلقة وقاعدة بيانات محلية. ويمكنه إنشاء طلب دمج. ولا يستطيع الوصول إلى سجلات الإنتاج أو نشر التغيير. تتولى عملية إصدار منفصلة تلك الأفعال.

استخدم الضوابط التقنية لتحديد السلطة

تساعد التعليمات الوكيل على فهم المهمة. وتحدّد بيانات الاعتماد وضوابط الوصول ما يستطيع فعله فعلياً. استخدم كليهما.

يجب ألا تحصل مهمة للقراءة فقط على بيانات اعتماد للكتابة لمجرد سهولة استخدامها. ويجب ألا ترث بيئة الاختبار الوصول إلى الإنتاج دون بيان ذلك. راجع الروابط بين الأدوات والهويات والموارد. قد يكون لأمر يبدو غير ضار أثر كبير إذا استخدم هوية واسعة الصلاحيات.

حدّد متى يجب أن يتوقف العمل

يحتاج الوكيل إلى شرط توقف عندما يتجاوز الفعل التالي سلطته. ويحتاج إلى شرط آخر عندما تكون الأدلة غير كافية.

في مثال الفواتير، توقّف إذا تطلّب إصلاح العيب تصحيح بيانات الإنتاج. وتوقّف إذا تعارض السلوك المطلوب مع القاعدة المحاسبية الموثّقة. أبلغ عن التعارض مع الأدلة ذات الصلة والقرار المطلوب من المسؤول.

يفيد وضع حد للوقت أو التكلفة عند تكرار المحاولات. لكنه لا يحلّ محل حدود الصلاحيات. عشر محاولات مأذون بها وعملية نشر واحدة غير مأذون بها مشكلتان مختلفتان.

قيّم النتيجة وسجل الأفعال

عند الانتهاء، لا تكتفِ بفحص الإجابة النهائية. راجع الملفات المعدّلة والفحوص المنفّذة وما بقي من شك. تحقّق من بقاء الأفعال ضمن النطاق المتفق عليه.

قد يقلّل الوكيل القادر العمل اليدوي. ولا تزال المؤسسة بحاجة إلى تحديد الأفعال المسموح بها والتحقق من النتائج المهمة وتحمل مسؤولية قرار الإصدار. كلما زادت الاستقلالية، زادت أهمية هذه المسؤوليات.