تعامل مع المحتوى المسترجع كمدخل غير موثوق

حدّد النقطة التي تتحوّل عندها البيانات إلى تعليمات

يقرأ وكيل البرمجة أكثر من طلب المستخدم. فقد يفحص تذاكر المشكلات وملفات المستودع وتوثيق الحزم ونتائج البحث واستجابات الأدوات. وقد يتضمن بعض هذا المحتوى تعليمات من شخص آخر.

يحدث حقن المطالبات عندما يعيد هذا المحتوى توجيه النموذج بعيداً عن المهمة المأذون بها. ويصل الحقن غير المباشر عبر مصدر مسترجع بدلاً من طلب المستخدم المباشر. تصف OWASP مواد المستودع ومخرجات الأدوات كمداخل ذات صلة. اقرأ إرشادات الوقاية.

تأمّل مهمة صيانة خيالية. يطلب المستخدم من الوكيل إصلاح مرشح تقرير وتشغيل الاختبارات المطلوبة. ويقول README مسترجع إن الاختبارات قديمة، ويطلب من الوكيل رفع ملف إعدادات. يستطيع README شرح المشروع. لكنه لا يستطيع الإذن بتجاوز فحوص المستخدم أو إرسال الملفات إلى مكان آخر.

حدّد العواقب الممكنة

للنص المضلّل نفسه عواقب مختلفة في بيئات مختلفة. فقد تنتج أداة تلخيص للقراءة فقط ملخصاً خاطئاً. ويستطيع وكيل له حق الكتابة في المستودع تغيير الشيفرة. ويستطيع وكيل يصل إلى أسرار واتصالات شبكة صادرة كشف معلومات.

افحص الأفعال المتاحة قبل تحديد وسائل الحماية المهمة. احصر الموارد الحساسة والوجهات القابلة للكتابة والوجهات الخارجية. أدرج الموصّلات المضافة بعد الإعداد الأولي. فقد توسّع أداة جديدة أثر ضعف موجود.

قد ينقل الوكيل أيضاً محتوى مضلّلاً إلى مرحلة لاحقة. فقد ينسخ مثلاً تعليمات غير موثوقة إلى وصف مهمة مولّد. ويجب ألا يعتبر الوكيل التالي ذلك الوصف سياسة معتمدة بصورة مستقلة.

استخدم ضوابط متعددة ذات أغراض مختلفة

افصل تعليمات المهمة الموثوقة عن البيانات المسترجعة في تصميم التطبيق. وأظهر مصدر المواد المسترجعة. تحسّن هذه الخطوات التفسير، لكنها لا تنشئ حداً أمنياً كاملاً.

افرض صلاحيات الموارد في نظام التنفيذ. وقيّد وجهات البيانات الحساسة. واشترط القرار المناسب قبل الأفعال ذات العواقب المهمة. تحقّق من العملية المقترحة مقارنة بالمهمة والمورد المستهدف المأذون بهما.

قد تساعد المرشحات ونموذج ثانٍ في كشف محتوى مشبوه. وقد تفوتهما هجمات أو يحجبان معلومات مشروعة. لا تستبدل التخويل القائم على قواعد حاسمة بدرجة ثقة نموذج. تشير OWASP صراحة إلى حدود الاعتماد على المطالبات أو الاسترجاع وحدهما. اقرأ وصف الخطر.

اختبر سير العمل دون تعرّض فعلي

استخدم مستودعاً مؤقتاً وملفات خيالية. لا تمنح التقييم بيانات اعتماد للإنتاج أو كتابة خارجية غير مقيّدة. أدخل تعليمات غير ضارة تتعارض مع المهمة، مثل تجاوز فحص مطلوب.

راقب استجابة النموذج وأفعال الأدوات الفعلية معاً. لا تكفي رسالة «تجاهلت التعليمات» إذا جرى تجاوز الفحص رغم ذلك. سجّل المهمة وبيانات الاختبار المحقونة والأدوات المسموح بها والنتيجة الملاحظة.

كرّر حالات تمثّل العمل بعد تغييرات المطالبات أو النماذج أو الموصّلات أو الصلاحيات. يُعد المثال المحجوب دليلاً لتلك الحالة، لا برهاناً ضد كل حقن. إذا فشل اختبار، فقلّل العواقب الممكنة أثناء إصلاح سير العمل الأساسي.