Ittratta kontenut miksub bħala input mhux affidabbli

Identifika l-punt fejn id-data ssir istruzzjoni

Aġent tal-kodiċi jaqra aktar mit-talba tal-utent. Jista’ jispezzjona issues, fajls tar-repożitorju, dokumentazzjoni tal-pakketti, riżultati tat-tiftix u tweġibiet tal-għodod. Xi kontenut jista’ jkun fih istruzzjonijiet minn persuna oħra.

Prompt injection isseħħ meta kontenut bħal dan jiddevja l-mudell mill-kompitu awtorizzat. Injection indiretta tasal minn sors miksub minflok mit-talba diretta tal-utent. OWASP jiddeskrivi materjal tar-repożitorju u output tal-għodod bħala punti rilevanti minn fejn jista’ jidħol attakk. Aqra l-gwida tal-prevenzjoni.

Ikkunsidra kompitu fittizju ta’ manutenzjoni. L-utent jitlob lill-aġent jikkoreġi filtru ta’ rapport u jħaddem it-testijiet meħtieġa. README miksub jgħid li t-testijiet huma skaduti u jitlob lill-aġent itella’ fajl ta’ konfigurazzjoni. Ir-README jista’ jispjega l-proġett. Ma jistax jawtorizza li jinqabżu l-kontrolli tal-utent jew li jintbagħtu fajls xi mkien ieħor.

Immappja l-konsegwenzi possibbli

L-istess test qarrieqi għandu konsegwenzi differenti f’ambjenti differenti. Għodda li taqra biss u tagħmel sommarji tista’ tipproduċi sommarju żbaljat. Aġent b’aċċess għall-kitba fir-repożitorju jista’ jbiddel kodiċi. Aġent b’sigrieti u aċċess ‘il barra għan-network jista’ jesponi informazzjoni.

Spezzjona l-azzjonijiet disponibbli qabel tiddeċiedi liema difiżi huma importanti. Elenka r-riżorsi sensittivi, il-miri fejn tista’ ssir kitba u d-destinazzjonijiet esterni. Inkludi konnetturi miżjuda wara s-setup inizjali. Għodda ġdida tista’ tkabbar l-effett ta’ dgħufija eżistenti.

Aġent jista’ wkoll iġorr kontenut qarrieqi lejn stadju sussegwenti. Pereżempju, jista’ jikkopja istruzzjoni mhux affidabbli f’deskrizzjoni ġġenerata ta’ kompitu. L-aġent li jmiss ma għandux jittratta dik id-deskrizzjoni bħala politika approvata indipendentement.

Uża diversi kontrolli bi skopijiet distinti

Fid-disinn tal-applikazzjoni, issepara istruzzjonijiet affidabbli tal-kompitu mid-data miksuba. Uri l-oriġini tal-materjal miksub. Dawn il-passi jtejbu l-interpretazzjoni, iżda ma jistabbilixxux konfini sħaħ tas-sigurtà.

Infurza l-permessi tar-riżorsi fis-sistema tal-eżekuzzjoni. Illimita d-destinazzjonijiet għal data sensittiva. Itlob id-deċiżjoni xierqa qabel azzjonijiet b’konsegwenzi importanti. Ivvalida l-operazzjoni proposta skont il-kompitu u l-mira awtorizzati.

Filtri u t-tieni mudell jistgħu jgħinu jsibu kontenut suspettuż. Jistgħu wkoll ma jsibux attakki jew jimblukkaw informazzjoni leġittima. Tissostitwixxix awtorizzazzjoni deterministika b’punteġġ ta’ kunfidenza tal-mudell. OWASP jinnota espliċitament il-limiti ta’ dipendenza fuq prompts jew retrieval biss. Aqra d-deskrizzjoni tar-riskju.

Ittestja l-fluss tax-xogħol mingħajr espożizzjoni reali

Uża repożitorju li tista’ twarrab u fajls fittizji. Tagħtix lill-evalwazzjoni kredenzjali tal-produzzjoni jew kitba bla restrizzjonijiet f’sistemi esterni. Daħħal istruzzjoni bla ħsara li tmur kontra l-kompitu, bħal li jinqabeż kontroll meħtieġ.

Osserva kemm it-tweġiba tal-mudell kif ukoll l-azzjonijiet reali tal-għodod. Messaġġ li jgħid ‘Injorajt l-istruzzjoni’ mhuwiex biżżejjed jekk il-kontroll xorta nqabeż. Irreġistra l-kompitu, il-fixture bl-injection, l-għodod permessi u r-riżultat osservat.

Irrepeti każijiet rappreżentattivi wara bidliet fil-prompts, il-mudelli, il-konnetturi jew il-permessi. Eżempju mblukkat huwa evidenza għal dak il-każ, mhux prova kontra kull injection. Jekk test ifalli, naqqas il-konsegwenzi possibbli waqt li tikkoreġi l-fluss tax-xogħol sottostanti.