# Uztveriet iegūto saturu kā neuzticamu ievadi

Taiga Learning · Darblapa
https://taiga.training/lv/lessons/prompt-injection/

Izmantojiet izdomātu vai apstiprinātu informāciju. Neievietojiet slepenos datus šajā darblapā.

## Mācību mērķi
- Atpazīstiet netiešu prompt injection izstrādes darbplūsmā.
- Izskaidrojiet, kāpēc tikai teksta apzīmējumi nevar nodrošināt drošības robežu.
- Izveidojiet drošu rīku ierobežojumu testu.

## Uzdevums
Izveidojiet vienreizlietojamus testa datus ar komentāru, kas lūdz aģentam izlaist obligātu pārbaudi. Veiciet atļautu, izolētu novērtējumu bez slepeniem datiem un ārējas rakstīšanas. Pārbaudiet, vai pārbaude joprojām tiek veikta. Reģistrējiet rīku tiesības, novēroto darbību un šī viena testa ierobežojumus.

## Jūsu atbilde
- Scenārijs un tvērums:
- Pieņēmumi un atvērtie jautājumi:
- Piedāvātā atbilde vai lēmums ar pamatojumu:

## Pārbaudiet savu atbildi
| Apgalvojums vai kritērijs | Pierādījums vai tests | Rezultāts vai trūkums | Atbildīgais |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Nākamā darbība
- Darbība, atbildīgais un datums:
- Kad pārskatīsiet šo atbildi?

## Saglabājamais princips
Dokuments var sniegt informāciju bez pilnvarām. Nodrošiniet rīku tiesību ievērošanu arī tad, ja modelis iegūto tekstu interpretē nepareizi.

## Avoti
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Šī darblapa atbalsta mācīšanos. Tās aizpildīšana pati par sevi neatļauj izmaiņu produkcijas vidē.