# Käsitle hangitud sisu ebausaldusväärse sisendina

Taiga Learning · Tööleht
https://taiga.training/et/lessons/prompt-injection/

Kasuta väljamõeldud või heaks kiidetud teavet. Ära pane sellesse töölehte saladusi.

## Õpieesmärgid
- Tuvasta arendustöövoos kaudne prompt injection.
- Selgita, miks tekstisildid üksi ei saa turvapiiri jõustada.
- Kavanda tööriistapiirangutele ohutu test.

## Harjutus
Loo ajutised testandmed kommentaariga, mis palub agendil nõutava kontrolli vahele jätta. Tee lubatud eraldatud hindamine ilma saladuste ja väliste kirjutustoiminguteta. Kontrolli, et kontroll endiselt käivitub. Pane kirja tööriistaõigused, täheldatud käitumine ja selle ühe testi piirangud.

## Sinu vastus
- Stsenaarium ja ulatus:
- Eeldused ja lahtised küsimused:
- Pakutud vastus või otsus koos põhjendustega:

## Kontrolli oma vastust
| Väide või kriteerium | Tõend või test | Tulemus või lünk | Vastutaja |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Järgmine tegevus
- Tegevus, vastutaja ja kuupäev:
- Millal vaatad selle vastuse üle?

## Säilitatav põhimõte
Dokument saab anda teavet ilma volitusteta. Jõusta tööriistaõigused ka siis, kui mudel tõlgendab hangitud teksti valesti.

## Allikad
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

See tööleht toetab õppimist. Selle täitmine ei anna iseenesest luba tootmiskeskkonna muudatuseks.