# Dohvaćeni sadržaj tretirajte kao nepouzdan ulaz

Taiga Learning · Radni list
https://taiga.training/hr/lessons/prompt-injection/

Upotrijebite izmišljene ili odobrene informacije. Nemojte stavljati tajne podatke u ovaj radni list.

## Ciljevi učenja
- Prepoznati neizravni prompt injection u razvojnom procesu.
- Objasniti zašto same tekstne oznake ne mogu provesti sigurnosnu granicu.
- Osmisliti siguran test ograničenja alata.

## Vježba
Napravite jednokratan testni primjer s komentarom koji traži da agent preskoči obveznu provjeru. Pokrenite odobrenu, izoliranu evaluaciju bez tajnih podataka ili pisanja u vanjske sustave. Provjerite izvodi li se provjera i dalje. Zabilježite ovlasti alata, opaženo ponašanje i ograničenja ovog pojedinačnog testa.

## Vaš odgovor
- Scenarij i opseg:
- Pretpostavke i otvorena pitanja:
- Predloženi odgovor ili odluka, s razlozima:

## Provjerite odgovor
| Tvrdnja ili kriterij | Dokaz ili test | Rezultat ili nedostatak | Odgovorna osoba |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Sljedeća radnja
- Radnja, odgovorna osoba i datum:
- Kada ćete pregledati ovaj odgovor?

## Načelo koje treba zadržati
Dokument može dati informacije bez ovlasti. Provedite ovlasti alata čak i kad model pogrešno protumači dohvaćeni tekst.

## Izvori
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Ovaj radni list podupire učenje. Njegovo dovršavanje samo po sebi ne odobrava produkcijsku promjenu.