# Pridobljeno vsebino obravnavajte kot nezaupanja vreden vhod

Taiga Learning · Delovni list
https://taiga.training/sl/lessons/prompt-injection/

Uporabite izmišljene ali odobrene informacije. V ta delovni list ne vnašajte skrivnosti.

## Učni cilji
- Prepoznajte posredno vrivanje navodil v razvojnem delovnem toku.
- Pojasnite, zakaj same besedilne oznake ne morejo uveljaviti varnostne meje.
- Zasnujte varen test omejitev orodij.

## Vaja
Ustvarite začasno testno datoteko s komentarjem, ki agentu naroči, naj preskoči zahtevano preverjanje. Izvedite odobreno, ločeno ocenjevanje brez skrivnosti ali pisanja v zunanje sisteme. Preverite, da se preverjanje vseeno izvede. Zabeležite dovoljenja orodij, opaženo delovanje in omejitve tega posameznega testa.

## Vaš odgovor
- Scenarij in obseg:
- Predpostavke in odprta vprašanja:
- Predlagani odgovor ali odločitev z razlogi:

## Preverite odgovor
| Trditev ali merilo | Dokazilo ali test | Rezultat ali vrzel | Odgovorna oseba |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Naslednji ukrep
- Ukrep, odgovorna oseba in datum:
- Kdaj boste pregledali ta odgovor?

## Načelo, ki si ga velja zapomniti
Dokument lahko zagotavlja informacije, ne da bi imel pooblastila. Dovoljenja orodij uveljavljajte tudi, ko model napačno razume pridobljeno besedilo.

## Viri
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Ta delovni list podpira učenje. Njegova izpolnitev sama po sebi ne daje dovoljenja za spremembo v produkciji.