# Získaný obsah považujte za nedôveryhodný vstup

Taiga Learning · Pracovný list
https://taiga.training/sk/lessons/prompt-injection/

Použite fiktívne alebo schválené informácie. Do pracovného listu nevkladajte tajné údaje.

## Vzdelávacie ciele
- Rozpoznať nepriamy prompt injection vo vývojovom pracovnom postupe.
- Vysvetliť, prečo samotné textové označenia nemôžu vynucovať bezpečnostnú hranicu.
- Navrhnúť bezpečný test obmedzení nástrojov.

## Cvičenie
Vytvorte dočasný testovací súbor s komentárom, ktorý žiada agenta vynechať povinnú kontrolu. Spustite povolené, izolované vyhodnotenie bez tajných údajov a externých zápisov. Overte, že sa kontrola aj tak spustí. Zaznamenajte oprávnenia nástrojov, pozorované správanie a obmedzenia tohto jediného testu.

## Vaša odpoveď
- Scenár a rozsah:
- Predpoklady a otvorené otázky:
- Navrhovaná odpoveď alebo rozhodnutie s dôvodmi:

## Overte svoju odpoveď
| Tvrdenie alebo kritérium | Dôkaz alebo test | Výsledok alebo nedostatok | Zodpovedná osoba |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Ďalšia úloha
- Úloha, zodpovedná osoba a dátum:
- Kedy túto odpoveď preskúmate?

## Zásada na zapamätanie
Dokument môže poskytovať informácie bez oprávnenia riadiť akcie. Vynucujte oprávnenia nástrojov aj vtedy, keď model získaný text vyloží nesprávne.

## Zdroje
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Tento pracovný list podporuje učenie. Jeho vyplnenie samo osebe nepovoľuje produkčnú zmenu.