# Третирајте прибављени садржај као непоуздан улаз

Taiga Learning · Радни лист
https://taiga.training/sr/lessons/prompt-injection/

Користите измишљене или одобрене информације. Не стављајте тајне у овај радни лист.

## Циљеви учења
- Препознајте индиректни prompt injection у развојном току рада.
- Објасните зашто саме текстуалне ознаке не могу да спроведу безбедносну границу.
- Осмислите безбедан тест ограничења алата.

## Вежба
Направите привремен тестни пример са коментаром који тражи да агент прескочи обавезну проверу. Извршите одобрену, изоловану процену без тајни или уписа у спољне системе. Проверите да се обавезна провера ипак извршава. Забележите дозволе алата, уочено понашање и ограничења овог појединачног теста.

## Ваш одговор
- Сценарио и обим:
- Претпоставке и отворена питања:
- Предложени одговор или одлука са разлозима:

## Проверите свој одговор
| Тврдња или критеријум | Доказ или тест | Резултат или недостатак | Одговорна особа |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Следећа радња
- Радња, одговорна особа и датум:
- Када ћете прегледати овај одговор?

## Принцип који треба запамтити
Документ може да пружи информације без овлашћења да издаје налоге. Спроводите дозволе алата и када модел погрешно тумачи прибављени текст.

## Извори
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Овај радни лист подржава учење. Његово попуњавање само по себи не даје овлашћење за измену у продукцији.