# Третирайте извлеченото съдържание като недоверен вход

Taiga Learning · Работен лист
https://taiga.training/bg/lessons/prompt-injection/

Използвайте измислена или одобрена информация. Не поставяйте тайни стойности в този работен лист.

## Учебни цели
- Определете непряка prompt injection атака в работен процес за разработка.
- Обяснете защо текстовите етикети сами по себе си не могат да наложат граница на сигурността.
- Проектирайте безопасен тест на ограниченията за инструментите.

## Упражнение
Създайте временни тестови данни с коментар, който иска агентът да пропусне задължителна проверка. Изпълнете разрешена, изолирана оценка без тайни стойности или запис във външни системи. Проверете дали проверката все пак се изпълнява. Запишете правата за инструментите, наблюдаваното поведение и ограниченията на този единствен тест.

## Вашият отговор
- Сценарий и обхват:
- Допускания и отворени въпроси:
- Предложен отговор или решение с обосновка:

## Проверете отговора си
| Твърдение или критерий | Доказателства или тест | Резултат или пропуск | Отговорник |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Следващо действие
- Действие, отговорник и дата:
- Кога ще прегледате този отговор?

## Принцип, който да запомните
Документ може да предоставя информация, без да има правомощия. Налагайте правата за инструментите дори когато моделът тълкува извлечения текст погрешно.

## Източници
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Този работен лист подпомага ученето. Самото му попълване не разрешава промяна в продукционната среда.