# Третирајте ја прибраната содржина како недоверлив влез

Taiga Learning · Работен лист
https://taiga.training/mk/lessons/prompt-injection/

Користете измислени или одобрени информации. Не ставајте тајни во овој работен лист.

## Цели на учењето
- Препознајте индиректен prompt injection во развоен работен тек.
- Објаснете зошто текстуални ознаки сами не можат да спроведат безбедносна граница.
- Осмислете безбеден тест за ограничувањата на алатките.

## Вежба
Создајте привремен тестен пример со коментар што бара агент да прескокне задолжителна проверка. Извршете овластено, изолирано оценување без тајни или надворешни запишувања. Проверете дали проверката сепак се извршува. Запишете ги дозволите на алатките, забележаното однесување и ограничувањата на овој единствен тест.

## Вашиот одговор
- Сценарио и опфат:
- Претпоставки и отворени прашања:
- Предложен одговор или одлука, со образложение:

## Проверете го вашиот одговор
| Тврдење или критериум | Доказ или тест | Резултат или празнина | Одговорно лице |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Следно дејство
- Дејство, одговорно лице и датум:
- Кога ќе го прегледате овој одговор?

## Начело што треба да го задржите
Документ може да обезбеди информации без да има овластување. Спроведувајте ги дозволите на алатките и кога моделот погрешно ја толкува прибраната содржина.

## Извори
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Овој работен лист го поддржува учењето. Неговото пополнување само по себе не овластува продукциска промена.