# Лічыце атрыманы змест недаверанымі ўваходнымі данымі

Taiga Learning · Працоўны ліст
https://taiga.training/be/lessons/prompt-injection/

Выкарыстоўвайце выдуманую або ўхваленую інфармацыю. Не змяшчайце сакрэты ў гэтым працоўным лісце.

## Мэты навучання
- Выяўляць непрамую prompt injection у працоўным працэсе распрацоўкі.
- Тлумачыць, чаму адны тэкставыя пазнакі не могуць забяспечыць мяжу бяспекі.
- Праектаваць бяспечны тэст абмежаванняў інструментаў.

## Практыкаванне
Стварыце часовы тэставы файл з каментарыем, які просіць агента прапусціць абавязковую праверку. Выканайце дазволеную ізаляваную ацэнку без сакрэтаў і запісу ў знешнія сістэмы. Праверце, што праверка ўсё роўна запускаецца. Запішыце дазволы інструментаў, назіраныя паводзіны і межы гэтага адзінага тэсту.

## Ваш адказ
- Сцэнарый і абсяг:
- Дапушчэнні і адкрытыя пытанні:
- Прапанаваны адказ або рашэнне з абгрунтаваннем:

## Праверце свой адказ
| Сцверджанне або крытэрый | Доказ або тэст | Вынік або прабел | Адказны |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Наступнае дзеянне
- Дзеянне, адказны і дата:
- Калі вы перагледзіце гэты адказ?

## Прынцып, які трэба запомніць
Дакумент можа даваць інфармацыю, не маючы паўнамоцтваў. Забяспечвайце выкананне правіл доступу для інструментаў, нават калі мадэль няправільна тлумачыць атрыманы тэкст.

## Крыніцы
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Гэты працоўны ліст падтрымлівае навучанне. Само яго запаўненне не дазваляе змены ў production-асяроддзі.