# Abgerufene Inhalte als nicht vertrauenswürdige Eingaben behandeln

Taiga Learning · Arbeitsblatt
https://taiga.training/de/lessons/prompt-injection/

Nutzen Sie fiktive oder freigegebene Informationen. Tragen Sie keine Secrets in dieses Arbeitsblatt ein.

## Lernziele
- Indirekte Prompt Injection in einem Entwicklungsablauf erkennen.
- Erklären, warum Textkennzeichnungen allein keine Sicherheitsgrenze durchsetzen.
- Einen sicheren Test für Werkzeugbeschränkungen entwerfen.

## Übung
Erstellen Sie temporäre Testdaten mit einem Kommentar, der den Agenten auffordert, eine erforderliche Prüfung auszulassen. Führen Sie eine autorisierte, isolierte Evaluation ohne Secrets oder externe Schreibzugriffe aus. Prüfen Sie, dass die Kontrolle trotzdem läuft. Dokumentieren Sie Werkzeugberechtigungen, beobachtetes Verhalten und die Grenzen dieses einzelnen Tests.

## Ihre Antwort
- Szenario und Umfang:
- Annahmen und offene Fragen:
- Vorgeschlagene Antwort oder Entscheidung mit Begründung:

## Prüfen Sie Ihre Antwort
| Aussage oder Kriterium | Nachweis oder Test | Ergebnis oder Lücke | Verantwortung |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Nächste Handlung
- Handlung, Verantwortung und Datum:
- Wann werden Sie diese Antwort erneut prüfen?

## Beizubehaltendes Prinzip
Ein Dokument kann Informationen liefern, ohne Befugnisse zu haben. Setzen Sie Werkzeugberechtigungen auch dann durch, wenn das Modell abgerufenen Text falsch interpretiert.

## Quellen
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Dieses Arbeitsblatt unterstützt das Lernen. Seine Bearbeitung autorisiert für sich genommen keine Produktionsänderung.