# Αντιμετωπίστε το ανακτημένο περιεχόμενο ως μη έμπιστη είσοδο

Taiga Learning · Φύλλο εργασίας
https://taiga.training/el/lessons/prompt-injection/

Χρησιμοποιήστε φανταστικές πληροφορίες ή πληροφορίες των οποίων η χρήση έχει εγκριθεί. Μην καταχωρίζετε μυστικά σε αυτό το φύλλο εργασίας.

## Μαθησιακοί στόχοι
- Εντοπίστε έμμεσο prompt injection σε μια ροή ανάπτυξης.
- Εξηγήστε γιατί οι ετικέτες κειμένου από μόνες τους δεν μπορούν να επιβάλουν όριο ασφάλειας.
- Σχεδιάστε ασφαλή δοκιμή για περιορισμούς εργαλείων.

## Άσκηση
Δημιουργήστε προσωρινό fixture με σχόλιο που ζητά από έναν agent να παραλείψει υποχρεωτικό έλεγχο. Εκτελέστε εξουσιοδοτημένη, απομονωμένη αξιολόγηση χωρίς μυστικά ή εγγραφές σε εξωτερικά συστήματα. Επαληθεύστε ότι ο έλεγχος εξακολουθεί να εκτελείται. Καταγράψτε τα δικαιώματα εργαλείων, την παρατηρούμενη συμπεριφορά και τα όρια αυτής της μεμονωμένης δοκιμής.

## Η απάντησή σας
- Σενάριο και πεδίο εφαρμογής:
- Παραδοχές και ανοιχτά ερωτήματα:
- Προτεινόμενη απάντηση ή απόφαση, με αιτιολόγηση:

## Επαληθεύστε την απάντησή σας
| Ισχυρισμός ή κριτήριο | Αποδεικτικά στοιχεία ή δοκιμή | Αποτέλεσμα ή έλλειψη | Υπεύθυνος |
| --- | --- | --- | --- |
| | | | |
| | | | |
| | | | |

## Επόμενη ενέργεια
- Ενέργεια, υπεύθυνος και ημερομηνία:
- Πότε θα επανεξετάσετε αυτή την απάντηση;

## Αρχή που πρέπει να θυμάστε
Ένα έγγραφο μπορεί να παρέχει πληροφορίες χωρίς να έχει εξουσία να δίνει οδηγίες. Επιβάλετε τα δικαιώματα εργαλείων ακόμη και όταν το μοντέλο ερμηνεύει λανθασμένα ανακτημένο κείμενο.

## Πηγές
- [OWASP: Prompt Injection Prevention](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html)
- [OWASP: Prompt Injection risk](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)

Αυτό το φύλλο εργασίας υποστηρίζει τη μάθηση. Η συμπλήρωσή του δεν αποτελεί από μόνη της εξουσιοδότηση για αλλαγή στο περιβάλλον παραγωγής.