Μοντελοποιήστε τις απειλές σε μια ροή ανάπτυξης με AI

Επιλέξτε ένα περιορισμένο σενάριο

Ξεκινήστε από μία ροή εργασίας που οι άνθρωποι μπορούν να κατανοήσουν. Για παράδειγμα, ένας agent διαβάζει ένα issue, επεξεργάζεται ένα αποθετήριο, εκτελεί tests και ανοίγει ένα pull request. Συμπεριλάβετε τα συστήματα που επιτρέπουν αυτές τις ενέργειες.

Καταγράψτε τα σημαντικά στοιχεία που χρειάζονται προστασία: πηγαίο κώδικα, πληροφορίες πελατών, διαπιστευτήρια, artifacts εκδόσεων και διαθεσιμότητα υπηρεσίας. Προσδιορίστε ποιος είναι υπεύθυνος για αυτά. Έπειτα προσδιορίστε τα άτομα και συστήματα που μπορούν να διαβάσουν ή να αλλάξουν κάθε στοιχείο.

Το OWASP συνιστά μοντελοποίηση του συστήματος, εντοπισμό απειλών, επιλογή αποκρίσεων και επικύρωση του αποτελέσματος. Χρησιμοποιήστε τη μέθοδο νωρίς και ενημερώνετέ τη καθώς αλλάζει το σύστημα. Οδηγίες μοντελοποίησης απειλών.

Σχεδιάστε τα όρια εμπιστοσύνης

Για την πλασματική ροή από issue σε PR, σχεδιάστε αυτές τις συνδέσεις:

Issue → agent → repository → test runner → artifact store → deployment

Προσθέστε τον πάροχο μοντέλου και τον χώρο αποθήκευσης μυστικών. Σημειώστε πού προέρχεται περιεχόμενο από λιγότερο έμπιστη πηγή. Σημειώστε πού μια ταυτότητα αποκτά νέα δυνατότητα, όπως όταν περνά από την ανάγνωση issue στην εγγραφή αρχείων αποθετηρίου.

Το διάγραμμα εφαρμογής από μόνο του δεν δείχνει ολόκληρο τον κίνδυνο ανάπτυξης. Μια βάση δεδομένων παραγωγής μπορεί να είναι ιδιωτική, ενώ μια εργασία CI εκθέτει διαπιστευτήριο. Συμπεριλάβετε προσωρινά περιβάλλοντα και πρόσβαση υποστήριξης όταν επηρεάζουν το σενάριο.

Γράψτε μια συγκεκριμένη διαδρομή αστοχίας

Αποφύγετε καταχωρίσεις όπως «το AI μπορεί να μην είναι ασφαλές». Γράψτε ποιος ενεργεί, μια ενέργεια, ένα επηρεαζόμενο στοιχείο και μια συνέπεια. Συμπεριλάβετε τις συνθήκες που χρειάζονται για να συμβεί το σενάριο.

Αυτά είναι παραδείγματα, όχι πλήρης λίστα απειλών. Τα δεδομένα, τα εργαλεία και το περιβάλλον λειτουργίας σας καθορίζουν τα σχετικά σενάρια.

Επιλέξτε απόκριση με υπεύθυνο

Δώστε προτεραιότητα στις συνέπειες και στην τεκμηριωμένα πιθανή έκθεση. Αποφύγετε να παρουσιάζετε μια αριθμητική βαθμολογία ως ακρίβεια που δεν διαθέτετε. Καταγράψτε την αβεβαιότητα και τα αποδεικτικά στοιχεία που θα μπορούσαν να αλλάξουν την προτεραιότητα.

Μια απόκριση μπορεί να αφαιρέσει την επικίνδυνη δυνατότητα, να περιορίσει την έκτασή της, να προσθέσει έλεγχο ή να αποδεχτεί καθορισμένο υπολειπόμενο κίνδυνο. Η αποδοχή χρειάζεται εξουσιοδοτημένο υπεύθυνο και αιτιολογία. Δεν πρέπει να είναι συμπέρασμα agent που δεν έχει ανασκοπηθεί.

Μετατρέψτε την επιλεγμένη απόκριση σε εργασία με παρατηρήσιμη συνθήκη αποδοχής. Το «βελτιώστε την ασφάλεια του agent» είναι δύσκολο να επαληθευτεί. Το «η εργασία tests δεν μπορεί να διαβάσει το μυστικό παραγωγής» ορίζει όριο που μπορεί να ελεγχθεί.

Επανεξετάστε μετά από ουσιώδεις αλλαγές

Ένας νέος connector, μια διαδρομή μοντέλου, ένα περιβάλλον ή ένα δικαίωμα μπορεί να αλλάξει το μοντέλο απειλών. Προσθέστε αυτές τις αλλαγές στα εναύσματα επανεξέτασης. Χρησιμοποιήστε επίσης περιστατικά και αποτυχημένες αξιολογήσεις για να ενημερώσετε τις υποθέσεις.

Δοκιμάστε την άσκηση ανασκόπησης κινδύνου για να αλλάξετε τα δεδομένα, την εξουσιοδότηση, το κοινό και τις συνθήκες ανάκτησης ενός σεναρίου. Το αποτέλεσμα προτείνει ερωτήματα. Δεν αντικαθιστά ένα μοντέλο απειλών για το συγκεκριμένο σύστημα ούτε εξουσιοδοτεί την εργασία.