Βοηθοί, agents και δικαιώματα

Προσδιορίστε πώς ενεργεί το σύστημα

Ένας βοηθός μπορεί να εξηγήσει κώδικα, να προτείνει ένα σχέδιο ή μια υλοποίηση. Ένας agent μπορεί επιπλέον να χρησιμοποιεί εργαλεία και να ενεργεί στο περιβάλλον. Οι ονομασίες των προϊόντων δεν ορίζουν αξιόπιστο όριο. Ορισμένες διεπαφές συνομιλίας μπορούν να εκτελούν εντολές. Ορισμένα εργαλεία προγραμματισμού προτείνουν μόνο κείμενο.

Εξετάστε τα διαθέσιμα εργαλεία. Μια χρήσιμη περιγραφή δηλώνει τι μπορεί το σύστημα να διαβάσει, να αλλάξει, να εκτελέσει και να δημοσιεύσει. Προσδιορίζει επίσης τα διαπιστευτήρια και το περιβάλλον που χρησιμοποιεί κάθε ενέργεια.

Η Anthropic διακρίνει τις προκαθορισμένες ροές εργασίας από τους agents που επιλέγουν τη δική τους σειρά χρήσης εργαλείων. Αυτή η διάκριση βοηθά να εξηγηθεί πώς προχωρά η εργασία. Δεν καθορίζει αν μια συγκεκριμένη ενέργεια είναι ασφαλής. Και οι δύο προσεγγίσεις χρειάζονται ρητό όριο δικαιωμάτων.

Διαχωρίστε τον στόχο από την άδεια

Εξετάστε ένα πλασματικό αίτημα: «Διορθώστε την εξαγωγή τιμολογίων». Ένας agent μπορεί να εξετάσει το αποθετήριο, να αναπαραγάγει το ελάττωμα, να επεξεργαστεί ένα branch και να εκτελέσει ελέγχους. Μπορεί επίσης να βρει στο περιβάλλον του διαπιστευτήρια για τη βάση δεδομένων παραγωγής.

Ο στόχος δεν εξουσιοδοτεί κάθε διαθέσιμη ενέργεια. Η ανάγνωση ενός πίνακα παραγωγής, η αλλαγή εγγραφών τιμολογίων και το deployment νέας έκδοσης έχουν διαφορετικές συνέπειες. Μια γενική οδηγία όπως «ολοκληρώστε την εργασία» δεν εξηγεί ποιες από αυτές τις ενέργειες επιτρέπει ο οργανισμός.

Ορίστε το όριο πριν ξεκινήσει η εργασία. Σε αυτό το παράδειγμα, ο agent μπορεί να χρησιμοποιήσει επινοημένα δεδομένα και μια τοπική βάση δεδομένων. Μπορεί να δημιουργήσει ένα pull request. Δεν μπορεί να αποκτήσει πρόσβαση σε εγγραφές παραγωγής ή να κάνει deployment της αλλαγής. Μια ξεχωριστή διαδικασία διάθεσης χειρίζεται αυτές τις ενέργειες.

Χρησιμοποιήστε τεχνικούς ελέγχους για την εξουσιοδότηση

Οι οδηγίες βοηθούν τον agent να κατανοήσει την εργασία. Τα διαπιστευτήρια και οι έλεγχοι πρόσβασης καθορίζουν τι μπορεί πραγματικά να κάνει. Χρησιμοποιήστε και τα δύο.

Μια εργασία μόνο για ανάγνωση δεν πρέπει να λαμβάνει διαπιστευτήρια εγγραφής απλώς επειδή βολεύουν. Ένα περιβάλλον δοκιμών δεν πρέπει να κληρονομεί σιωπηρά πρόσβαση στην παραγωγή. Εξετάστε τις συνδέσεις μεταξύ εργαλείων, ταυτοτήτων και πόρων. Μια φαινομενικά ακίνδυνη εντολή μπορεί να έχει μεγάλη επίδραση όταν χρησιμοποιεί ταυτότητα με ευρέα δικαιώματα.

Ορίστε πότε πρέπει να σταματά η εργασία

Ο agent χρειάζεται συνθήκη διακοπής όταν η επόμενη ενέργεια υπερβαίνει την εξουσιοδότησή του. Χρειάζεται επίσης συνθήκη διακοπής όταν τα αποδεικτικά στοιχεία δεν επαρκούν.

Στο παράδειγμα των τιμολογίων, σταματήστε αν το ελάττωμα απαιτεί διόρθωση δεδομένων παραγωγής. Σταματήστε αν η ζητούμενη συμπεριφορά συγκρούεται με τον τεκμηριωμένο λογιστικό κανόνα. Αναφέρετε τη σύγκρουση μαζί με τα σχετικά αποδεικτικά στοιχεία και την απόφαση που απαιτείται από έναν υπεύθυνο.

Ένα χρονικό όριο ή όριο κόστους είναι χρήσιμο για επαναλαμβανόμενες προσπάθειες. Δεν αντικαθιστά το όριο δικαιωμάτων. Δέκα εξουσιοδοτημένες προσπάθειες και ένα μη εξουσιοδοτημένο deployment είναι διαφορετικά προβλήματα.

Αξιολογήστε το αποτέλεσμα και το αρχείο ενεργειών

Όταν ολοκληρωθεί η εργασία, μην εξετάζετε μόνο την τελική απάντηση. Ελέγξτε τα αλλαγμένα αρχεία, τους ελέγχους που εκτελέστηκαν και την αβεβαιότητα που παραμένει. Ελέγξτε αν οι ενέργειες έμειναν μέσα στη συμφωνημένη έκταση.

Ένας ικανός agent μπορεί να μειώσει τη χειρωνακτική εργασία. Ο οργανισμός εξακολουθεί να χρειάζεται να ορίζει τις επιτρεπόμενες ενέργειες, να επαληθεύει σημαντικά αποτελέσματα και να αναλαμβάνει την απόφαση διάθεσης. Η μεγαλύτερη αυτονομία αυξάνει τη σημασία αυτών των ευθυνών.