アシスタント、エージェント、権限

システムがどのように操作するかを確認する

アシスタントはコードの説明、計画の提案、実装案の提示ができます。エージェントはさらに、ツールを使って環境を操作できます。製品名では、その境界を確実に判断できません。コマンドを実行できるチャット画面もあれば、テキストを提案するだけのコーディングツールもあります。

利用可能なツールを確認してください。システムが何を読み取り、変更し、実行し、公開できるかを記述すると役立ちます。各操作で使う認証情報と環境も特定します。

Anthropicは、事前定義されたワークフローと、ツールを使う順序を自ら選ぶエージェントを区別しています。この区別は作業の進め方の説明に役立ちます。ただし、特定の操作が安全かどうかは決まりません。どちらにも明確な権限の範囲が必要です。

架空の依頼「請求書のエクスポートを修正してください」を考えます。エージェントはリポジトリを調べ、不具合を再現し、ブランチを編集し、確認を実行できます。その環境で、本番データベースの認証情報を見つける可能性もあります。

目標があるからといって、利用可能なすべての操作が許されるわけではありません。本番のテーブルを読むこと、請求書のレコードを変更すること、新しいバージョンをデプロイすることでは、影響が異なります。「タスクを完了してください」という広い指示では、どの操作を組織が許可しているか分かりません。

作業の開始前に範囲を定めてください。この例では、エージェントは架空のデータとローカルのデータベースを使えます。pull requestを作成できます。本番レコードへのアクセスと変更のデプロイはできません。これらは別のリリースプロセスで扱います。

指示は、エージェントがタスクを理解する助けになります。認証情報とアクセス制御は、実際に何ができるかを決めます。両方を使ってください。

便利だからという理由だけで、読み取り専用のタスクに書き込み用の認証情報を渡してはいけません。テスト環境に、知らないうちに本番アクセスが引き継がれてはいけません。ツール、ID、リソースのつながりを確認します。強い権限を持つIDを使うと、無害に見えるコマンドでも大きな影響を与えることがあります。

次の操作が権限を超える場合、エージェントには停止条件が必要です。証拠が不足している場合にも必要です。

請求書の例では、本番データの修正が必要だと分かったら停止します。要求された動作が、文書化された会計ルールと矛盾する場合も停止します。矛盾、関連する証拠、責任者に必要な判断を報告してください。

試行を繰り返す場合、時間や費用の上限は役立ちます。ただし、権限の制限の代わりにはなりません。許可された試行を十回行うことと、許可されていないデプロイを一回行うことは、異なる問題です。

完了時には、最後の回答以外も確認してください。変更ファイル、実行した確認、残る不確実性をレビューします。操作が合意した範囲内に収まっていたか確認します。

能力の高いエージェントは手作業を減らせます。それでも、許可する操作を定め、重要な結果を検証し、リリースを判断する責任は組織にあります。自律性が高まるほど、これらの責任は重要になります。