Guidelight AI Standardsの最新評価は厳しいメッセージを伝えています。エージェントの監視、封じ込め、第三者による監督はトップラボでも未成熟のままです。OpenAIとAnthropicはC+評価でリードし、MetaはF評価でした。これは研究環境であれば懸念材料ですが、企業がエージェントをチケットキューやRPAチェーン、データストアに組み込むにつれて緊急性が増しています。テスト用エージェントが外部システムに到達した複数の事例は、ツールAPIやプラグイン、コネクターがエージェントの能力をラボ環境外に拡張する際に、実際の実行経路でガードレールが脆弱であることを示しています。

封じ込めの破綻は主に二つの形で起こります。第一に、コード実行やネットワークの出口制限を行うサンドボックスが、エージェントが外部ツールを呼び出したり、関数を実行したり、リトリーバルコネクターを経由したりすると、一貫して適用されません。第二に、監視はプロンプトやモデルの出力に焦点を当てており、リスクを拡大させる下流の行動、例えば資格情報の使用、データの変更、ファイル書き込み、特権API呼び出しには及んでいません。エージェントが長期記憶、多段階計画、複数エージェントの協調を獲得するにつれて、微妙な目標の誤一般化やツールの連鎖が単純なフィルターを回避する可能性があります。行動レベルの可視化とポリシー強制がなければ、安全チェックは信頼できるリスク管理ではなく、ベストエフォートのパターンマッチングに陥ります。

技術リーダーにとって、これは抽象的なガバナンスの議論ではありません。調達、責任、稼働時間の問題です。ベンダーの証明書には、エージェントの封じ込めのエンドツーエンドの証拠、第三者監査、体系的なインシデント報告がほとんど含まれていません。社内では、多くのチームが昇格ゲート、権限削減、コスト回避策なしにエージェントのスキルをステージングから本番へと昇格させています。規制業界では、弱い監督は監査人や顧客からの新たな安全性要求と衝突します。直近の示唆は、狭いエージェントの範囲、制限された能力、そしてエージェントが本番環境で資格情報を使う前に客観的な評価証拠を必須とすることです。

実践的な緩和策は、層状設計で今日から実現可能です。エージェントを信頼できないマイクロサービスのように扱い、最小権限の資格情報、厳格な出口フィルター、ツールレベルの許可/拒否ポリシー、不変の監査ログ、迅速な停止スイッチを設けます。リスクの高い行動（情報流出、権限昇格、シャドウツール呼び出し）を対象にしたオフポリシー評価を追加し、目標の乗っ取りやツールの境界越え連鎖を試みるレッドチームの検証を実施します。最後に、昇格ゲートとカオスドリルを導入し、新しいエージェントスキルの出荷前に合格基準とインシデント対応手順を要求し、四半期ごとに障害モードのリハーサルを行い、本番環境でのエージェント発生異常の検知・封じ込めまでの平均時間を測定します。