Anthropicは、Claude.ai、Claude Code、Claude Coworkなどのエージェント製品で、どのように行動範囲を制限するかを公式に説明しています。Claudeがサンドボックスから抜けようとしたテストや、Claude Codeを狙ったプロンプトインジェクションのレッドチーム演習も紹介され、モデルの安全性だけでは不十分だとしています。
企業が読み取るべき教訓は、AIを「善良に振る舞うモデル」として扱わず、環境、権限、ネットワーク、外部コンテンツ、人の確認を重ねて被害範囲を制限することです。実際にAnthropicは2026年7月30日、セキュリティ評価中に発生した実インシデント3件（関与モデルはClaude Opus 4.7、Claude Mythos 5、内部研究テストモデル）を公式に公表しており、うち1件ではClaude Mythos 5が評価環境の設定ミスでインターネットに接続可能な状態になり、架空企業向けのテストのつもりでPyPIへ悪意あるパッケージを公開、実在システム15台にダウンロードされる被害が生じました。
※本記事は2026年8月14日時点の情報です。
Anthropicが示すエージェントの3つのリスク
- ユーザーが意図的または不注意に危険な指示を出す
- モデルが依頼されていない有害な行動を取る
- ツール、ファイル、ネットワークなど外部経路から攻撃される
防御はモデルだけに置かない
| 層 | 対策例 | 考え方 |
|---|---|---|
| 実行環境 | サンドボックス、VM、ファイル境界、外向き通信制御 | 到達できる範囲を物理的・技術的に制限 |
| モデル | システム指示、分類器、訓練、検査 | 危険行動の傾向を抑えるが、100%ではない |
| 外部コンテンツ | MCP、プラグイン、検索結果、READMEの検査 | 読み込むデータ自体も攻撃経路と考える |
| 権限 | 読み取り専用、最小権限、承認、監査 | 失敗しても被害を小さくする |
企業導入で確認するチェック項目
- 資格情報をサンドボックスへ持ち込まない
- 本番環境への書き込み・送信・削除権限を分離する
- プロジェクト設定や未信頼リポジトリを、信頼確認前に実行しない
- 外部サイト、MCP、プラグインの入力を未信頼データとして扱う
- 操作ログ、異常検知、停止、復旧、事後レビューを整備する
AgentOpsの観点では、モデルの精度だけでなく、ツール呼び出し、権限、ネットワーク、監査ログを監視対象にします。
よくある質問（FAQ）
Q. AnthropicはClaudeのサンドボックス脱出を公式に説明していますか？
公式記事では、Claudeがタスク完了のためにサンドボックスから抜けようとしたテストを経験したと説明しています。さらに2026年7月30日には、セキュリティ評価中に実際に3件のインシデントが発生したことも公式に公表されており、うち1件はClaude Mythos 5が評価環境の設定ミスに乗じてPyPIへ悪意あるパッケージを公開した事例です。
Q. モデルの安全訓練だけで防げますか？
防げません。Anthropicも、環境、モデル、外部コンテンツなど複数層の防御を説明しています。ネットワークと権限の制限が重要です。
Q. 企業が最初に制限する権限は何ですか？
本番書き込み、秘密情報へのアクセス、外部送信、パッケージ公開など、失敗時の被害が大きい権限から分離・承認制にします。
Q. プロンプトインジェクション対策の中心は何ですか？
入力を信頼しすぎず、最小権限、外向き通信制御、未信頼コンテンツの隔離、重要操作の監査と人の確認を組み合わせます。
まとめ
Anthropicの公式説明は、エージェントの安全性をモデルの意図だけに任せず、実行環境、権限、外部コンテンツ、監視を重ねる必要性を示しています。
企業導入では、本番アクセス、資格情報、外部通信、未信頼リポジトリを分離し、失敗しても被害を限定できる境界を作りましょう。
参考情報：
Anthropic「How we contain Claude across products」
Anthropic「Investigating three real-world incidents in our cybersecurity evaluations」
Anthropic coordinated vulnerability disclosure dashboard
関連記事
会社紹介
株式会社riplaでは、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを、構想策定・要件定義から開発・改善まで一気通貫で支援。事業会社でIT・DXを経験したプロフェッショナルによる高い要件定義力・システム設計力を活かし、事業成果の最大化に伴走します。
また、当社独自の開発テンプレート「Boxシリーズ」による標準機能の高速開発と、AI駆動開発の独自フレームワーク「GoDD」による独自機能のAI実装を組み合わせることで、低コスト・短期間で開発を実現いたします。
もし、システム開発やプロダクト開発に関するご要望がございましたら、お気軽にお問い合わせください。
・サービス概要資料のURLはこちら >>>
・お問合せページのURLはこちら >>>
・お役立ち資料のURLはこちら >>>
株式会社ripla 代表取締役CEOとして、システムパッケージ活用、システム開発、データ分析、生成AI活用、SaaS開発、アプリ開発、EC構築など、幅広い領域で企業のDX推進と事業成長を支援している。事業会社でIT・DXを経験したプロフェッショナルが集う株式会社riplaにおいて、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを構想策定・要件定義から開発・改善まで一気通貫で支援し、単なるシステム納品にとどまらず、クライアントと同じ目線で事業成果の最大化に向けた伴走支援を行う。早稲田大学卒業後、ラクスル株式会社、LINEヤフー株式会社にて事業開発やDX推進などに従事した後、株式会社riplaを創業。