Anthropic、Claude Duetの安全設計を公開 重要操作の承認と認証情報の分離でAIエージェントを統制
Anthropicは2026年10月23日、利用者の不在中も働くAIエージェント「Claude Duet」の安全設計を公開した。機密性のあるメッセージ送信や支払い、削除などの前に、操作・宛先・内容を示して本人の承認を待つ。作業するAIとは別の仕組みが、操作が利用者の意図に合うかを検査する。送信前には専用の分類器が機密情報も確認する。[1]
パスワードや接続先の認証情報はAIが作業する環境から分離する。接続先への要求時に別の中継機構が認証情報を付与し、ブラウザも専用の仮想マシンで動かす。研究プレビューとして提供し、安全対策の調整を続ける。日本の企業がAIにメールや業務アプリの操作を任せる際は、重要操作の承認、送信内容の検査、認証情報を扱う環境の分離を確認する観点になる。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか