OpenAI、AIの訓練・評価環境の隔離を強化 仮想マシンの突破や外部通信を自社モデルで検証
OpenAIは2026年10月23日、開発中のAIモデルを訓練・評価する環境で、隔離と監視を強化した取り組みを公表した。クラウド事業者と協力してインフラ全体に防御を追加し、自社の高性能モデルに隔離の突破を試させた。AIエージェントは、軽量な仮想マシンから外へ出る経路や、内部サービスを経由してインターネットに接続する経路を見つけた。[1]
同社のセキュリティとインフラの担当チームは、発見事項を再現して修正を確認した。Kata ContainersやgVisorなど、利用するオープンソースの部品にも修正を提供している。隔離した作業環境同士が共有するハードウェアなどを通じて情報をやり取りする試験も実施し、そうした通信の試みを検知する監視を追加した。今後もAIでコードや設定を検査し、監視と自動停止の仕組みを継続的に検証する。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか
