OpenAI、GPT-6.1 Terraのサイバー能力をCriticalとして扱う 防護措置と評価結果を公開
OpenAIは2026年10月26日、AIモデルGPT-6.1 Terraの安全性評価を公表した。同社のリスク管理枠組みで、サイバー能力をCriticalとして扱い、GPT-6.1 SolとGPT-6 Astraと同じ防護措置を適用する。モデル内部を調べるプローブをTerraに合わせて更新し、悪用や許可範囲を外れた動作に備える設計である。[1]
評価では、外部の文書などに埋めた命令で作業を誘導する間接プロンプトインジェクションも検証した。社内の侵入能力試験では、最近公表された脆弱性で任意のコードを実行できた割合が24.5％だった。同社の安全助言グループの勧告と経営陣の判断を経て、防護措置を適用して提供する。日本の企業は、業務にAIを組み込む際の確認材料として、攻撃への耐性と適用される防護措置を併せて参照できる。[1]
解説記事
NIST、AIエージェントのID管理に10の設計原則 権限の限定と独立した記録を提案JPCERT/CC、AIが発見したPHPの脆弱性への注意喚起を更新 更新と侵害調査、追加の緩和設定を案内JPCERT/CC、AI侵入テスト基盤の悪用を注意喚起に追加 公開WebアプリやWSUSのアクセス点検を促すOpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるAIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応INTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか