- OpenAIはGPT-6.2 AstraとSolの内部推論を守る対策を強化した。
- 回答と外部ツールへの引数を検査し、推論を元の会話履歴に結び付ける。
- AIの開発・提供企業は漏出検査、再発防止の試験、組織的な不正利用への対応を確認する。
OpenAIは2026年11月20日、他のAIの出力を学習して能力を移す「蒸留」の不正利用への対策を公表した。同社のAIモデルGPT-6.2 AstraとSolでは、回答に至る内部推論の保護を強化した。個々の応答の検査と組織的な不正利用への対応を組み合わせる方針で、AIを開発・提供する日本企業にも実装と運用を見直す観点を示している。[1]
何が起きたのか
蒸留は、あるAIモデルが出したデータを別のモデルの学習に使い、能力を移す技術である。OpenAIは、無断で得た出力を学習したモデルが、元のモデルの安全対策を十分に引き継がずに使われるリスクを説明した。とくに、ソフトウェアの脆弱性を見つける防御用途の能力が、攻撃を助ける用途へ転用されることを問題としている。今回の発表は、この能力移転を抑えるための保護と、複数アカウントにまたがる不正利用への対応を扱う。[1]
保護の中心は、モデルが回答を作る途中で生成する内部推論である。最終回答に含まれない情報もあるため、別モデルの学習データとして価値が高いと同社は説明する。GPT-6.2 AstraとSolでは、抽出要求への応答を抑える訓練に加え、入力と出力を判別する仕組みを使う。出力側では回答と外部ツールへ渡す引数の両方を検査する。引数はツールを呼び出す際に渡す情報で、最終回答に表示される文章とは別に漏出の確認が必要になる。[1]
要求の検査と不正利用の調査を対策の改善へつなぐ
モデルと提供サービス
出典 OpenAI「Combatting adversarial distillation」(2026年11月20日)
なぜ今なのか
OpenAIの内部研究では、同じ学習前のモデルを出発点に、コード作成や防御用途の作業から得たデータで学習させた。正確な内部推論を使った場合は、推論の要約を使った場合より、教師あり学習後の成績が概して高かった。追加の強化学習後も、評価時に最も多くの計算量を与えた条件では、内部推論を使ったモデルが提示された両方の評価で上回った。防御のために生成した情報からも、元の作業を超えて使える能力が移り得るという、保護を強める背景である。[1]
対策の評価では、外部利用者と同じ範囲の情報を与えた試験用AIが、応答に合わせて試みを調整する条件を使った。以前の要求に対して生成された内部推論の抽出成功率は、元の安全対策を使うGPT-6 Astraの54.0%から、更新した安全対策を使うGPT-6.2 Astraの0.2%になった。現在の要求については22.9%と0.9%だった。この数値は6つの試験用AIの結果を集計したもので、同社は選んだ改善策をGPT-6 Astraにも適用中としている。[1]
内部推論の抽出成功率は更新した保護との組み合わせで低下
OpenAIの内部評価。外部利用者と同じ情報で応答に適応する6つの試験用AIの結果を集計
出典 OpenAI「Combatting adversarial distillation」(2026年11月20日)
日本の企業にとって何が変わるか
AIを開発・提供する日本企業がまず確認できるのは、保護する情報が外部へ出る経路である。OpenAIは、回答の文章とツール引数を出力検査の対象にし、漏出の疑いがある内容を呼び出し元へ届く前に遮断する。これは応答を逐次返す場合にも、まとめて返す場合にも適用するという。自社のサービスでも、画面に表示する回答、連携ツールへの引数、応答の返し方を整理すれば、同社が推奨する内部推論の漏出検査をどこに置くか検討できる。[1]
会話を継続する際の推論の扱いも確認点になる。GPT-6.2 AstraとSolでは、保護した推論を、それを生成した会話履歴に結び付ける。新しいメッセージを追加した場合は以前の推論を利用できるが、過去のメッセージを書き換えた場合は、その後に生成された推論をAPIが破棄する。また、安全対策の弱い旧モデル系列が両モデルの推論を読むことを防ぐ。APIを通じて会話やモデルを管理する担当者は、履歴の編集とモデルの切り替えに対する保護の仕様を確認する材料にできる。[1]
提供元の運用では、個別の要求を検査する仕組みと、複数アカウントの動きを調べる仕組みを連携させる。OpenAIは要求やアカウントの兆候から組織的な抽出を調査し、違反を認めたアカウント群へ規約に沿って対処する。調査で得た知見は訓練と試験の改善へ戻し、他のモデル提供元とも不正利用の兆候を共有する。日本企業も応答の検査とアカウント群の調査を対応手順で結び付けるという同社の推奨を参考に、検知後の調査・対処の担当を整理できる。[1]
再発防止の試験については、監視や外部からの責任ある報告などで見つかった問題の記録を保持し、対策を更新した後も確認に使うよう勧めている。元の問題が再び起こるかの確認と、応答に応じて方法を変える評価を組み合わせる方針である。記録を学習や判別の改善に使う際は、適用されるプライバシーポリシーとの整合を取る。サービスの提供を他社と分担する企業には、安全対策の要件と違反への対応を提供先のパートナーとそろえることも推奨している。[1]
まとめ
今回の強化は、内部推論を保護するモデルの訓練、入力・出力の検査、会話やモデルをまたぐ利用の制限を重ねたものである。そこへアカウント群の調査と対処を加え、調査結果を次の対策の改善に使う。企業が参照する際は、モデル単体の性能とともに、応答を返すまでの検査や、提供サービス側の運用を含めて確認すると、保護の担当範囲を整理できる。[1]
実務の確認点は、回答とツール引数からの漏出をどう止めるか、会話履歴とモデルの変更時に推論をどう扱うか、不正利用の調査結果をどう改善へ戻すかである。漏出経路・再利用の制限・検知後の対応をそろえて点検することが、今回の発表を自社へ当てはめる出発点になる。OpenAIは、他の開発者や提供元との協調を通じ、安全対策を伴う形でAIの能力を広める方針を示している。[1]
技術・取り組み / 2026年11月20日
推論の漏出検査と利用制限、検知後の対応を点検する
GPT-6.2 AstraとSolでモデル、検査、APIの対策を重ねる
1 防御用途の能力も他の用途に転用可能
2 正確な推論は学習データとして有用
3 組織的な抽出への調査と対処が必要
1 回答とツール引数の漏出検査
2 履歴編集・モデル変更時の利用制限
3 監視・調査・再発防止試験の連携
出典 OpenAI「Combatting adversarial distillation」(2026年11月20日)



