- MicrosoftとNVIDIAは、企業がオープンウェイトのAIモデルを使うときのリスク管理指針を共同で公開した。[1][2]
- リスクを5つの分類に整理し、それぞれに使える評価を対応させた。ISOの規格とNISTのAIリスク管理フレームワークを土台にしている。[1]
- 自社でAIモデルを動かす企業にとって、どのリスクに誰がどの対策を持つかを決める手本になる。
MicrosoftとNVIDIAは2026年10月16日、企業がオープンウェイトモデル（重みが公開され、自社の環境で動かせるAIモデル）を使うときのリスク管理指針「Risk Management for Open-Weight Models in Enterprise」を公開した。[1][2] 両社が予定する共同資料シリーズの第1弾である。指針の考え方は、重みが公開されているかどうかだけでは、AIシステムの危険度は決まらないというものだ。危険度は、モデル、使い道、動かし方、周りの保護策で決まるとしている。[1]
1. 何が起きたのか
指針は、リスクをサイバーセキュリティ、データ保護、コンテンツ、人とAIのやり取り、偏りの5つに分類した。開発、セキュリティ、法務、安全、事業の各チームが同じ言葉で話せるようにするためである。分類は、企業が自社のシステムに合わせて使い、リスクを評価、対策、責任者と結びつけるための土台と位置づけている。[1]
分類ごとに、使える評価も対応させた。自社にとって大事なリスクから出発し、そのリスクの証拠になる評価を選べるようにしている。両社は共同のリポジトリで評価の手段を追加し、外部からの提供も受け付ける。[1][2]
Microsoftは、自社のMicrosoft Foundryで使える品質や安全性の評価、自動のレッドチーミング（攻撃者の立場での試験）、プロンプト攻撃を検知するコンテンツ安全の機能も紹介している。NVIDIAは、評価ツールのgarakを、利用者が実際に触れる構成に対して走らせるよう勧める。[1][2]
同じモデルでも、使い方で考える点が変わる。社員の文書作成を手伝うモデルと、顧客向けの業務に組み込んだモデルは別のリスクを持つ。単独で動くモデルと、外部のデータや道具につながったモデルも違う。リスクがモデルから生まれても、効く対策は実行環境やアプリケーション、運用の側にあることがある。[1]
標準の枠組みを、企業が使えるリスクの言葉と評価に落とし込む
MicrosoftとNVIDIAは、ISOとNISTの枠組みを土台に、オープンウェイトモデルのリスク管理指針を作った。
MicrosoftとNVIDIAの共同指針
出典 Microsoft Security Blog（2026-10-16）、NVIDIA Research（2026-10-16）
2. なぜ今なのか
指針は、モデルだけを評価しても安全は確かめられないと強調する。NVIDIAは、部品を試すだけではシステムの安全は判断できないと書き、評価結果は試した条件でのモデルの振る舞いを示すものだと説明している。[2]
モデルだけを試しても、システムの安全は分からない
指針は、モデル単体の評価と、実際に使う構成での評価を分けて考える。
出典 Microsoft Security Blog（2026-10-16）、NVIDIA Research（2026-10-16）
オープンウェイトのモデルは、重みを点検し、変更し、自社の環境で動かせる自由がある。[1] その分、保護策を誰が持つかが変わる。自社でモデルを動かす企業は、本来ならサービス側が提供する保護策を自ら引き受けることがある。対策の手段には、モデルの変更、アクセス制御、入出力の絞り込み、監視、人による確認が挙がっている。[1]
土台にしたNISTのAIリスク管理フレームワークは、2023年1月26日に公開された任意の枠組みで、2024年7月26日には生成AI向けのプロファイルが加わった。[3] 今回の指針は、こうした枠組みを、企業が実際に使うモデルの評価と対策まで落とし込んだものである。今回はモデル層が中心で、今後は実行環境やアプリケーション層まで対象を広げる予定だ。[1]
国の枠組みから、企業がモデルごとに使う指針へ
NISTの枠組みと、今回の指針を時系列に並べる。
MicrosoftとNVIDIAの発表 NISTの公表
2023年1月26日
2024年7月26日
2026年10月16日
これから
出典 NIST、Microsoft Security Blog（2026-10-16）
3. 日本の企業にとって何が変わるか
社内の業務に生成AIを組み込む企業が増え、公開されたモデルを自社のサーバーやクラウドで動かす選択も広がっている。この指針は、どのモデルを選ぶかより、何に使い、どこに対策を置くかを先に決める考え方を示している。
例えば、社内文書の要約に使うモデルを、顧客対応や外部のデータにつながる業務へ広げるときは、同じモデルでも点検すべき項目が増える。モデル単体の評価結果だけで導入を決めず、実際に使う構成で、権限、データ、道具、実行環境まで評価したい。
具体的には、5つの分類を社内の言葉に置き換え、自社にとって大事なリスクごとに、評価の方法、対策、責任者を1つの表にまとめるとよい。自社でモデルを動かす場合は、サービスに任せていた保護策のどれを自社で持つかを、導入の前に決めておく。
まとめ
技術・取り組み / 2026年10月16日
MicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開
MicrosoftとNVIDIAは、企業が自社の環境でAIモデルを動かすときのリスク管理指針を公開した。ISOとNISTの枠組みを土台にしている。
分類 サイバーセキュリティ、データ保護、コンテンツ、人とAIのやり取り、偏り
使い道 同じモデルでも、社内用と顧客向けで考える点が変わる
保護策 自社で動かすと、サービス任せだった保護策を担うことがある
次 実行環境やアプリケーション層まで対象を広げる
1 使うAIモデルごとに、用途と、つながるデータや道具を一覧にしているか
2 リスクごとに、評価の方法、対策、責任者を決めているか
3 自社で動かすモデルで、サービス任せだった保護策を誰が持つか決めたか
出典 Microsoft Security Blog（2026-10-16）
