解説技術・取り組み海外

LoRAで調整したAIモデルの改ざんを導入前に検査 CrowdStrikeが2段階の手法を公表

LoRAで調整したAIモデルの改ざんを導入前に検査 CrowdStrikeが2段階の手法を公表
この記事のポイント
  • 元モデルとの重みの差から、導入前に精査すべき変更を見つける。
  • 疑わしいモデルは隔離環境で動作を確認し、採用・隔離を判断する。
  • 参照用の元モデルと検査の対象範囲を記録する。

LoRAで調整したAIモデルを導入する際、配布者の説明と受け取ったファイルをどう照合するか。CrowdStrikeの研究を基に、重みの比較、隔離環境での精査、採用判断に使う証拠と検査の条件を整理する。[1]

何が起きたのか

CrowdStrikeは2026年11月16日、外部から取り込むAIモデルに不正な動作が仕込まれていないか、導入前に調べる2段階の検査を公表した。対象はLoRAという、元のモデルを保ちながら少数の追加パラメーターで動作を調整する方法である。追加部分はアダプターと呼ばれ、単独のファイルでも、元モデルへ統合した状態でも配布される。今回の研究は、どちらの配布形態も検査対象にしている。[1]

モデルの重みは、出力を決める学習済みの数値である。最初の段階では、取り込んだモデルと元モデルの重みの差を読み、変更の位置や構造を調べる。次の段階では、疑わしいモデルを隔離した環境で動かし、特定の入力で不正な出力が生じるか確かめる。変更の検出から動作の確認へ進むことで、調査担当者が採用や隔離を判断するための証拠を得る構成である。[1]

試験は、同社が用意したバックドア入り8個、正常なモデル4個、公開されている比較用モデル4個の計16個で行われた。バックドアは、普段は通常どおりに動き、条件を満たす入力で不正な動作を起こす仕掛けを指す。試験対象には、公開重みを使って利用・調整できるQwenやLlamaの系列が含まれる。外部モデルを社内のコード生成やツール操作へ組み込む担当者に関係する検査である。[1]

元モデルとの照合から、疑わしい動作の確認へ進む

取り込むモデル単独アダプター・統合済みモデル
正常な元モデル比較用の重み
重みの差を調べる

静的解析

変更の位置どの層に集中するか
変更の構造LoRAの特徴があるか
出力への影響どの出力が強まるか
疑わしいモデルを精査
隔離環境で動作確認不正な出力が起きる条件を調べる
証拠に基づいて決める
導入可否の判断遮断・隔離・承認

出典 CrowdStrike「Hidden in the Weights: Supply Chain Risk from Backdoored LoRA Models」(2026年11月16日)

なぜ今なのか

公開重みのモデルは、自社のデータの扱いや用途に合わせて調整できる。CrowdStrikeは、その普及に伴い、モデル自体を外部から受け取るソフトウェア部品として扱う必要があると説明する。通常の評価では正しく答えるモデルでも、特定の入力にだけ不正な動作を結び付けられる。配布時の説明に加え、受け取ったファイルと実際の出力を調べることが、導入判断の根拠になる。[1]

統合済みのLoRAでは、追加部分のファイルが見えなくなっても重みの変更は残る。今回の静的解析は、変更がどの層に集中するか、LoRAに特有の構造があるか、どの出力が強まりやすいかという3方向から差を読む。元モデルの特定には参照用の正常な重みを使う。配布者が示した元モデルと解析結果の食い違いも、調査する手がかりになる。[1]

静的解析ではバックドア入り8個すべてと、正常な統合済みモデル2個が次の調査へ回った。動作確認では8個のバックドアの作動を確認し、正常な2個では引き金となる入力が見つからなかった。重みの変更だけで不正と決めず、疑わしい出力を確認する理由がこの結果に表れている。16個の試験結果であり、一般に配布されるモデル全体への検知率は今後の評価課題である。[1]

日本の企業にとって何が変わるか

QwenやLlamaなどを取り込み、社内で調整して使う企業は、受入時の検査を導入手順に組み込むことが検討点となる。CrowdStrikeは、すべてのモデルを静的に調べ、疑わしいものを動作確認へ回し、その証拠に基づいて導入前に遮断・隔離・承認を決める流れを示した。自社への適用では、開発担当者が把握する元モデルと追加学習の情報を、検査担当者が照合できるようにすることが出発点になる。[1]

参照データの準備は検査の成立条件である。今回の方法で重みを正確に比較するには、実際の元モデルが参照用ライブラリーに含まれている必要がある。非公開の中間モデルを経由して調整された場合などは、系列の推定までにとどまる。担当者は、元モデルを特定できた範囲と重みを比較できた範囲を記録し、検査結果を採用判断へ渡す際にも保持したい。[1]

動作確認は、不正なコード出力や外部ツールの呼び出し、安全上の拒否の変化などを調べる。研究では、関係のない用途の追加学習でも、元モデルが危険な要求を断る動作が弱まる場合があった。このため、拒否の変化を評価する際は、条件となる入力がない場合の動作と正常な元モデルの動作を比較する。偶発的な変化と意図的な仕掛けを検討するためにも、比較対象の記録が要る。[1]

静的解析のリスク点数は、調査の優先順位付けに使う値である。今回の次段階への振り分けは、点数のしきい値ではなく検査の分類結果に基づいている。自社で同様の評価を設計する場合も、点数、変更の種類、確認された出力を分けて読む必要がある。モデル全体の再学習や重みの直接編集は今回の評価範囲の外にあり、LoRAの検査結果を適用できる範囲を確認する。[1]

まとめ

今回の研究が示したのは、外部モデルを受け入れる時点で、重みの照合と隔離環境での動作確認をつなぐ方法である。元モデルの参照データ、追加部分の配布形態、精査する出力をそろえると、担当者が確認した証拠を導入可否の判断へ渡せる。正常な変更も精査の対象となるため、静的検査の後に調べる担当者と環境の用意が運用上の論点になる。[1]

導入後のツール呼び出しの隔離や外部通信の監視も、CrowdStrikeは必要な防御として挙げている。導入前の検査に加え、稼働時の権限と通信を管理する構成を保つ。日本企業がこの研究を参考にする際は、自社のモデルの調整方法、参照用の重み、動作確認の対象を先に照合し、確認できた範囲に合わせて採用・隔離を決めたい。[1]

AIモデルの受入 / 2026年11月16日

受入検査の条件と、導入後の制御をそろえる

01 何が起きたか2段階の検査を公表

重みの変更を検出し、疑わしい動作を隔離環境で確認する。

02 なぜ今かモデルも外部の部品になる

1 調整したモデルが流通する

2 条件付きの不正動作が潜む

3 通常の評価に加えて検査する

03 日本の企業にとって採用判断の根拠を点検

1 元モデルの重みを照合できるか

2 隔離環境で精査できるか

3 稼働時の権限と通信を管理するか

出典 CrowdStrike「Hidden in the Weights: Supply Chain Risk from Backdoored LoRA Models」(2026年11月16日)

タグ#AIモデル#LoRA#サプライチェーン