黒い背景の右側に、紫に光るAIの多面体を閉じ込めたガラスの箱があり、そこから出ていくコードの板が検査の枠を通り、赤い線の入った1枚だけが枠で止められている絵

開発環境・ソフトウェア部品設計・実装

AIコーディングのセキュリティリスク|生成コードの検査とエージェントの権限管理

コーディングエージェントにファイルの読み書きやコマンドの実行まで任せ始めると、AIコーディングのセキュリティをどこで確かめるかが問題になります。コードのレビューだけで済ませると、開発者の権限で動くエージェントが認証情報を読んだり、承認の設定を書き換えたりする経路が残ります。

エージェントが認証情報や承認の設定に届く経路を残さないよう、AIコーディングのセキュリティについて、AIが書いたコードの本番前のレビュー(認証・認可、入力と依存関係)、エージェントの権限と機密情報が外に出る経路、自動検査と隔離環境の分担、承認手順と記録の決め方の順に見ていきます。

AIコーディングのセキュリティレビューと本番投入

AIが書いたコードも、人が書いたコードと同じレビューと検査に通してから本番に出します。コードの大半をAIに任せる書き方(バイブコーディング)でも、点検することは変わりません。

AIが書いたかどうかで基準を変えないのは、AIのコードにも脆弱性が入り、しかも書いた側がそれに気づきにくいことが、次の2つの研究で示されているからです。

Pearceらの論文(IEEE S&P 2022)は、危険度の高い弱点の種類に沿って89の場面を用意し、AIに1,689のプログラムを書かせました。そのうち約40%に脆弱性がありました。場面にはSQLやOSコマンドへの注入、認証情報の直書きなどが含まれます。

約40%は、弱点が入りやすい場面を選んで測った値です。AIに任せた所に脆弱性が入りうることは、この結果から言えます。

Perryらは利用者実験(ACM CCS 2023)で、AIアシスタントを使った参加者のほうが安全でないコードを書き、しかも安全だと考えやすかったと報告しています。書いた側が安全だと感じていても、確かめた代わりにはなりません。そのため、レビューと検査を省かずに通します。

AI生成コードの脆弱性レビュー:認証・認可の確認

AIが書いた認証・認可の処理は、上の約40%という数字に表れない所なので、AI生成コードの脆弱性レビューで別に時間を取って確かめます。というのも、Pearceらは認可の欠如を、ふつうは設計の段階で入る誤りだとして実験から外しているからです。

認証は、ログインした人が本人かを確かめることです。認可は、ログインした人が何を操作してよいかを決めることです。ログイン(認証)が正しく動いていても、誰が何を操作できるか(認可)は別に確かめます。

OWASPはTop 10:2021の1位「アクセス制御の不備」で、所有者を確かめる認可をサーバー側で行い、公開するもの以外は既定で拒否し、認可の試験を入れるよう勧めています。サーバー側で行うのは、利用者の手元で動く画面の確認は、利用者が書き換えたり飛ばしたりできるからです。

認可の試験では、正常な操作が通ることに加えて、拒否されるべき操作を役割ごとに書き出します。たとえば、注文を扱うWebアプリなら、正常な操作だけを試す場合と、拒否されるべき操作も試す場合で、気づけることが次のように変わります。

正常な操作だけの試験と、拒否されるべき操作も含む試験
正常な操作だけ許してはいけない操作を試していない正常な操作通るAで、Bの注文IDを指定試していない一般会員で管理者の機能試していない許してはいけない操作が通っても気づけない
拒否されるべき操作も試す役割ごとに書き出して試すAで、Bの注文IDを指定拒否されるか一般会員で管理者の機能拒否されるかログアウト後・期限切れ拒否されるか通ったら、サーバー側で所有者や役割を確かめていない

拒否されるべき操作が通った機能は、AIが書いた該当の処理を直し、同じ試験を残して、次の変更でも確かめられるようにします。

AI生成コードの入力・依存関係の検査

AIのコードについては、外から受け取る値と、AIが持ち込む部品を検査で確かめます。入力は、想定外の長さ・形式・記号を含む値で試します。というのも、SQLやOSコマンドへの注入は、こうした値が命令の一部として扱われると起きるからです。

NISTの「セキュアソフトウェア開発フレームワーク(SSDF)」も、ファジング(異常な入力を自動で大量に与える試験)を例に挙げています。人の手で思いつく値には限りがあるので、自動で大量に与えて、想定していない値での失敗を探します。

依存関係は、コードが動くために取り込む外部のパッケージです。依存関係では、AIが提案したパッケージ名が実在し、意図した配布元のものかを確かめます。というのも、AIは、実在しないパッケージ名を挙げることがあるからです。

Spracklenらは16種のモデルに計576,000件のコードを書かせ、挙がったパッケージ名を調べました。

提案された名前のうち、実在しない割合商用は「少なくとも」の値
公開モデルの平均
21.7%
商用モデルの平均
5.2%

提案された名前は、そのまま導入せず、パッケージの登録簿にその名前があるか、配布元が意図したものかを見てから入れます。

実在するパッケージが乗っ取られる場合もあります。OWASPは「A03:2025 ソフトウェアサプライチェーンの失敗」で、2025年にnpmで広がったワーム(Shai-Hulud)を挙げています。

具体的には、人気のパッケージの悪意あるバージョンが、導入時のスクリプトで機密情報を盗んで公開し、盗んだnpmのトークンで他のパッケージに広がりました。

エージェントが確認なしにパッケージを導入できると、こうしたスクリプトは開発者の認証情報を読める権限で動きます。OWASPは、使うバージョンを意図して選び、必要なときだけ上げるよう勧めています。上げる時期を人が決めておけば、知らないうちに悪意あるバージョンを取り込むことを避けられます。

OSSのセキュリティリスクの基本と、管理の進め方は「OSSのセキュリティリスクと対策|脆弱性・配布物の改ざん・SBOMによる管理」で説明しています。

パッケージの導入をエージェントに任せるかどうかは、エージェントに何を許すかという問題につながります。次は、エージェントの権限と、届く機密情報を見ます。

AIコーディングのセキュリティリスク:エージェントの権限と機密情報

エージェントが開発者のアカウントで動くことから、権限と機密情報に関わるリスクが生まれます。ここでいうコーディングエージェントは、開発者の指示でファイルの読み書きやコマンドの実行まで自分で進めるAIです。

開発者の端末やアカウントで動くので、開発者ができる操作と読める機密情報には、原則としてエージェントも届きます。そのため、コードの検査とは別に、エージェントに何を許すかを決めます。

OWASPは「LLM06:過剰な代理権」で、不要な機能・権限や確認なしで動く自律性をAIに与えると、誤った出力や操作された出力がそのまま被害につながるとしています。きっかけはAIの誤りと、外部の資料に仕込まれた指示(間接プロンプトインジェクション、OWASPの「LLM01」)です。

間接プロンプトインジェクションは、AIが作業の途中で読んだファイルやWebページの中の文に、開発者の指示のように従ってしまうことです。AIの誤りも仕込まれた指示も前もって全部は見つけられないので、権限を絞って、誤ったときに被害が届く範囲を小さくします。

コーディングエージェントの実行権限

エージェントにできる操作を確かめるときは、リポジトリ・端末・クラウドの場所ごとに書き出します。というのも、場所によって届く範囲が違い、どこまで任せるかも場所ごとに決めるからです。開発者のアカウントで動くエージェントがどこまで届くかは、次のとおりです。

開発者のアカウントで動くエージェントが届く範囲
開発者の端末とアカウント
エージェントが読む指示開発者の指示と、読んだファイルやWebページ。仕込まれた指示にも従いうる
コード変更、コミット、リモートへのpush
作業フォルダの設定承認の設定も書き換えられる
コマンドと外部ツールパッケージの導入、MCPサーバーの呼び出し
ホームディレクトリ認証情報を読み、クラウドや本番も操作できる

承認の設定もコードと同じ作業フォルダの中にあり、ホームディレクトリの認証情報を通じてクラウドや本番にも届きます。書き出した操作のうち、本番に届くものと設定を書き換えるものは、承認を求めるか、届かない場所へ移すかを決める対象です。

設定の書き換えは、実際に報告されています。たとえば、RehbergerはコードエディタのAI支援機能で、ファイルやWebページに仕込まれた指示に従ったエージェントが、作業フォルダの設定に自動承認を書き込み、確認なしでコマンドを実行できたと報告しました。

脆弱性は2025年8月に修正されました(CVE-2025-53773、Microsoftの評価でCVSS 7.8)。NVDに載るCISAの評価では、評価時点で悪用の確認はありません。

承認は、エージェントの操作を人が止めるための仕組みです。承認の設定ファイルもエージェントが書き換えられる範囲にあれば、止める手前で自動承認に変えられ、承認は効きません。そのため、承認の設定は、エージェントが書き換えられない場所に置きます。

AIコーディング時の情報漏洩リスクと秘密情報の露出

開発者の手元の情報は、AIへの入力、ファイルとログ、外部への送信の3つの経路で外に出ます。AIコーディングの情報漏洩を経路ごとに見ると、出ていくものと確かめることは次のとおりです。

情報が外に出る3つの経路と、それぞれで確かめること
経路出ていくもの確かめること
AIへの入力指示文や読んだファイル。AIの提供事業者に送られる保存期間と学習への利用を、契約と設定で
ファイルとログ.envなどの設定ファイルや実行ログにある認証情報作業環境に本番の認証情報を置かない
外部への送信Web検索、URLの取得、パッケージの導入、pushに乗る内容通信先を必要な宛先に限り、pushは承認を求める

AIへの入力は使う前の契約と設定で、残りの2つは作業環境の作り方で抑えます。3つのうち外部への送信は、ほかの経路で読み込んだ情報を外へ運ぶ出口にもなります。

Willisonは「AIエージェントの致命的な3要素」で、私的なデータへのアクセス、信頼できない内容への接触、外部と通信する能力の3つが1つのエージェントにそろうと、データを持ち出させる指示が成立しうるとしています。そのうえで、この組み合わせを避けるよう勧めています。

というのも、仕込まれた指示を読んだエージェントが、手元の認証情報を、外部への送信で送り出せてしまうためです。開発者の端末で制限なく動くエージェントは、この3つを持ちやすい状態にあります。

3要素のどれかを外す方法と、公開するコードを確かめる方法は、次の章で分担を決めます。

AIコーディングのセキュリティ対策:自動検査・レビュー・隔離環境

公開するコードは自動検査と人のレビューで確かめ、エージェントは本番に届かない隔離環境で動かします。前者はコードの脆弱性を、後者はエージェントの操作を抑える手段で、片方でもう片方の代わりはできません。

AIが書いたコードとエージェントの行動では、起きること、抑える手段、公開前に試すことが次のように違います。

コードとエージェントの行動は、抑える手段と公開前に試すことが違う
AIが書いたコード
エージェントの行動
起きること
脆弱性や実在しない依存が入る
開発者の権限で意図しない操作
抑える手段
レビューと自動検査
権限と実行場所
公開前に試すこと
権限のない操作が拒否されるか
本番や認証情報に届かないか

生成コードの自動検査と人のレビュー

コードの確認は、見るものを分けて自動検査と人のレビューに受け持たせます。静的解析(SAST)はコードを動かさずに読み、危険な書き方を探す検査です。依存の検査(SCA)は、取り込んだ部品に既知の脆弱性がないかを調べる検査です。

自動の検査は同じ規則を漏れなく当てるのに向き、人は認可や業務の決まりのように、コードだけでは正しさが決まらない判断を受け持ちます。担当ごとに見るものは次のとおりです。

自動検査と人のレビューが見るもの
担当見るもの
静的解析(SAST)注入の不備、危険な関数、直書きされた認証情報
依存の検査(SCA)既知の脆弱性、ライセンス、新しく加わった部品
人のレビュー認可の判断、業務ルール、設定ファイルと依存の追加

SSDFは、静的解析の報告を人が確かめて直すこと、他人の変更をコードの所有者が承認することを例に挙げています。変更を本体に取り込む(マージする)前に内容を見てもらう申請を、プルリクエストと呼びます。

AIが作ったプルリクエストにもレビューを必須にし、検査に通らない変更はマージできないようにします。人の注意に頼らず仕組みで止めておけば、急いでいるときにも確認が抜けません。

エージェント実行環境の隔離

エージェントから本番の資産へ届く経路をなくすために、実行環境を隔離します。SSDFは、開発用の端末を本番でないネットワークに置き、最小限の機能と権限で構成する例を挙げています。

OWASPの「AIエージェントのセキュリティ チートシート」は、コードを実行するエージェントをサンドボックスで動かし、取り消せない操作には明示の承認を求め、許可の判断はエージェントの外で行うよう勧めています。

サンドボックスは、中で動くプログラムが外のファイルや通信に触れないように区切った実行環境です。

許可の判断を外に置くのは、Rehbergerの報告のように、エージェントが自分の承認の設定を書き換えられないようにするためです。

隔離環境は、コンテナや仮想マシンの中で動かし、作業するリポジトリだけを見せ、本番の認証情報は置きません。試験用の資格情報は対象と期限を絞り、外部への通信はパッケージの登録簿など必要な宛先に限ります。この3点の設定は、致命的な3要素のうち次の要素を狭めます。

隔離環境の設定と、致命的な3要素のうち狭める要素
隔離の設定狭める要素
リポジトリだけを見せる私的なデータへのアクセス
本番の認証情報を置かない私的なデータへのアクセス
通信先を必要な宛先に限る外部と通信する能力

設定後は、本番のデータベースに接続できないことと、ホームディレクトリの認証情報が見えないことを、実際に試します。というのも、設定を読むだけでは、別の経路で届くかどうかが分からないからです。届いたら、その経路を塞いでから使い始めます。

隔離と検査を用意したら、次は誰が何を承認し、何を記録に残すかを決めます。

AIコーディングのセキュリティを保つ承認手順と記録

エージェントを使う前に決めるのは、渡さない情報、承認が要る操作、マージの承認者、残す記録の4つです。設定と記録で確かめられる形で決めるのは、口頭の決まりでは、守られているかを後から確かめられないからです。

  1. 渡さない情報(本番の認証情報、顧客の個人データなど)を決め、作業環境に置きません
  2. 承認が要る操作(パッケージの追加、push、外部への送信、ファイルの削除、承認設定の変更)を決めます
  3. マージの承認者を決めます
  4. 記録を残します。OWASPのチートシートは、エージェントの判断、ツールの呼び出し、その結果をすべて記録するよう勧めています。公開前の自動検査、拒否の試験、設定と依存の追加の確認は、誰が行ったかも残します

承認が要る操作には、ここまでの章で見た危険の入口を集めています。具体的には、パッケージの追加は乗っ取られた部品の導入を、pushと外部への送信は情報の持ち出しを、承認設定の変更は自動承認の書き込みを止める所です。

記録は、問題が見つかったときに、どの変更がどの確認を通ったかをさかのぼるために使います。エージェントの変更は、次の関門を通ってマージされます。

エージェントの変更がマージされるまでの関門
承認が要る操作人が承認する
自動検査通らなければ止める
マージの承認動かした本人以外
記録誰が確かめたかも残す

AIコーディングのセキュリティは、コードの検査とエージェントに許す操作を分けておけば、担当と確かめ方が決まります。

確かめる手がかりは、エージェントが動くアカウントと、届くファイル・通信先の書き出しです。そこから本番の認証情報に届く経路が残っていないかを確かめ、残っていれば隔離環境へ移すか、承認が要る操作に加えます。

AI攻撃耐性ソリューション構成・管理状況、公開している資産、アクセスの記録を順に調べ、リスクと対策の優先順位を診断レポートにまとめます。

よくある質問

AIコーディングで書かれたコードは、セキュリティの面で人が書いたコードより危険ですか?

研究ではその傾向が出ています。AIアシスタントを使った参加者のほうが安全でないコードを書き、安全だと考えやすかったと報告されています。約40%という値は、弱点が入りやすい場面を選んで測ったものです。AIのコードも、人のコードと同じレビューと検査に通します。

社内のソースコードをAIコーディングのツールに読ませてもよいですか?

指示文や読ませたファイルはAIの提供事業者に送られます。保存期間と学習への利用を契約と設定で確かめてから使い、本番の認証情報や顧客の個人データは作業環境に置きません。

隔離環境で動かせば、公開前のレビューや検査は要りませんか?

要ります。隔離が抑えるのはエージェントの操作です。公開するコードの脆弱性は、別に人のレビューと自動検査で確かめます。

開発環境・ソフトウェア部品の関連記事

記事一覧を見る
  1. 開発環境・ソフトウェア部品

    OSSのセキュリティリスクと対策|脆弱性・配布物の改ざん・SBOMによる管理

    OSSのセキュリティリスクを、既知の脆弱性と配布物の乗っ取りに分けて解説する。Log4j・xz・Shai-Huludの事例から、間接依存まで含むSBOMの作り方、脆弱性情報と改ざん報告の照合、バージョン固定と更新の承認手順を示す。

  2. 開発環境・ソフトウェア部品

    CVD(協調的脆弱性開示)とは?Anthropicが深刻な脆弱性の開示期限を90日から30日に短縮した理由

    CVD(協調的脆弱性開示)とは、脆弱性を開発元へ非公開で報告し、公開の時期を調整する手続き。Anthropicが開示期限を90日から30日・45日へ短縮した内容と理由、Project Zeroの段階的な短縮、開発元と利用企業への影響を説明する。

  3. 開発環境・ソフトウェア部品

    Vite 6.4.4の脆弱性を検証|.envの読み取りは通常の出力に残らない

    Viteの脆弱性CVE-2026-118662を、6.4.4と修正後の6.4.5・6.4.6を手元で動かして検証しました。返ったファイルと返らなかったファイル、中身が返った要求が開発サーバーの通常の出力に残らないこと、公開しない初期設定で届く範囲を記録しています。

  4. 開発環境・ソフトウェア部品

    SASTとSCAの違い・使い分け|自動検査の範囲と異常系・回帰試験

    SASTとSCAの違いを、調べる対象(自社のソースコードと取り込んだOSS部品)で説明する。両方で見つけにくい認可の誤りを補う動作試験、除外の記録、redis-pyの事故に学ぶ修正後の回帰試験とSCAの再実行も扱う。

  5. 開発環境・ソフトウェア部品

    スロップスクワッティングとは?AIが提案するパッケージの確認と対策

    スロップスクワッティングとは、生成AIが挙げた実在しないパッケージ名を第三者が先に登録する攻撃。研究で測られた誤提案の割合と実被害の確認状況、AIが提案したパッケージの確認と導入の承認、依存関係の管理を解説。

  6. 開発環境・ソフトウェア部品

    LiteLLMのサプライチェーン攻撃|1.107.0のマルウェア混入と対処

    LiteLLM1.107.0にAPIキーなどの認証情報を盗むマルウェアが混入したサプライチェーン攻撃。影響を受けるPyPI・Dockerの配布物、侵害の経緯、導入した環境の再構築と認証情報の失効・再発行を整理する。

ブログ一覧へ