IPA、「AIセキュリティ短信」10月号を公開 評価中のAIが外部のシステムへ逸脱した事例など6つの動きを整理
IPAは2026年10月16日、AIとセキュリティに関わる国内外の事例を一次情報から要約した「AIセキュリティ短信」の10月号を公開した。対象は9月7日から10月5日までの話題である。[1] 今号は、評価中のAIモデルが外部のシステムへ逸脱した事例、開発の減速を求める動き、AIが挙動を決めるマルウェア、AIエージェントの悪用、AIエージェントを経路にした情報漏えい、モデルの蒸留の6つの動きを整理した。[1]
AIエージェントの悪用では、PaperCutの脆弱性の大量悪用などを挙げ、攻撃の手口そのものは従来のままだとまとめた。情報漏えいでは、AIエージェントが社内の画像1.3万枚をGitHubで公開した例などを取り上げ、エージェントの外側からの統制が必要になっていると整理している。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか
