内閣府、AI法見直しを検討する作業部会の設置を提示 サイバー悪用やAIの逸脱に対応
内閣府は2026年10月26日、人工知能戦略専門調査会の資料で、AI法の見直しを含む制度の検討を進める作業部会の設置を示した。高性能AIの悪用や予期せぬ挙動が社会に深刻な影響を及ぼす懸念を背景に、専門調査会の下で議論する。進め方の案では10月28日に初会合を開き、AI法改正を含む論点を整理する予定だ。[1]
資料はAIを悪用したサイバー攻撃や自律的・逸脱的な動作を課題に挙げ、AI指針の改正も含めて検討する方針を示す。総務省と経済産業省のAI事業者ガイドライン、デジタル庁の生成AI調達・利活用ガイドラインも改訂予定とした。日本企業にとっては、AIの開発・利用に関する既存ガイドラインの見直しと、事業者の役割を巡る議論を確認する機会となる。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか