Anthropic、Claudeで攻撃者が届くコードを縮小 25プロジェクトから493件の問題を発見
Anthropicは2026年10月20日、AIモデルClaudeを使い、攻撃者が到達できるコードの範囲を狭める研究を公開した。外部へ見せる必要のない機能を認証後へ移すなどして、未知の脆弱性にも届きにくくする手法である。公開されたソフトウェア25プロジェクト、500万行超を分析し、初期設定や設定の組み合わせ、認証前に動く処理から493件の問題を見つけた。[1][2]
設定の組み合わせでは、警告なく受け入れられる162件のうち、94件でセキュリティ機能が無効になっていた。遠隔接続用ソフトウェアOpenSSHでは、初期設定で使わない暗号処理約4,500行に認証前から届く状態を見つけ、開発者へ修正案を報告した。機能を使う条件を処理の入口で確かめることにより、外部から触れられる範囲を減らす取り組みである。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか
