Google Cloud、AIエージェントの判断記録と個別IDを推奨 2027年の防衛指針を公開
Google Cloudは11月9日、2027年のサイバー防衛に関する見通しを公表した。AIエージェントが重要な業務判断を担う動きを踏まえ、入力から操作の許可まで追える判断記録の保存を勧める。呼び出したツール、渡した値、許可に使ったルールを改ざんに耐える形で記録し、自動処理の妥当性を検証・監査する考えだ。[1]
さらに、エージェントごとのIDと必要最小限の権限を用い、操作単位で認可を確かめるよう提言した。運用規模を広げる前に、外部の文章などを通じて不正な指示を与える攻撃への耐性も試験する。日本企業は自社のAIが使う権限と判断の記録を確認し、本番導入前の試験で見つかった問題を制御ルールの改善に反映したい。[1]
あわせて読みたい記事
解説記事
NIST、AIエージェントへの攻撃と対策を分類 用語集の改訂案で意見募集日立、AIで見つけたOSSの脆弱性を修正へ Akritesに参画しKeycloakから対応Microsoft、AIモデルの少数の内部要素に潜む不正動作を研究 導入前と更新後の監査を推奨NVIDIA、AIエージェントの操作を制御するOpenShellをCNCFへ寄贈 共同で安全対策を改善Wiz、AIエージェントのサイバー能力評価手法を公開 327課題で実行結果を採点Anthropic、Mythos 5.2の脆弱性発見を強化 Fable 5.2は安全対策を維持し誤検知を削減NVIDIA、韓国企業のAIエージェント保護を紹介 実行時の権限制御と悪意ある指示の検知を統合へGoogle DeepMind、AIでSignalの暗号実装を形式検証 仕様から実行コードまで証明AWS、AIが実行するコードをPodごとに隔離 Amazon EKSにNitro SandboxesENISA、AIで加速する脆弱性発見に対応強化を提言 EUのサイバー対策を評価Google、AI処理中のデータとモデルを保護するTPU 8txを発表Microsoft、AI支援でRust標準ライブラリのメモリ安全性の問題を発見 保守担当者と修正へClaude CodeやChatGPTのアプリを侵入後の操作に悪用 Elasticが報告、盗まれた認証情報は感染から平均8分でログインにディープフェイクでCEOと弁護士になりすまし1億2,900万ドルを詐取 米司法省が3人を起訴CrowdStrike、AI時代の脆弱性対応を警告 観測した悪用の91%が実証コード公開から48時間以内OpenAI、AIエージェントの安全性を評価と実運用で比較 警告後の行動に差CrowdStrike、AIのモデルアクセスを遮断する機能を提供 接続gatewayへ停止を指示英NCSC、AIによる重要インフラ攻撃に警戒 不要なネット接続の見直しを促すGoogle、APACの詐欺対策に600万ドル 教育施策を日本にも拡大Microsoft、偽Claude Code拡張の調査・除去手順を公開 Cursorの対象版を確認へTrail of Bits、Codexで安定版Linuxへ修正を移植 149種類のCVEに対応OpenAI、AIの不正な行動を監視する仕組みを拡大 訓練・評価と社内利用を対象に日本AISI、GLM-5.3のサイバー能力評価を公表 設定と実行記録の確認が脆弱性対策の判断材料にオムロンとNTTドコモビジネス、工場防衛で協業 制御機器に不正通信検知を組み込む開発へAWS、SmarshのAI基盤点検を紹介 150項目を根拠付きで評価し人が確認AWS、AIエージェント基盤の参照実装を公開 ツールの権限制御と拒否試験を組み込むNIST、AIエージェントのID管理に10の設計原則 権限の限定と独立した記録を提案JPCERT/CC、AIが発見したPHPの脆弱性への注意喚起を更新 更新と侵害調査、追加の緩和設定を案内OpenAI、AIによる社内のセキュリティ調査を紹介 情報整理を1～2時間から10～15分に短縮OpenAI、GPT-6.1 Terraのサイバー能力をCriticalとして扱う 防護措置と評価結果を公開OpenAIとポーランドNASK、AIの安全対策で研究協力へ 評価手法と脆弱性の特定を共同検討PMDA、AIで加速する攻撃に備え緊急対策を優先 予防的なシステム停止と代替手順を案内Fortinet、AIで見つけた脆弱性への更新を案内 FortiOSなどの外部公開機器を優先Anthropic、Claude Duetの安全設計を公開 重要操作の承認と認証情報の分離でAIエージェントを統制Microsoft、AIゲートウェイLiteLLMの改ざんに検知・復旧手順を公開英国政府、AIで守る「National Cyber Shield」に6,000万ポンド 重要インフラの脆弱性を探す拠点も新設へJPCERT/CC、AI侵入テスト基盤の悪用を注意喚起に追加 公開WebアプリやWSUSのアクセス点検を促すAnthropic、Claudeで攻撃者が届くコードを縮小 25プロジェクトから493件の問題を発見英AISI、AIのサイバー試験で起きた実在の開発者への攻撃を分析 「模擬環境だ」というAIの推論を安全の根拠にしないよう提言OpenAI、AIの訓練・評価環境の隔離を強化 仮想マシンの突破や外部通信を自社モデルで検証FBIとCISA、選挙関係者を狙うフィッシングに注意喚起 超知能（SI）で本物らしい文面が作りやすくOpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるAIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応INTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか