Microsoft、AIゲートウェイLiteLLMの改ざんに検知・復旧手順を公開
Microsoftは10月23日、AIモデルへの接続を仲介するLiteLLM 1.107.0の改ざんについて、分析結果と検知・復旧手順を公開した。影響環境ではPythonの起動時に認証情報を収集するコードが動き、開発端末やビルド環境にも影響が及ぶ。調査には影響環境の外にある信頼できるツールを使い、安全を確認してPythonプロセスを停止するよう推奨している。[1]
同社は、検証済みの配布物から環境を再構築し、侵害されたIDがアクセスできたAIモデル提供元のキーやクラウド認証情報を、正常な端末から更新するよう求めた。影響したセッションの失効、ファイル・通信・ID利用履歴の照合も示している。国内でLiteLLMを利用する組織も、AIゲートウェイから開発・配布環境まで対象版の所在を洗い出し、認証情報を含めた復旧範囲を確認する必要がある。[1]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか