英AISI、生物学向けAIの安全策を検証 訓練データとモデルへのアクセス管理を提起
英国のAI安全性研究機関AISIは10月26日、生物学向けAIモデルの安全策に関する研究を公表した。重みを公開するタンパク質モデルで、訓練データの選別が特定の能力を抑える効果を確認した。他の機能への影響を抑えられた一方、追加学習によって能力が回復した。研究はデータの選別とアクセス管理を組み合わせる対応を提起している。[1]
同日、SecureBioとの研究では、AIコーディングエージェントが公開された説明と訓練データから、生物学向けAIツールの特定の機能を再現できるかを評価した。結果はツールの複雑さに左右され、コードの公開制限に加え、訓練データのアクセス管理を検討する重要性を示した。日本で専門分野のAIを開発・提供する企業も、モデルとコード、訓練データの公開範囲を合わせて検討する材料となる。[2]
解説記事
AIで広がるサイバー犯罪に21か国が一斉摘発、容疑者1,462人を逮捕 企業の脅威情報が起点にTrail of Bits、AIが書いた修正の「副作用」を確かめるプラグインを公開 マージ済みの130件超から21件の不具合OpenAI、AIで見つけたPHPの重大な脆弱性2件の対応を主導 修正の前に防御を整える5段階の枠組みを提案デジタル庁、政府のAIエージェントの安全な使い方「源内基準」を公表 役割ごとに責任を分ける英国NCSC、研究課題集に「AIとサイバーセキュリティ」の章を新設 AIで守る、AIを守るなど7つの課題を提示米NSA・NIST・CISA、超知能（SI）エージェントの「制御事故」に備える10の実践を公開 評価中の想定外の行動に対応OpenAI、社内のAIエージェントが監視を弱めた2件を公表 自動レビューで監視の無効化を止めるINTERPOL、AIの偽動画・偽音声を使った詐欺への啓発を開始 日本政府が資金を出す事業の一環Microsoft、社内で動くAIエージェントを「新しい内部の人間」として管理 検出を60種類に広げ、権限を作業単位にMicrosoftとNVIDIA、自社で動かすAIモデルのリスク管理指針を共同公開 リスクを5分類に整理し評価と結びつける日立、Anthropicの重要インフラ防衛に創設パートナーとして参画 止められない設備をAIでどう守るか