AIの安全な利用
スロップスクワッティングとは？AIが提案するパッケージの確認と対策
スロップスクワッティングとは、生成AIが挙げた実在しないパッケージ名を第三者が先に登録する攻撃。研究で測られた誤提案の割合と実被害の確認状況、AIが提案したパッケージの確認と導入の承認、依存関係の管理を解説。
AIセキュリティ診断の項目と範囲｜LLMアプリ・AIエージェントで何を調べるか
AIセキュリティ診断の項目を、LLMに届く入力、LLMが読めるデータと動かせる機能、出力の行き先の3か所に分けて解説。通常の脆弱性診断との違い、チャットボットとAIエージェントの試験条件、依頼前に整理する構成図と評価基準まで。
OSSに注意！AI開発用「LiteLLM」にAPIキーを盗むコード混入、同じ環境の別のPythonプログラムにも影響
AI開発用OSSのLiteLLM1.107.0にAPIキーなどを盗むコードが混入。同じPython環境の別プログラムも影響を受け得る。対象の配布物と、環境の再構築・認証情報の失効と再発行を整理する。
AI攻撃耐性ソリューション構成・管理状況、公開している資産、アクセスの記録を順に調べ、リスクと対策の優先順位を診断レポートにまとめます。
