攻撃者のAIエージェントがLiteLLMやDifyなどを標的に、保存されたAIサービスのキーを盗む活動をAmazonが確認

Photo of author

By ai-taco

arigato.news セキュリティホールカテゴリー 横長バナー

Amazonの脅威インテリジェンスチームは、攻撃者が用意した「AIエージェント」(人の指示を受けて自分で判断しながら作業を進めるAIプログラム)が、インターネットに公開されているAIアプリの弱点を探し、内部に保存されたAIサービスの利用キーを盗もうとしていた活動を確認したと明らかにしました。標的になったのは、LiteLLM、One API、Difyといった、複数のAIサービスをまとめて使うための管理用アプリなどです。

Amazonは、わざと狙われやすく見せかけた「おとりのサーバー」を設置して攻撃を観察しました。その結果、攻撃側のAIエージェントが残した作業記録(自分の行動を書き留めたもの)から、盗んだキーをどのように扱おうとしていたかが読み取れたとされています。攻撃する側がAIを使って、探索から窃取までを自動化している様子がうかがえます。

ここで言う「利用キー(APIキー)」とは、AIサービスを呼び出すための合言葉のようなものです。盗まれると、持ち主になりすまして他人が自由にAIを使えてしまい、利用料金が持ち主に請求される、といった被害につながります。実際にほかのサービスでも、盗まれたAIの利用キーによる不正利用で、多額の被害が出た事例が報じられています。

こうした管理用アプリは、設定に不備があったり、更新が止まっていたりする状態で外部から見える場所に置かれていると、セキュリティホールを突かれやすくなります。自社や個人でこれらのアプリを動かしている場合は、必要がなければインターネットに公開しない、最新版に更新する、パスワードやアクセス制限を見直す、といった基本的な対策が大切です。

また、AIサービスの利用キーは、使用量の上限や不審な利用の通知を設定しておくと被害を小さくできます。心当たりのない利用が見つかった場合は、すぐにキーを無効にして作り直すのが安全です。

出典: The Hacker News「Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys」

こちらの記事を次のSNSでシェア:

Leave a Comment