Googleは11月2日（現地時間）、企業が契約している大規模言語モデル（LLM）、つまりChatGPTやGeminiのような生成AIの利用権を攻撃者が乗っ取る「LLMjacking（エルエルエム・ジャッキング）」について警告を出しました。被害を受けた一部の企業では、身に覚えのないクラウドの利用料金が最大で100万ドル（約1億5,000万円）に達したケースもあるといいます。
LLMjackingは、他人のコンピューターの計算能力を勝手に使う「リソースハイジャック」と呼ばれる手口を、生成AIの時代に合わせて変化させたものです。かつては、乗っ取ったサーバーで暗号資産を採掘させる手口が代表的でしたが、LLMjackingでは企業のAIサービスの利用権を盗み、高価なAIの計算資源を攻撃者がただで使います。利用料金はすべて正規の契約者である企業に請求されるため、被害は請求書を見るまで気づかれにくいのが特徴です。
攻撃の入り口になるのは、AIサービスを呼び出すための「APIキー」や、クラウドのアカウント情報です。APIキーとは、プログラムからサービスを利用するときに使う合言葉のような文字列で、これが漏れると第三者が契約者になりすましてAIを使えてしまいます。公開されたプログラムのソースコードに誤って書き込まれたままになっていたり、設定ミスやセキュリティホールを突かれてクラウド環境から盗み出されたりするケースが考えられます。盗まれた利用権は、攻撃者自身が使うだけでなく、他の犯罪者に転売されることもあります。
こうした被害を防ぐには、APIキーをプログラムの中に直接書かず専用の管理機能で保管すること、使っていないキーは無効にし、定期的に新しいものへ切り替えることが基本になります。また、クラウドの利用料金に上限やアラートを設定しておけば、異常な使われ方に早く気づけます。個人でAIサービスのAPIを使っている開発者や副業ユーザーも決して他人事ではないため、自分のキーが公開リポジトリなどに残っていないか、一度確認しておくとよいでしょう。