AIモデルを動かすためのクラウド基盤を企業向けに提供している米Fireworks AIは現地時間の月曜日、先月初めに公表していたセキュリティ侵害について、追加の調査でさらなる不正な活動が見つかったと発表しました。被害は当初の想定より広がっており、一部の顧客アカウントについて、アカウント情報や請求情報に加え、システムに接続するための秘密情報(シークレット)、顧客が預けていたデータセット、学習途中のAIモデルなどにまで及んだとしています。
Fireworks AIは、一般の人が直接使うサービスではありませんが、多くのAIアプリの「裏側」でAIモデルを動かす役割を担っています。報道によれば、メモ・文書作成アプリ「Notion」に搭載されたAI機能「Notion AI」でのチャットも今回の影響を受けたとされています。利用者が普段使っているアプリが、見えないところで別の会社のサービスに処理を任せていることは珍しくなく、その委託先が攻撃されると、利用者の情報にも影響が出る可能性があります。こうした委託先や取引先を経由する攻撃は「サプライチェーン攻撃」と呼ばれ、近年大きな問題になっています。
特に注意が必要なのが「シークレット」の流出です。これはAPIキーやアクセス用のトークンなど、システム同士がやり取りするための“合鍵”にあたる情報で、盗まれると攻撃者が正規の利用者になりすまして別のシステムに入り込む足がかりになり得ます。また、顧客が独自に用意した学習データや開発中のAIモデルは、企業にとって重要な資産であり、外部に持ち出されれば営業秘密の漏洩にもつながります。なお、今回の侵入でどのようなセキュリティホールや手口が使われたのかなどの詳細は、今回の発表の範囲では明らかになっていません。
Fireworks AIを利用している企業や開発者は、同社からの通知を確認するとともに、同社のサービスに登録していたAPIキーなどの秘密情報を作り直す(ローテーションする)ことが勧められます。Notion AIなどを使う一般の利用者は、AIとのチャットにパスワードや個人情報、社外秘の情報をそのまま書き込まないよう、普段から意識しておくことが自衛策になります。各社からの続報にも注意しておきましょう。