
ChatGPTのような生成AIに送った質問や指示(「プロンプト」と呼ばれます)が、AIを動かす裏方の事業者の内部から、数カ月にわたって盗まれていたことがわかりました。産業向けセキュリティ企業のDragos(ドラゴス)が今週明らかにしたもので、被害を受けたのは「推論プロバイダー」と呼ばれるAI事業者3社です。推論プロバイダーとは、AIモデルを自社のサーバーで動かし、利用者から届いた依頼に答えを返す役割を担う会社のことです。
深刻なのは、3社のいずれも、研究者から知らされるまで侵入に気づいていなかった点です。攻撃者は事業者の内部に入り込み、利用者から届く依頼の内容を長期間にわたって抜き取っていたとされます。さらに、盗まれた依頼の中には「ゼロ・データ・リテンション(ZDR)」という設定が付いたものも含まれていました。ZDRは「送った内容を保存しない」という約束を意味する設定で、機密性の高い内容を扱う企業などが安心して使うための仕組みです。保存されないはずのデータでも、処理している最中に盗み見られてしまえば守れない、ということが浮き彫りになりました。
この件を受けて、複数のAIモデルを一つの窓口でまとめて使えるサービス「OpenRouter(オープンルーター)」は、問題の3社を自社の接続先から外しました。OpenRouterのような仲介サービスを使うと、利用者の依頼は裏側でさまざまな事業者に振り分けられます。便利な反面、利用者からは「自分の依頼が実際にどの会社のサーバーで処理されているか」が見えにくく、その中の1社の守りが弱いと、そこから情報が漏れてしまいます。今回の件は、ソフトのセキュリティホールだけでなく、AIの利用を支える「見えない取引先」の管理も重要であることを示しています。
利用者として気をつけたいのは、AIに送る内容そのものです。パスワードやクレジットカード番号、取引先の機密情報、個人を特定できる情報などは、「保存しない」設定があっても、できるだけAIに入力しないのが安全です。会社でAIを使っている場合は、どのサービスを経由して、どの事業者のAIが使われているのかを確認し、仲介サービスの設定で接続先の事業者を絞り込めるかどうかも見直しておくとよいでしょう。