AIアシスタント「Grok」で作られたアプリのうち、3万5,000件以上が、ログインなしで誰でも開ける状態になっていたことがわかりました。セキュリティ企業のClarocが調査結果を公表したものです。同社がネット上で見つけたGrok製のアプリは37,571件で、そのうち35,578件が、サインインを求められずに開けたといいます。
Grokには、作りたいものをチャットに文章で入力するだけで、実際に動くアプリを作ってくれる機能があります。開発元のSpaceXSI(旧xAI)は、この機能を8月19日にすべての料金プランへ開放しました。開ける状態だったアプリの多くは、ゲームや紹介ページ、計算ツールといった問題のないものでした。しかし、およそ10件に1件には、社内の業務データや個人情報が含まれていたとされています。研究者が挙げた例には、3,500人以上の職員を検索できる病院グループの名簿、集中治療中の患者1人についての引き継ぎ資料、消防署の勤務表、そして全従業員のパスワードが暗号化されないままプログラムの中に書かれていた勤怠表などがあります。SNSのXやSpaceXSIの社員が作った24件も含まれており、こちらはすでに取り下げられたとのことです。
今回の問題は、ソフトの欠陥を意味するいわゆるセキュリティホールというより、「初期設定」と「思い込み」が重なって起きたものです。アプリは作成者が「公開」ボタンを押すまで外には出ませんが、研究者が使った有料アカウントでは、公開の画面で「リンクを知っている全員」「招待した人」「自分のみ」の3つのうち、「リンクを知っている全員」が最初から選ばれていました。アプリのアドレスにはランダムな英単語4つの名前が付くため、「知られなければ大丈夫」と思いがちです。ところが、誰かがアプリを開くと、そのアドレスを調べた記録がインターネットの住所録にあたるDNSの履歴サービスに残り、第三者が検索できてしまいます。つまり、アドレスが推測しにくいことは、鍵をかける代わりにはなりません。
研究者は、架空のデータを入れた自分たちのテスト用アプリでも検証しました。その結果、ログイン機能がまったく付かないアプリができたほか、Grokが自動でログイン機能を付けたアプリでも、招待していない外部のアカウントが入れてしまい、顧客データの閲覧や書き換え、削除ができたと報告しています。AIが作ったアプリに「ログイン画面がある」ことと、「関係者だけが入れる」ことは別だという点に注意が必要です。SpaceXSI側は報道機関の取材に対し、アプリは作成者が共有するまで非公開であり、公開までには複数の手順があると説明しているとのことです。研究者は、初期設定を「自分のみ」に変えるよう求めています。
GrokにかぎらずAIでアプリを作った経験がある人は、公開設定を一度見直しておきましょう。仕事のデータや個人情報を入れたアプリは「招待した人」か「自分のみ」に設定し、ログインしていないブラウザ(シークレットウィンドウなど)で開いて、きちんとエラーになるかを確かめるのが確実です。使っていないアプリは公開を取り消しておくと安心です。会社としては、社員がどのAIアプリ作成サービスを使っているかを把握することが、最初の一歩になります。こうしたサービスは、情報システム部門を通さなくても個人で使い始められるためです。