
Metaが提供するAIアシスタント「Muse(ミューズ)」について、細工したWebページを1つ見せるだけで、利用者の非公開の会話履歴や、AIが利用者について保存している「記憶(メモリー)」を外部に抜き取れることを、セキュリティ研究者が実証しました。この攻撃では、本来なら利用者に「この操作を許可しますか?」と確認するはずの承認画面も表示されなかったとされています。
近年のAIアシスタントは、利用者の代わりにWebページを読んだり、メールやカレンダーなどほかのサービスと連携して作業したりできるようになっています。便利な反面、AIが読み込んだWebページの中に「この会話の内容を〇〇に送れ」といった隠れた指示が書かれていると、AIがそれを利用者の指示と取り違えて実行してしまうことがあります。こうした手口は「プロンプトインジェクション(AIへの指示の乗っ取り)」と呼ばれ、AI特有のセキュリティホールとして注目されています。
今回の研究で特に深刻なのは、被害が会話の中身だけにとどまらない点です。研究者によると、同じ攻撃を応用すれば、Museが利用者の代わりに保管している「連携先アカウントの認証情報(ログインに使う鍵のようなもの)」にまで手が届く可能性があるといいます。つまり、AIアシスタント1つが突破口となり、つながっているほかのサービスまで危険にさらされるおそれがあるということです。
AIアシスタントを使っている人は、まずアプリやサービスを最新の状態に保ち、提供元からの案内に注意してください。また、AIに見知らぬWebページの要約や操作を任せるときは慎重になること、使っていない外部サービスとの連携はオフにしておくこと、AIに「覚えさせる」情報に重要な個人情報を含めないことも、被害を小さくするのに役立ちます。
AIが「読む」ものがそのまま「命令」になりうるという問題は、Metaに限らず、エージェント機能を持つAI全体に共通する課題です。AIに任せる範囲が広がるほど、AIが何にアクセスできるのかを利用者自身が把握しておくことが大切になっています。