
Amazonの脅威分析チーム(Amazon Threat Intelligence)は今週、中国とのつながりが疑われるハッカー集団が「自律型AIエージェント」を使って、医療画像向けのオープンソースソフト「MONAI Label」に未知の欠陥を見つけ出し、ある大学のサーバーで最高権限(root権限)を奪ったと報告しました。
MONAI Labelは、CTやMRIなどの医療画像にAIを使って注釈(ラベル)を付けるためのサーバーソフトで、研究機関や大学などで使われています。今回見つかった脆弱性は、アカウントを持たない攻撃者でも、本来書き込めないはずの場所にファイルを書き込めてしまうというものです。サーバーの重要な場所にファイルを置かれると、攻撃者が好きなプログラムを動かせるようになり、最終的にサーバー全体を乗っ取られることにつながります。
この欠陥は、発見時点で開発者にも知られていなかった「ゼロデイ脆弱性(修正パッチがまだ存在しない欠陥)」でした。注目すべきは、それを見つけたのが人間の専門家ではなく、攻撃者が動かすAIエージェントだったという点です。AIエージェントとは、目標を与えると自分で考えて調査や操作を繰り返すAIのことで、攻撃者はこれを使って弱点探しから侵入までを効率よく進めていたとみられます。
攻撃にAIが使われる例はこれまでも報告されてきましたが、未知の欠陥の発見まで自動でこなした事例は、守る側にとって大きな警告です。これまで「マイナーで狙われにくい」と思われていた専門的なソフトでも、AIなら手間をかけずに次々と調べられるため、狙われる範囲が一気に広がるおそれがあります。
MONAI Labelを運用している組織は、開発元からの修正版や注意喚起を確認して速やかに更新するとともに、サーバーをインターネットに直接公開しない、アクセスできる相手を限定するといった対策を検討してください。一般の利用者が直接操作するソフトではありませんが、病院や大学の研究データが狙われる可能性があるという点で、身近な問題といえます。