2025年1月11日、Microsoftは、Azure AIを悪用して有害なコンテンツを作成する「外国拠点の脅威行為者グループ」に対して法的措置を取ることを明らかにしました。
このグループは、違法に取得した顧客の認証情報を悪用し、Azure OpenAI Service などに不正アクセスして有害なコンテンツを生成するための高度なソフトウェアを開発。さらに脅威行為者は、このソフトウェアを利用して、有害なコンテンツを生成する詳細な手順を、他の悪意のある攻撃者に販売する「ハッキングサービス」を提供することで利益を得ていたようです。
悪用されたAIサービス
前述したように、このグループ（外国拠点の脅威行為者グループ）は、MicrosoftのジェネレーティブAIサービスの安全対策を回避し、悪意のあるコンテンツを生成する高度なソフトウェアを、他の悪意のある攻撃者グループに販売していたようです。
まず、MicrosoftのジェネレーティブAIサービスとは、テキスト、画像、音声、コードなど、様々な形式のコンテンツを生成するための人工知能技術を提供するサービスのこと。これには、OpenAIと提携して提供されるAzure OpenAI Serviceが含まれますが、今回はそれらのサービスが悪用されたわけです。
ですが、DCUによる「不正アクセスの取り消し」や「新たなセーフガードの導入」「犯罪インフラの差し押さえ」などの迅速な対応で、甚大な被害は回避できたようです。
DCUとは？
Microsoftのデジタル犯罪ユニット（DCU）は、2008年に設立された国際的な法律および技術チームで、主にサイバー犯罪、脅威に対抗するため、最新のツールと技術を使用して活動しています。
今回、DCUはこの脅威行為者グループが、公的なウェブサイトからスクレイピングされた顧客の認証情報を利用し、特定のAIサービスに対して悪用していることを以前から監視していました。
DCUによる迅速な対応
DCUは、2024年7月にこの活動を発見し、その後、脅威行為者グループのアクセスを取り消し、新たな対策を講じて将来の活動を防止するためのセーフガードを強化。また、グループの犯罪活動の中心となっていたウェブサイト「aitism[.]net」の差し押さえに関する裁判所命令を取得しました。
裁判所にて
法廷文書によると、少なくとも3人（国籍・職業不明）がこの操作の背後におり、盗まれたAzure APIキーと顧客のEntra ID認証情報を利用してMicrosoftのシステムに侵入し、DALL-Eを使用して有害な画像を作成していたことが示されています。さらに、7人の他の関係者が同様の目的でこれらのサービスとツールを使用していました。
APIキーの収集と利用
APIキーがどのように収集されたかは不明ですが、Microsoftは被告が複数の顧客からの「体系的なAPIキー盗難」に関与していると述べています。被害者にはペンシルベニア州とニュージャージー州に拠点を置くいくつかの米国企業が含まれています。
ハッキングサービスの仕組み
被告は、盗まれたMicrosoft APIキーを使用して、’rentry.org/de3u’や’aitism.net’などのインフラストラクチャを通じてハッキングサービスを提供していました。これにより、MicrosoftのAzureを悪用することが可能となったようです。
まず、被告が使用したMicrosoft APIキーとは、Microsoftのクラウドサービス（例えばAzure）にアクセスするための重要な認証情報のこと。このAPIキーが盗まれると、不正なアクセスやサービスの悪用が可能になります。
次に’rentry.org/de3u’や’aitism.net’は、被告が利用したウェブサイト等の名前です。これらのサイトを通じて、被告はハッキングサービスを提供していたということです。
まとめ
OpenAIのChatGPTなどのAIツールの人気が高まる中、脅威行為者によるこれらのツールの悪用が増加しています。禁止されたコンテンツの生成からマルウェアの開発まで、さまざまな悪用事例が報告されています。MicrosoftとOpenAIは、中国、イラン、北朝鮮、ロシアなどの国家グループがこれらのサービスを偵察、翻訳、偽情報キャンペーンに利用していることを繰り返し報告しているようです。
出典
TheHackerNews『Microsoft Sues Hacking Group Exploiting Azure AI for Harmful Content Creation』
