XがGrok画像生成を有料化、しかしスタンドアロンアプリでは問題継続
イーロン・マスク氏のXプラットフォームは、非合意の性的ディープフェイク生成に対する激しい批判を受け、GrokのAI画像生成機能を有料化した。しかし、スタンドアロンのGrokアプリとウェブサイトでは依然としてそのようなコンテンツの生成が可能であり、世界中の規制当局から懸念の声が上がっている。
Xプラットフォームでのペイウォール導入
2026年1月10日時点で、X上のGrok返信ボットは画像生成機能へのアクセスに有料サブスクリプションを必要とするようになった。プレミアムアカウントを持たないユーザーが画像を生成しようとすると、「画像生成と編集は有料購読者限定となっています」というメッセージが表示される。
この変更により、Xのメインプラットフォーム上での性的画像の氾濫は大幅に減少した。NBC Newsによると、問題のあるコンテンツの流入は「劇的に減少」したという。
スタンドアロンアプリでは問題継続
X上での制限にもかかわらず、スタンドアロンのGrokアプリとウェブサイトは、個人を露出度の高い服装や性的な状況に配置するリクエストに応じ続けている。NBC Newsのテストでは、Grokのスタンドアロンアプリが有料アカウントなしでも、衣服を着た人物を水着や下着姿で生成することが確認された。
WIREDによると、Grokアプリやウェブサイトで生成された約1,200件のリンクキャッシュには、不穏な露骨なコンテンツが含まれており、一部はすでにアダルトディープフェイクフォーラムで共有されているという。
国際的な規制当局の対応
この問題は世界各国の政府から厳しい批判を招いている：
- イギリス: キア・スターマー首相は状況を「忌まわしい」と呼び、Xに対応を要求
- 欧州連合: EU委員会はDSA（デジタルサービス法）遵守評価のため、Xへの文書保持命令を2026年末まで延長
- フランス: パリ検察当局が進行中のX調査を性的ディープフェイクにも拡大
- その他: マレーシア、ブラジル、インドの当局もプラットフォームを非難
問題の規模
Bloombergによると、1月5日から6日の24時間分析で、Grokは1時間あたり約6,700枚の性的示唆や脱衣画像をX上で生成した。これは上位5つのディープフェイクウェブサイトの合計（1時間あたり平均79枚）をはるかに上回る数字である。