X（ツイッター）の日本公式アカウントは6日、ユーザーが生成AI「Grok」（グロック）を使用するなどして違法コンテンツの作成や投稿をした場合、アカウントの永久凍結や警察などと連携した対処をする方針を表明した。
グロックはXと連携した生成AI。指示に従ってさまざまな画像が作ることができるが、実在の人物が勝手に性的加工をされる被害が世界で拡大している。こうした事態を受けた対応とみられる。
声明では、児童への性的虐待画像など違法コンテンツが含まれる投稿に対し、投稿の削除やアカウントの永久凍結など厳しい対応を実施し、行政や法執行機関とも協力すると説明。そのうえで、グロックを使って違法コンテンツを作成したり、作成を促したりする行為も「同様の措置をとる」と警告した。
X上では年明けから、女性の写真をビキニや下着姿に勝手に加工して投稿する「性的ディープフェイク」の被害が拡大している。ロイター通信によると、欧州連合（EU）の欧州委員会は5日、グロックで加工された性的な画像は違法との見解を示した。英情報通信庁も同日、性的画像が生成可能となった理由などについてX側に説明を要求したという。
毎日新聞でもグロックでの加工について、日本や海外のX投稿で、ほぼ全裸に見えるもの、顔に体液をかけられる描写など性加害的な内容の投稿を複数確認した。未成年の画像を加工したとみられる海外の投稿も確認した。
グロックを提供するAI開発企業「xAI」を率いる米実業家イーロン・マスク氏も直近は同様の警告をするようになったが、6日午後2時時点でも新たな性的加工画像が生成・投稿され続けている。【町野幸】
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
