生成AI「Grok」を使用した性的ディープフェイク被害相次ぐ！被害内容、Grokについて紹介！

X（旧：Twitter）では最近、生成AI「Grok」の画像編集機能を使用し、違法な性的画像が作成される事案が相次いでいます。

実際に著名人や実在する女性の写真を使用し性的画像を作成しているようです。

今回は、Grokによる性的ディープフェイク画像の事案について、Grokとはどのようなものか説明しながらまとめていきます。

Grokの紹介
Grokを使用し違法画像を作成する事案が多発
被害に対してX公式の対応は
まとめ

Grokの紹介

Grokとは？

出典：Grokアプリより

Grok（グローク）とは世界一の富豪としても有名なイーロンマスク氏のxAI社が開発した生成AI型チャットボットであり、X（旧：Twitter）で使用できます。

生成AI型チャットボットなので、チャットの中で例えば「〇〇について教えて」や「〇〇の写真・動画を作成して」などと指示をすると、それにあった回答をしてくれます。

特徴は？

Xにある莫大な投稿や情報をリアルタイムで参照できるため、他のAIがまだ学習できていないような最新のトレンドや、多数の投稿から意見を集約したりして要約・回答が可能となっています。

Grokの「通常モード」と「ファンモード」

Grokには２つのモードがあります。それが「通常モード」と「ファンモード」です。

どのような違いがるかというと

①通常モード：事実に基づいて回答を行う

②ファンモード：ユーモアや大胆さを踏まえた、より人間らしい回答を行う

Grokの利用者はこの２つのモードを使用目的によって切り替えて楽しむことができます。

Grokの使い方は？

①Xのアカウントを作成・ログインします

②左上のアイコン・メニューからGrokアプリをダウンロード・アクセスします

③チャット画面が開くので、質問や画像作成などの指示を入力し使用できます

無料プランと有料プランの違い

Xには無料プランと有料プランがあり、Grokにおいても使用可能な機能に違いがあります。

無料プランは一日の質問回数や画像生成などに制限ある一方で、有料プランでは概ね無制限で使用できます。

Grokを使用し違法画像を作成する事案が多発

便利な機能があるGrokですが、最近Grokの画像編集機能を使用して、違法画像を作成するケースが多発しており問題になっています。

具体的には、実在する女性の写真に対してリプライするかたちで

「＠Grok この画像の女性の服装を水着にして」

などと指示し、本人に断りなく性的に加工する事例が多発しています。

実際に、SNS上で画像を公開している芸能人やグラビアアイドル、女性アイドルグループ、コスプレイヤーなどが被害にあっています。

女優・タレントの新谷姫加さんは自身の写真が加工されたとして、Xにて下記のようにコメントし、嫌悪感と怒りを露わにしています。

Grokで’水着にして’とか言って人の写真を勝手に裸にしたりするの気持ち悪すぎる、絶対にやめて、てかやっていいもんなの？むかつく、子供にやってる人も出てきてる、本当にやめなさい。駆逐してやりたい。

— 新谷姫加 (@_Hime_Araya_) January 3, 2026

被害に対してX公式の対応は

今回の被害に対して、Xの日本公式アカウントでも、アカウントの永久凍結や法的措置も検討し警察と連携していくと表明しています。

Xでは、違法コンテンツ（児童性的虐待素材（CSAM）を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります。… https://t.co/EZRQ4TE1Dw

— X Corp. Japan (@XcorpJP) January 6, 2026