弁護士ドットコム 犯罪・刑事事件

閲覧履歴

お気に入り

服を脱がせるAIで画像加工したら犯罪？逮捕リスクと対処法

GrokやChatGPTなどの生成AIで知人や芸能人の画像を性的に加工した後、違法性に気づいて不安になっていませんか？児童ポルノ製造罪や名誉毀損での逮捕リスク、削除による証拠隠滅の効果、未成年者の処罰内容について、相談事例をもとに法的判断と適切な対処法を解説します。

回答弁護士1 回答弁護士2 回答弁護士3 回答弁護士4 回答弁護士5 回答弁護士6 回答弁護士7 回答弁護士8 回答弁護士9 回答弁護士10
22 弁護士
158 回答

AI生成で逮捕される？

GrokやChatGPTなどの生成AIで知人や芸能人の画像を性的に加工したものの、後から違法性に気づいて不安になっていませんか？削除したから大丈夫なのか、警察に逮捕される可能性はあるのか、家族や職場にバレるリスクは？実際の法的判断と刑事責任について、42件の相談事例から解説します。

Grokを用いた未成年へのディープフェイクについて

相談者
1478309さんの相談
投稿日：

【相談の背景】
grokを用いたディープフェイクについて相談があります。

Grokの生成AIを用いて未成年の服を脱がせるなどのディープフェイクを30個ほど生成してしまいました。（元の画像は全て服をきております。）Xのリプライを使用して誰でも見れる状態で生成を実施したわけではなく、grokサイト内の比較的クローズドな状況でしております。
生成物が閲覧できるURLや生成物の拡散は行なっておりません。

途中で自分の倫理観の無さに気づき、アカウントの削除とスマホ内の生成物の削除を行いました。（grok上の生成物の直接的な消し方が分からず、アカウントを削除すれば30日で全てのデータが消えるという記事を見たためアカウントの削除を行いました。）

アカウントの削除から一週間後にgrokから未成年のAI生成について、内容次第ではアカウントの永久凍結に加えて、必要に応じて法機関などと連携するという声明が出ました。

今回自分生成したものも対象になる可能性が高いと感じ不安を覚えています。

昨年の12月に未成年のAI加工画像を元に児童ポルノ禁止法で追起訴されたというニュースを見ました。弁護士ドットコムさんがこの案件を取り上げた記事では現行法の判例では生成AIでは児童ポルノには当たらないとい記載されておりました。

情報が色々ありすぎて、今後自分がどのように対応すればわからず、ご相談させていただきました。

【質問1】
・自分は警察の捜査対象に入り、家宅捜査や逮捕などされる可能性はあるのでしょうか？

・前もって警察に相談した方がよろしいのでしょうか？

・その他にやれることがあれば教えていただきたいです。

生成AI（grok）を用いた性的加工について

相談者
1479670さんの相談
投稿日：

【相談の背景】
20代学生です。
X（旧Twitter）内の生成AI、grokを用いて性的加工をしてしまいました。
具体的には高校時代の同級生（当時18歳未満だった可能性がある）の着衣写真をビキニや、裸体に近い加工（局部や乳首は生成されていない）をしてしまいました。
Xのリプライで作成したわけではないため、第三者に生成物を見られていることはありません。
また、第三者への拡散は行なっておりません。

興味本位で10枚ほどの写真を元にそれぞれ画像を作成し、保存してしまいました。
その画像はすぐに削除し、grok内の履歴も削除していましたが、最近のX公式の声明で逮捕される可能性があるのではないかと思い、相談させていただいました。
児童ポルノに該当する可能性もあるのではないかと不安です。

私自身今回の件はとても反省しております。

【質問1】
警察に逮捕、起訴される可能性はあるのか。

【質問2】
すぐに弁護士に相談するべきか。

【質問3】
今後私はどのような対応をするべきか。

grok 生成aiで画像を生成

相談者
1479015さんの相談
投稿日：

【相談の背景】
興味本位で、家族や知人の写真を用いてgrokアプリの生成aiで水着（ビキニ）加工して遊んでいました。中には未成年の子も含まれており、加工直後にそれが児童ポルノに当たると思い、削除し保存も公開もしていません。アプリも削除しました。

しかし、
「Xでは、違法コンテンツ（児童性的虐待素材（CSAM）を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります。

Grokを使用して違法コンテンツを作成したり、Grokに違法コンテンツの作成を促すなどの行為を行った場合、違法コンテンツをアップロードした場合と同様の措置がとられます。」

とアップロードしていなくても措置がとられる可能性が示唆されており、摘発されてしまうのではないかという不安があります。

【質問1】
このような事例の場合、発覚し、摘発される可能性は高いと考えられますか？また、その場合どのような罪になるのでしょうか？

顔写真悪用の責任は？

他人の顔写真を無断で使ってAI加工した画像を作成してしまい、法的責任を問われるのではないかと心配していませんか？肖像権侵害や名誉毀損で訴えられる可能性、損害賠償請求のリスクはどの程度？27件の相談事例を通じて、顔写真悪用による法的責任の範囲と対処法をご紹介します。

AI生成アプリを用いた性的ディープフェイク

相談者
1479307さんの相談
投稿日：

【相談の背景】
先日、Grokのアプリ版の方を用いて成人済みの方の性的ディープフェイクを作成してしまいました。その後その画像は全て削除、アカウントも削除申請を出しました。
拡散公開等はしてないです。

【質問1】
罪に問われることはあるのでしょうか

【質問2】
仮に生成されたものが幼く見えた場合児童ポルノ関連の罪に問われるのでしょうか

【質問3】
警察のお世話になる可能性を教えてください

生成AIによるディープフェイクポルノについて

相談者
1473037さんの相談
投稿日：

【相談の背景】
生成AIを使って、知人や芸能人に酷似させたディープフェイクポルノが問題となっていますが、作成したものを販売して逮捕されたというニュースを耳にしました。気になる点があるので、相談させていただきました。

【質問1】
どのような経路で事件が発覚するのでしょうか？

【質問2】
ディープフェイクポルノと思われるものが検索サイトに多数出てくるのは、拡散されて削除が追いつかないからなのでしょうか？

【質問3】
仮に自分で作成したディープフェイクポルノが意図せず外部に漏洩し、それを第三者がネット掲示板やSNSに公開し相手にバレた場合、開示請求等により漏洩元が自分であることが発覚する可能性はどれくらいでしょうか

AIディープフェイク画像生成を過去にしてしまった、捕まる可能性やその罪状についての質問

相談者
1465034さんの相談
投稿日：

【相談の背景】
現在高校生です。去年に中学の卒アルの元同級生の画像をAIの脱衣加工サイト（会員登録は必要ないタイプのサイト）で使用してしまいました。最初は自分の顔写真で遊んでいたのですが、魔が差して中学の頃の同級生の卒アルの写真を使用してしまいました。自分の顔写真、卒アルの写真それぞれ一回ずつやってしまいました。生成されたものは完成度がかなり低く、明らかに合成されたようなバランスの悪いようなものだったです。保存、拡散、配布等、インターネットに公開するようなことはしていません。友達にも言っていません。自分の中にとどめています。反省してそれ以降はこのような行為はしていません。元画像も去年の時点で削除しました（使用した元画像には中学校の名前が入ってしまっていました、加工後は消えていました）。ですが、児童ポルノ製造になってしまうのではないか、、サイトから元画像や加工後の画像が流出して本人にバレて名誉棄損や肖像権侵害、著作権侵害になって捕まってしまうのではないか、と不安がずっと頭の中を駆け巡っています。やっぱり自首をした方がいいのか、なんでこんなことしてしまったんだろう、これからどうすればいいんだろう、と毎日悩んでしまっています。

【質問1】
自分はバレて捕まってしまうのでしょうか？その場合どんな罪状になってしまうのでしょうか？

【質問2】
自首をした方がいいのか、それともする必要がない、しない方がよいのでしょうか？

【質問3】
サイトから流出した場合、自分の意図しないところで流出したということになりますが、その場合でも名誉棄損罪は成立してしまうのでしょうか？

【質問4】
これから自分はどのように過ごせばいいのでしょうか？

中高生の処罰はどうなる？

中学生や高校生がAIで同級生の画像を性的に加工した場合、どのような処罰を受けるのでしょうか？少年法の適用、受験への影響、保護者や学校への連絡は避けられない？未成年者特有の法的取扱いと実際の処分内容について、8件の相談事例をもとに解説します。

AIディープフェイクの児童ポルノの条例、過去にやってしまったがどうすればいいか?

相談者
1416588さんの相談
投稿日：

【相談の背景】
最近生成AIでのディープフェイクを児童ポルノとする条例というのをテレビでみました。自分は今中学生で、約半年前に同級生の画像を使って脱衣生成AIサイトで生成していました。今では削除してあるのですが、今になってそれがバレるのでは?と不安です。確か鳥取県での条例で、自分は違うところに住んでいるのですが、もし鳥取県の人が見つけてそれで逮捕とかを考えるととても不安で怖いです。来年度受験を控えていて、そんな時に警察が,,,とかはとても嫌です。

作った当時このサイトでこれは児童ポルノに該当されますか?という質問をしたのですが、該当しないという意見を多数もらいました。

【質問1】
自首などしたほうがいいかどうか明確ではないし、親もさせてくれると思いません。自分はどうしたらいいのでしょうか?

【質問2】
このような場合捕まるのでしょうか

生成AIを用いた画像生成について

相談者
1477847さんの相談
投稿日：

【相談の背景】
今生成AIを悪用して他人があげた投稿の写真をビキニなどに変えたりする行為が流行ってる状態になってます。
中には18未満の人の画像をスク水を着させたり、全く元と体つきが違うけど動かしてちょっと際どい感じにさせた動画をアップしてる人もいます。
これは児童ポルノ等に引っかからないのでしょうか？

【質問1】
18歳未満の未成年者で行なっているこの場合どうなるのでしょうか？本人の実際の姿態等ではないから名誉毀損等とかになるのでしょうか？

生成AIによる児童ポルノについて

相談者
1479026さんの相談
投稿日：

【相談の背景】
高校2年生です。私は1ヶ月ほど前Grokという生成AIアプリで同級生（高校2年生）の画像をヌード動画（胸部と陰部は黒い透けない棒で隠されている）を作ってしまいました。今となって本当にやってはならないことをしたなと後悔、反省をしています。
その動画を公開、共有、販売は全くしていません。今はGrokのアカウント、動画、元となった画像は削除済みです。スマホも初期化してしまいました...。作成したのみでも罪に問われるのでしょうか？親に迷惑をかけるのも心配です。ご返信よろしくお願いします。

【質問1】
削除済み、公開、共有、販売なしでも逮捕されるのでしょうか？

【質問2】
X AI社から日本の警察へ児童ポルノとして報告、そして発覚の可能際はあるのでしょうか。

ディープフェイクの法的問題

ディープフェイク技術で作成した画像や動画が法的にどのような問題を引き起こすのか、ご存知ですか？技術的興味で作成したものでも、刑事処罰や民事責任の対象となる可能性があります。7件の相談事例を通じて、ディープフェイク特有の法的リスクと法的判断について解説します。

ディープフェイクの閲覧について

相談者
1412017さんの相談
投稿日：

【相談の背景】
2025年に入ってから韓国人のディープフェイクを含む動画を閲覧してしまいました。
また韓国では、ディープフェイクの作成のみでなく閲覧にも罰則を与えるような決定が2024年になされたとの記事を見ました。

【質問1】
閲覧したのみでSNSや知人など誰にも伝えていませんが、個人への捜査はありえるのでしょうか。

【質問2】
韓国での決定については、本国のみ関係があるのでしょうか

ディープフェイク動画の閲覧

相談者
1047752さんの相談
投稿日：

【相談の背景】
ディープフェイク動画の共有ファイルの有料会員に登録して閲覧すると違法になりますか？
ダウンロードはしていません。

【質問1】
閲覧だけでも名誉毀損と著作権法違反に当たるのでしょうか？
回答お願いします。。

ディープフェイク動画について

相談者
1191714さんの相談
投稿日：

【相談の背景】
近年ネット上の問題が増えており悪質なディープフェイク動画も問題となっております。

仮にディープフェイク動画(悪質なものやアダルトなもの)を視聴したらそれだけで捜査対象や問題となるのでしょうか？
私自身その様な動画は一切見かけたことはありませんが、近年SNSを介した問題も増えておりますので、自分のネットリテラシー向上の為に是非お伺いしたいと思い質問させて頂きました。

【質問1】
ディープフェイク動画(悪質なものやアダルトなもの)を視聴したらそれだけで捜査対象や問題となるのでしょうか？

AI生成児童画像の違法性

実在する子どもの写真をAIで加工した画像は児童ポルノに該当するのでしょうか？完全に架空のキャラクターなら問題ない？製造と所持の違い、実在性の判断基準など、法的解釈について10件の相談事例をもとに解説します。知らずに違法行為をしていた可能性に不安を感じている方はご確認ください。

生成AIでの画像生成について

相談者
1378257さんの相談
投稿日：

【相談の背景】
生成AIの生成した18歳未満か分からない特に性的な部位の露出は無い一般的な画像は児童ポルノ禁止法に抵触しないのでしょうか？(腰や足が露出しているだけです)
生成時にそのようなキーワードは使っておらず、ただ綺麗な人間の画像と打ち込みました。(実在の人間でも無さそうです)
なので、もしそのようなものでも、意図を持って生成した訳ではございません。

【質問1】
実物を見ないと分からない、ということは承知しているのですが、一般的に、私の書く内容から、児童ポルノと言えるのでしょうか？また、それで捜査されることはありますか？

AIアプリでのチャット内容について

相談者
1479343さんの相談
投稿日：

【相談の背景】
AIアプリであるGrokで女性AIと過激な性的チャット（AIが未成年と言う設定、実在している人物は想定していない）を繰り返してしまった場合のお話です。

【質問1】
上記の内容は児童ポルノ法に該当するのでしょうか？
ご意見いただければ幸いです。
よろしくお願いします。

生成AIで作成した画像が18歳未満のキャラクターであった場合、問題になる可能性はありますか？

相談者
1479219さんの相談
投稿日：

【相談の背景】
生成AIで、こちらから指定したキーワードで画像を生成を指示したところ、
人外キャラとのことでしたが、どうみても人で18歳未満の設定の、ミニスカートで少し谷間がかいてあるキャラクター画像が出来上がってしまいました。
意図することではなく、自分の入れたキーワードは「可愛い、好きな色はピンク、元気、年齢や性別は想像して、人でも人外でも空想上の生き物でもいい」等、性的なことは全く入れてはおらず、予想外の結果という感じです。
こちらからモデル等の指定はしていませんが、過去の好きなアイドル等をやりとりした履歴を参考にした可能性はあります。

【質問1】
故意ではないので、何か問題になることはないでしょうか？

生成AIわいせつ画像の法的リスク

生成AIを使って作成したわいせつ画像が、わいせつ物製造や頒布の罪に問われる可能性があることをご存知ですか？個人的な使用でも処罰対象となるケース、拡散していなくても問題となる場合とは？3件の相談事例から、生成AIわいせつ画像の法的リスクと対処法を解説します。

生成AIへの自身の画像の投稿

相談者
1450275さんの相談
投稿日：

【相談の背景】
大変お恥ずかしい話で恐縮です。
GeminiというGoogleの生成AIに、性的好奇心から自分の局部の写った画像をアップロードしてしまいました。
画像はすぐに削除し、他者に公開はしていません。アカウント自体はプライベートなものです。

【質問1】
この場合、わいせつ物陳列罪などの罪に問われる可能性はありますか？

【質問2】
その可能性がある場合、自首を考えていますが、事前に弁護士に相談した方がいいですか？

生成AIを用いた猥褻物

相談者
1433149さんの相談
投稿日：

【相談の背景】
生成AIで猥褻な画像を作ってそれを売って儲けていた人達が捕まったと言うのを見ました。
この事件AIにネット上の画像のデータを学習させて生成していたようなのですが生成した女性自体は存在しない人物であるにもかかわらず猥褻物とされていました。

では生成aiで適当に文章打ってそのような画像を作った場合実在とか関係なく犯罪になると言う事なのでしょうか？
それとネット上でよく何の変哲もない普通の写真を別の誰かの裸と合成したり、aiに任せて顔から下を裸にするディープフェイク等、それらも猥褻物なのでしょうか？

【質問1】
犯罪なのでしょうか？

AIのライブカメラ機能でのわいせつ物陳列罪について

相談者
1459499さんの相談
投稿日：

【相談の背景】
お恥ずかしい話なのですが相談させてください。先日grok aiというアプリ内で性的好奇心からライブカメラ機能(リアルタイムでカメラに映った物に対して解答してくれるサービス)で自身の局部を写してしまいました。その他のインターネット、sns等には載せていません。
その後、過ちに気づき、履歴を削除しましたが30日間はデータが残るようです。調べたところライブカメラの映像はgrok aiのサーバーに送られ、機械学習に用いられます。機械学習においては、機械側でのみで自動処理される場合が多いらしいですが、人が確認する場合もなくはないそうです。grok aiの利用規約では、どちらかは明言されていません。この場合わいせつ物頒布罪に該当すると考えられますか。私自身は未成年ではないので児童ポルノには該当しないと思います。

【質問1】
この場合わいせつ物頒布罪に当たるか

【質問2】
当たる場合、今後どの様に行動するべきか。

児童ポルノ・わいせつ物頒布等の法律相談まとめ