ディープフェイクは犯罪？何罪になる？AI生成・合成動画の違法性について元検事の弁護士が解説

近年、AI（人工知能）の発展により、実在する人の顔や声を用いた画像や動画を簡単に生成・合成できるようになりました。

こうした技術や生成された動画等は「ディープフェイク」と呼ばれ、エンターテインメントや研究分野で活用される一方、犯罪への悪用が深刻な社会問題となっています。

特に、本人が関与していない性的動画や虚偽の映像が拡散されるケースでは、被害者の人格や生活に重大な影響を及ぼします。

２０２３年には、当時首相であった岸田文雄氏が卑猥な言動をするニュース風の動画が大きく拡散されて話題にもなりました。

では、ディープフェイクを用いた行為は、法律上どのような犯罪に該当するのでしょうか。

以下では、元検事（ヤメ検）の弁護士が、ディープフェイクがどのような犯罪に該当し得るのか、現行法の枠組みと実務の視点から解説します。

第１　ディープフェイクとは？

ディープフェイクは、AIを使って実在する人の顔や声を合成し、本物らしく見える画像・動画・音声を作る技術とその技術により生成された動画等です。

技術自体は中立ですが、本人の同意なく性的な画像を作る、虚偽動画を拡散する、なりすましに使うといった使い方をすれば、犯罪となり、刑事事件に発展し、時には逮捕等にも繋がる可能性があります。

結論からいうと、ディープフェイクの作成や利用そのものを直接的に犯罪としている法令が存在するわけではなく、「ディープフェイク作成罪」などといった罪名があるわけでもありません。

しかし、だからといって、ディープフェイクの活用の仕方によっては、処罰されることがないというわけではありません。

作成されたディープフェイクの内容や投稿の状況等によって様々ですが、名誉毀損罪、侮辱罪、わいせつ物頒布等罪、著作権法違反、児童ポルノ禁止法違反などの犯罪が成立し、これらによって処罰される可能性は十分にあります。

以下で詳しく解説します。

第２　ディープフェイクに関連して成立しうる犯罪の種類

１　名誉毀損罪

 実在する人物について、「その人が実際にはしていない行為をしているように見せる動画や画像」を生成・公開し、その内容がその人の社会的評価を低下させるようなものであれば名誉毀損罪が成立する可能性があります。

刑法230条は「公然と事実を摘示し、人の名誉を毀損した者」を処罰すると定めています。

適示された事実が真実か虚偽かで名誉棄損の成否は変わりませんが、公共性・公益目的・真実性が認められる場合には、230条の2により違法性が阻却される余地があります。 

ただ、ディープフェイクを用いた行為の場合、存在しない言動等をさせているわけですから、違法性が阻却されることは想定しにくいところです。

また、特定の人物の顔写真などとアダルトビデオのワンシーンなどを合成して、あたかも当該人物が性行為しているように見せる、いわゆる性的ディープフェイクは、「虚偽の性的事実を本人に結び付けて見せる」ものであって、名誉毀損が成立する可能性が高いと考えられます。

 ２　侮辱罪

 動画や画像の内容からして具体的な「事実の摘示」るとまでは評価できないものの、人格を踏みにじるような加工や文言を付して公然と晒した場合には、侮辱罪の成否が問題になります。

名誉毀損罪と違って、侮辱罪は具体的事実の摘示がなくても成立し得る点がポイントです。

 画像の内容そのもののみでなく、投稿の見せ方全体が犯罪の成否に影響しうる類型です。

 ３　わいせつ物頒布等罪

 性的ディープフェイクに関わる犯罪で実務上最も問題になるのは、刑法175条のわいせつ物頒布等罪であると考えられます。

刑法175条は、わいせつな文書・図画・電磁的記録に係る記録媒体等を頒布し、または公然と陳列した者を処罰し、電気通信の送信によるわいせつな電磁的記録等の頒布も対象にしています。

インターネット・SNS・会員制サイトでの公開は、わいせつな電磁的記録の頒布等として、本罪に該当する可能性が高いといえます。

 ここで注意すべきは、「実在しない成人女性の画像だから大丈夫」とは言えないことです。

実在しない女性、いわゆる「ＡＩ美女」のわいせつ画像を生成AIで作成してポスターにし、インターネット上で販売したという事案でも、実際に警察による逮捕が行われました。

つまり、被害者の実在しない場合であっても、画像等の内容そのものがわいせつであれば、わいせつ物頒布等罪が問題になる場面があります。

 ４　児童ポルノ禁止法違反

性的ディープフェイクのうち、実在の児童の写真等を利用して、わいせつ画像を生成等した場合には、児童ポルノ禁止法違反に該当する可能性があります。

２０２５年には、小学校の教師であった男が、実在の児童生徒の画像を利用して生成AIでわいせつ画像を作成し所持していたという件が、愛知県で全国に先駆けて初めて起訴されました。

児童ポルノ禁止法違反については、名誉棄損やわいせつ物頒布等と異なり、インターネット等で拡散するなどしなくとも、「所持」そのものが処罰の対象になっています。

したがって、児童ポルノに該当する動画や画像を生成した時点で(SNS等への投稿をしなくても)処罰対象になるため、注意が必要です。

５　著作権法違反

他人の写真、動画、音源、配信映像などを無断で素材に使ってディープフェイクを作れば、著作権や著作者人格権の侵害が問題になります。

たとえば、実在するアダルトビデオの顔のみを有名女性芸能人などに置き換えた性的ディープフェイク動画は、当該女性芸能人との関係では名誉棄損等になりえますが、AV制作メーカーや版権元との関係では著作物に勝手な改変を加えたということで著作権法違反になりえます。

 ６　詐欺罪・偽計業務妨害罪

ディープフェイク音声・動画を用い、本人や会社になりすまして金銭等をだまし取れば当然詐欺罪に該当します。

また、虚偽情報の流布で業務を混乱させれば偽計業務妨害が問題になります。

場合によっては、特殊詐欺などに利用されることもあるかもしれませんから注意が必要です。

第３　ディープフェイクの被害者の権利と救済手段

ディープフェイクの被害者(ディープフェイクの生成元になった人物等)は、名誉やプライバシーなどの権利を侵害されている可能性があります。また、著作権者等は著作権を侵害されている可能性があると言えます。

これらの権利侵害への対抗手段としては、捜査機関へ被害届を提出したり刑事告訴をするなどして犯人に刑事処罰を受けさせることだけでなく、民事上の損害賠償請求や削除請求を行うという手段も考えられます。

被害者側としてまず行うべきは、拡散の停止と証拠保全です。URL、アカウント名、投稿日時、販売ページ、スクリーンショットなどを保全したうえで、削除申請、発信者情報開示、刑事告訴等の法的手段を検討するという順序になるでしょう。

未成年の被害であっても、学校に対応を求めるなどに留まらず、法的対応も視野に入れておくべき場面も少なくないと思われます。

また、刑事責任を問いたいのだという場合であっても、刑事告訴のみを目的に行動するだけでなく、「消す・止める・特定する・賠償させる」ことも並行して考える視点が必要な場合が多いと考えられます。

第４　もしディープフェイクを使って法律違反をしてしまったら

ディープフェイクに関連する犯罪を行ってしまった側にとっては、どのようにすれば刑事処罰を回避、軽減できるかが問題となります。

そのためにも、インターネット上に投稿しているといった更なる拡散等が懸念される場合には、まず投稿の削除を行うなどしてさらなる拡散の防止措置を行うべきです。

そのうえで、被害者(著作権法違反の場合は著作者も含む)に対する被害弁償や謝罪、示談の可能性を検討します。

名誉棄損や著作権法違反などについては親告罪であり、被害者の告訴がなければ処罰されることはありません。

つまり、被害者と示談をすれば刑事処罰を受ける可能性は限りなく低くすることができるのです。

刑事事件で示談する方法を元検事の弁護士が解説

そのほか、何としても逮捕を免れたい、逮捕の可能性を少しでも低くしたいといった場合には捜査機関に対して自首をするということも考えられます。

自首をして正直に話をし、関連する証拠も任意に提出するなどすれば、逃亡や罪証隠滅のおそれといった逮捕に繋がる事情を軽減させることにつながります。

また、自首は有利な情状となりえ、多くの場合、最終的な刑事処分は自首をしない場合と比較して軽くなるでしょう。

もっとも、自首をした場合、警察から事件として認知される(捜査対象になる)ことになるので、どのような場合に自首をすべきかというのは専門家に相談の上、しっかりと検討する必要があります。

自首したい

被害者への謝罪や削除対応、示談の成立などは、立件や逮捕の回避、不起訴の獲得等に影響を与える重要な要素です。

いずれにせよ早期に弁護士へ相談し、適切な対応を行うことが重要です。

第６　まとめ

ディープフェイクは、AI技術の進歩により身近な存在となりましたが、その悪用は重大な犯罪に発展する可能性があります。

名誉毀損罪やわいせつ物関連犯罪など、既存の法律によって処罰されるケースは少なくありません。

被害者にとっても、関与してしまった側にとっても、早期の法的対応が重要です。

ディープフェイクに関する問題でお悩みの場合には、できるだけ早く、刑事事件に精通した弁護士へ相談することをおすすめします。

上原総合法律事務所は、元検事8名を中心とする弁護士集団で、迅速にご相談に乗れる体制を整えています。

刑事事件に関するお悩みがある方は、ぜひ当事務所にご相談ください。経験豊富な元検事の弁護士が、迅速かつ的確に対応いたします。