ディープフェイク技術を使って合成AVを作成、収益を得たとして男二人が逮捕。国内初 63
ストーリー by nagazou
十分に発達した科学技術は魔法と見分けがつかない 部門より
十分に発達した科学技術は魔法と見分けがつかない 部門より
あるAnonymous Coward 曰く、
ディープフェイク技術を利用して、有名女優の顔とAIを合成した動画を作成したとして逮捕者が出ている。ディープフェイクにで作成されたポルノ動画での逮捕は国内では初だとされている。
逮捕されたのは大学生の林田拓海容疑者とシステムエンジニアの大槻隆信容疑者。この男二人はそうした動画を月300円で見られるサイトを運営、約80万円以上の収益があったとしている（ITmedia、テレ東NEWS）。
新しいビジネス (スコア:1)
顔出していい人と体だけ出していい人を合わせれば、双方の需要にあったAVを作れるのでは?
#体側の人はホクロや傷でバレることはあるだろう
#表情だけ撮影して属性加えるのも手
Re:新しいビジネス (スコア:3, すばらしい洞察)
ホクロや傷はディープフェイクでなくせばいいのでは
Re: (スコア:0)
映画やテレビでスタントに演技やらせて後から顔だけ変える技術はあるんだし、普通に金かければできそう
Re:新しいビジネス (スコア:1)
容疑が名誉毀損&著作権侵害になってるけど、例えば、合成しやすいようにマーカー付きの全頭マスクを被ってもらって撮った合成用AVに、ユーザが用意した写真の顔を綺麗に合成できるサービス、とかだと取り締まれるのかな?
名誉毀損で訴えるにも、「著名人の写真を勝手に合成して楽しんでる」という証拠がないと、まず、捜査ができない。「嫁さんの顔のAVでないと楽しめないので、本人の許可を得てそうやっているだけだ」とでも言い張ってサービスを使ってるだけなら、どう使っているかを外から強制的に調べることなんてできなさそう。
…まあ、どっかのアホが流出させてー、という事件に発展するんだろうけど、絶対。
Re: (スコア:0)
ツールそのものを”即”違法だと言うのは難しそうですね。
エロ動画もしくは顔の著作権ないし肖像権侵害と、結果としての名誉毀損などでは問えるけど、ツール自体は即違法とはできず、被害が出て世論形成されてからかな。
例えば写真の顔を知り合いや著名人にすげかえたコラージュを作るツールとかがあったとして、本来犯罪はその写真を悪用したり公開した際に形成されるもののはずなんですよね。
だからツール自体に各種掲示板やらTwitterやらにアップする機能があれば悪質性が高いとしてアウト判定出しやすいかもしれない。
Re:新しいビジネス (スコア:1)
そんなことをしたらフォトショップ違法化でアドビ激怒
Re: (スコア:0)
Re:新しいビジネス (スコア:1)
エロの有無にかかわらず、一時期流行ったドリーム小説とかいうののサイトによくあった仕様＞名前差し替え
あとエロゲーでは名前変更可能は多い。以前は名前をデフォルトから変えると、ヒロインが主人公を呼ぶ場面で
そこだけ音声なしになってしまったが、最近は入力した名前を自然に発音できるゲームもあるらしい。
仕組みは知らん。
Re: (スコア:0)
顔データとその他データを別々に持ってて、プログラムを走らせた時だけそういう動画ができる場合、摘発とか無理だよねぇ
Re: (スコア:0)
このプレイをあの女優がやってくれれば…！みたいな需要は結構多そうよね
Re: (スコア:0)
そのための、有名人そっくりさんAV女優です。
#ディープフェイク顔のすげ替えAVが合法化したらそっくりさん失職しちゃうね
Re: (スコア:0)
ディープフェイクと言わずにそっくりさんだと言い張ればよかったのでは！？
そもそも視聴者はディープフェイクだと知ってても利用してたんだし。
Re: (スコア:0)
有名声優のそっくりさんで話題になった素人図鑑 FIle-07の「みく」さんのことですか？
Re: (スコア:0)
自分の顔を男優に合成したAVを作ってもらうサービスとかどうだろうか。
Re: (スコア:0)
それを他人に見られたとき、出演していたのね！ って誤解されるんじゃないかな
それをやるなら、素直に VR の方が興奮するかと
# 間違って女優の顔の方に合成されたら別の道を拓けそう
Re: (スコア:0)
そんなもの利用する本人の自己責任では。あーでも陥れたい人を騙って作らせる危険性があるか。
銀行口座並みの本人確認が必要だな。え？ザルだって？
Re: (スコア:0)
立派なものをお持ちですね、とか変な方に誤解されるかも。
Re: (スコア:0)
首から下は最高なんだけどって、あるよな
Re:新しいビジネス (スコア:2)
手タレとか足タレがありますからね。
新ジャンルの過半身タレ。
# 過ではなく、7/8頭身タレとかの方がいいか。
Re: (スコア:0)
＞7/8頭身
8頭身の美人が「身長に対する頭の割合が1/8」であることを考えると
7/8頭身と言うと「身長に対する頭の割合が8/7」という不可思議なことに。
＃いや言いたいことはわかりますよ？8頭身みたいな素晴らしいプロポーションで顔NGってことですよね？
Re: (スコア:0)
夜目遠目笠の内
＃ちょっと違うか
Re: (スコア:0)
見返らず美人
Re: (スコア:0)
MMD用にスキンとモーション＆ボイスの販売と合わせ技はありかもしれない
ギルティ！ (スコア:0)
アフィカスじゃなかったら無罪にしてやったのに。
Re:ギルティ！ (スコア:1)
そう？
今は有名人だけかもしれないけど今後自分の家族が同じ目に遭うかもしれないんだよ？
Re: (スコア:0)
リベンジポルノ的な目的で使用される可能性もありますよね。
Re: (スコア:0)
むしろフェイク技術が一般化すれば、リベンジポルノから被害者を守ることができるのではと思う。
Re: (スコア:0)
どうやって？
自分のヌードが晒された時に、「これはフェイクだ！私じゃない！」って主張するの？
他の人が「このヌードはこの人ではない（と本人が言ってるんだから信じてあげよう」と
思ってくれる可能性は出てくるけど、ヌードが晒されてることには変わらないので、
被害軽減の効果は極めて限定的じゃないかと。
Re: (スコア:0)
いや、そんなのが問題にならない程フェイクの存在が一般的になる。
ヌード画像があっても署名でもない限り、それがフェイクである可能性の方が常時圧倒的に高い状態。
Re: (スコア:0)
逮捕されたのはこの「フィリップ２世Deepfake沼」 @Philip2Prof って説はホントかな
https://twitter.com/akagamiv2/status/1144761176456196096 [twitter.com]
うーむなんというか (スコア:0)
歴史に名を残した感じ？
なにがなんだかわからないよ (スコア:0)
リンク先
AIを使ってポルノ動画に写った人物の顔を芸能人の顔にすり替えた“ディープフェイクポルノ動画”を公開
srad
有名女優の顔とAIを合成した動画を作成
有名女優の顔とAIを合成したら、とっても知的にしゃべったりするんだろうか。
植木鉢に生首 [wikipedia.org]みたいなのかもしれないけど。
Re:なにがなんだかわからないよ (スコア:2)
AIが編集投稿してるんですかね。
Re: (スコア:0)
スラド編集者もそろそろAIと合成したほうがいいよね
凄い技術力だなｗ (スコア:0)
別の分野にその努力を注げば良かったのに
Re:凄い技術力だなｗ (スコア:2)
別の分野にその努力を注げば良かったのに
NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに！
＃なお中国では実際に、登場する女優の顔をAIで差し替えた事例がある模様
https://srad.jp/submission/89456/ [srad.jp]
Re: (スコア:0)
＞NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに！
差し替えたら差し替えたで、当人の表現を棄損したとかで著作権違反だとかで訴える奴とか出てこないかな？
Re: (スコア:0)
＞NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに！
差し替えたら差し替えたで、当人の表現を棄損したとかで著作権違反だとかで訴える奴とか出てこないかな？
当人が逮捕されてるんだからしゃーない
著作権法は親告罪やし塀の中からしてくるこたないやろたぶん
Re: (スコア:0)
この人たちがエンジン作ったのならすごい才能だが、
出回ってるエンジンを使っただけでしょ？
Re: (スコア:0)
実はそれなりの計算資源と元データ用意すれば、誰でもできてしまう。
検索すれば、個人で楽しむことを目的とした技術情報がたくさん出てくる。
今のところ個人でDeepFake作るのは罪に問われないけど、あまりにも簡単にできるようになると何か規制必要なのでしょうか。
月額300円 (スコア:0)
かなり良心的だな
いや犯罪者なんですけどね
Re: (スコア:0)
実写AVだしPatreonみたいなサービスに出してたんじゃね
あいちトリエンナーレ (スコア:0)
コラージュは芸術！逮捕は表現の自由の侵害！
Re: (スコア:0)
コラージュは芸術の侵害！逮捕は表現の自由！
で問題解決しそうな気がしてきた
「初めて」争い (スコア:0)
「『ディープフェイク』技術でアダルト動画作成か 初検挙 [nhk.or.jp]」
……警視庁によりますと「ディープフェイク」の動画をめぐって、制作者が逮捕されたのは初めてだということです。
（中略）
京都府警察本部によりますと、……「ディープフェイク」を使った偽動画の制作者が検挙されるのは全国で初めてだということです。
さて、警視庁・京都府警、どっちがホントの「初めて」？
Re:いつもの公権力 (スコア:1)
日本には肖像権ってのがあってだな...
ただ、問題としては書き換え後が正真正銘の一般人の場合は、新たな立法や条文変更が行われていない源氏手に置いてはどうする気だ、これ。
詐欺は当たらないし、名誉棄損か精神的なものが出た場合に始めて傷害罪?
いずれにしても証拠がつかめない場合、原告側に悪魔の証明求めるつもりカナ?
Re: (スコア:0)
普通に名誉棄損でしょ…。AIとか影も形もない時代から存在した問題。
Re:いつもの公権力 (スコア:1)
まさにアイコラをディープフェイクに置き換えただけの事件ｗ
元国土交通省職員ら、「アイコラ」をサイトに掲載し逮捕
https://scan.netsecurity.ne.jp/article/2005/11/29/17470.html [netsecurity.ne.jp]
Re: (スコア:0)
2つ上からのやつも含めてなだけど、これ芸能人だから名誉棄損や肖像権で訴えたり立証しやすいのよ。
一般人の場合、訴えるにしても「そもそもやってない」になると思うんだけど、
体側も有名なAVに貼り付けました!だったらまだ立証しやすいけど、
これも最近はやりのFC2個撮系でハードモード、オリジナルだともうベリーハードだと思うのよね。
今は名誉棄損でいいとは思うが、名誉棄損だと技術が発達するにつれ立証の観点からかなり裁判は混迷を深めそうな気がする。
#比較してみましたが、結果被害者である蓋然性が否定できない。なんて出たら最悪。
Re: (スコア:0)
> 正真正銘の一般人の場合
著名人だろうが無名人だろうがこんな形での侵害行為ならば名誉毀損は成立するよ
別に法律改正などまったく必要ない