パスワードを忘れた? アカウント作成
14941726 story
ソフトウェア

ディープフェイク技術を使って合成AVを作成、収益を得たとして男二人が逮捕。国内初 62

ストーリー by nagazou
十分に発達した科学技術は魔法と見分けがつかない 部門より
あるAnonymous Coward 曰く、

ディープフェイク技術を利用して、有名女優の顔とAIを合成した動画を作成したとして逮捕者が出ている。ディープフェイクにで作成されたポルノ動画での逮捕は国内では初だとされている。

逮捕されたのは大学生の林田拓海容疑者とシステムエンジニアの大槻隆信容疑者。この男二人はそうした動画を月300円で見られるサイトを運営、約80万円以上の収益があったとしている(ITmediaテレ東NEWS)。

  • by Anonymous Coward on 2020年10月05日 14時26分 (#3900798)

    顔出していい人と体だけ出していい人を合わせれば、双方の需要にあったAVを作れるのでは?

    #体側の人はホクロや傷でバレることはあるだろう
    #表情だけ撮影して属性加えるのも手

    ここに返信
    • Re:新しいビジネス (スコア:3, すばらしい洞察)

      by Anonymous Coward on 2020年10月05日 15時06分 (#3900822)

      ホクロや傷はディープフェイクでなくせばいいのでは

      • by Anonymous Coward

        映画やテレビでスタントに演技やらせて後から顔だけ変える技術はあるんだし、普通に金かければできそう

    • by Anonymous Coward on 2020年10月05日 15時23分 (#3900835)

      容疑が名誉毀損&著作権侵害になってるけど、例えば、合成しやすいようにマーカー付きの全頭マスクを被ってもらって撮った合成用AVに、ユーザが用意した写真の顔を綺麗に合成できるサービス、とかだと取り締まれるのかな?

      名誉毀損で訴えるにも、「著名人の写真を勝手に合成して楽しんでる」という証拠がないと、まず、捜査ができない。「嫁さんの顔のAVでないと楽しめないので、本人の許可を得てそうやっているだけだ」とでも言い張ってサービスを使ってるだけなら、どう使っているかを外から強制的に調べることなんてできなさそう。

      …まあ、どっかのアホが流出させてー、という事件に発展するんだろうけど、絶対。

      • by Anonymous Coward

        ツールそのものを”即”違法だと言うのは難しそうですね。
        エロ動画もしくは顔の著作権ないし肖像権侵害と、結果としての名誉毀損などでは問えるけど、ツール自体は即違法とはできず、被害が出て世論形成されてからかな。

        例えば写真の顔を知り合いや著名人にすげかえたコラージュを作るツールとかがあったとして、本来犯罪はその写真を悪用したり公開した際に形成されるもののはずなんですよね。
        だからツール自体に各種掲示板やらTwitterやらにアップする機能があれば悪質性が高いとしてアウト判定出しやすいかもしれない。

      • by Anonymous Coward
        登場人物の名前を任意に変更できる自作小説(エロ)があったことをなんとなく思い出した。
        • by Anonymous Coward on 2020年10月05日 22時47分 (#3901180)

          エロの有無にかかわらず、一時期流行ったドリーム小説とかいうののサイトによくあった仕様>名前差し替え
          あとエロゲーでは名前変更可能は多い。以前は名前をデフォルトから変えると、ヒロインが主人公を呼ぶ場面で
          そこだけ音声なしになってしまったが、最近は入力した名前を自然に発音できるゲームもあるらしい。
          仕組みは知らん。

      • by Anonymous Coward

        顔データとその他データを別々に持ってて、プログラムを走らせた時だけそういう動画ができる場合、摘発とか無理だよねぇ

    • by Anonymous Coward

      このプレイをあの女優がやってくれれば…!みたいな需要は結構多そうよね

      • by Anonymous Coward

        そのための、有名人そっくりさんAV女優です。

        #ディープフェイク顔のすげ替えAVが合法化したらそっくりさん失職しちゃうね

        • by Anonymous Coward

          ディープフェイクと言わずにそっくりさんだと言い張ればよかったのでは!?
          そもそも視聴者はディープフェイクだと知ってても利用してたんだし。

        • by Anonymous Coward

          有名声優のそっくりさんで話題になった素人図鑑 FIle-07の「みく」さんのことですか?

    • by Anonymous Coward

      自分の顔を男優に合成したAVを作ってもらうサービスとかどうだろうか。

      • by Anonymous Coward

        それを他人に見られたとき、出演していたのね! って誤解されるんじゃないかな
        それをやるなら、素直に VR の方が興奮するかと

        # 間違って女優の顔の方に合成されたら別の道を拓けそう

        • by Anonymous Coward

          そんなもの利用する本人の自己責任では。あーでも陥れたい人を騙って作らせる危険性があるか。
          銀行口座並みの本人確認が必要だな。え?ザルだって?

        • by Anonymous Coward

          立派なものをお持ちですね、とか変な方に誤解されるかも。

    • by Anonymous Coward

      首から下は最高なんだけどって、あるよな

      • 手タレとか足タレがありますからね。
        新ジャンルの過半身タレ。

        # 過ではなく、7/8頭身タレとかの方がいいか。

        • by Anonymous Coward

          >7/8頭身

          8頭身の美人が「身長に対する頭の割合が1/8」であることを考えると
          7/8頭身と言うと「身長に対する頭の割合が8/7」という不可思議なことに。

          #いや言いたいことはわかりますよ?8頭身みたいな素晴らしいプロポーションで顔NGってことですよね?

      • by Anonymous Coward

        夜目遠目笠の内

        #ちょっと違うか

    • by Anonymous Coward

      MMD用にスキンとモーション&ボイスの販売と合わせ技はありかもしれない

  • by Anonymous Coward on 2020年10月05日 14時06分 (#3900785)

    アフィカスじゃなかったら無罪にしてやったのに。

    ここに返信
    • by Anonymous Coward on 2020年10月05日 14時27分 (#3900800)

      そう?
      今は有名人だけかもしれないけど今後自分の家族が同じ目に遭うかもしれないんだよ?

      • by Anonymous Coward

        リベンジポルノ的な目的で使用される可能性もありますよね。

        • by Anonymous Coward

          むしろフェイク技術が一般化すれば、リベンジポルノから被害者を守ることができるのではと思う。

          • by Anonymous Coward

            どうやって?
            自分のヌードが晒された時に、「これはフェイクだ!私じゃない!」って主張するの?
            他の人が「このヌードはこの人ではない(と本人が言ってるんだから信じてあげよう」と
            思ってくれる可能性は出てくるけど、ヌードが晒されてることには変わらないので、
            被害軽減の効果は極めて限定的じゃないかと。

            • by Anonymous Coward

              いや、そんなのが問題にならない程フェイクの存在が一般的になる。
              ヌード画像があっても署名でもない限り、それがフェイクである可能性の方が常時圧倒的に高い状態。

    • by Anonymous Coward

      逮捕されたのはこの「フィリップ2世Deepfake沼」 @Philip2Prof って説はホントかな

      https://twitter.com/akagamiv2/status/1144761176456196096 [twitter.com]

  • by Anonymous Coward on 2020年10月05日 14時25分 (#3900797)

    歴史に名を残した感じ?

    ここに返信
  • by Anonymous Coward on 2020年10月05日 14時31分 (#3900802)

    リンク先

    AIを使ってポルノ動画に写った人物の顔を芸能人の顔にすり替えた“ディープフェイクポルノ動画”を公開

    srad

    有名女優の顔とAIを合成した動画を作成

    有名女優の顔とAIを合成したら、とっても知的にしゃべったりするんだろうか。
    植木鉢に生首 [wikipedia.org]みたいなのかもしれないけど。

    ここに返信
    • by Anonymous Coward

      スラド編集者もそろそろAIと合成したほうがいいよね

  • by Anonymous Coward on 2020年10月05日 14時37分 (#3900803)

    別の分野にその努力を注げば良かったのに

    ここに返信
    • by simon (1336) on 2020年10月05日 14時58分 (#3900816)

      別の分野にその努力を注げば良かったのに

      NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに!

      #なお中国では実際に、登場する女優の顔をAIで差し替えた事例がある模様
      https://srad.jp/submission/89456/ [srad.jp]

      • by Anonymous Coward

        >NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに!
        差し替えたら差し替えたで、当人の表現を棄損したとかで著作権違反だとかで訴える奴とか出てこないかな?

        • by Anonymous Coward

          >NHKがこいつらを雇って逮捕されちゃった女優の顔を別の女優の顔に差し替える仕事をさせればよかったのに!
          差し替えたら差し替えたで、当人の表現を棄損したとかで著作権違反だとかで訴える奴とか出てこないかな?

          当人が逮捕されてるんだからしゃーない
          著作権法は親告罪やし塀の中からしてくるこたないやろたぶん

    • by Anonymous Coward

      この人たちがエンジン作ったのならすごい才能だが、
      出回ってるエンジンを使っただけでしょ?

      • by Anonymous Coward

        実はそれなりの計算資源と元データ用意すれば、誰でもできてしまう。
        検索すれば、個人で楽しむことを目的とした技術情報がたくさん出てくる。

        今のところ個人でDeepFake作るのは罪に問われないけど、あまりにも簡単にできるようになると何か規制必要なのでしょうか。

  • by Anonymous Coward on 2020年10月05日 14時52分 (#3900813)

    かなり良心的だな
    いや犯罪者なんですけどね

    ここに返信
    • by Anonymous Coward

      実写AVだしPatreonみたいなサービスに出してたんじゃね

  • by Anonymous Coward on 2020年10月05日 18時47分 (#3901010)

    コラージュは芸術!逮捕は表現の自由の侵害!

    ここに返信
    • by Anonymous Coward

      コラージュは芸術の侵害!逮捕は表現の自由!
      で問題解決しそうな気がしてきた

  • by Anonymous Coward on 2020年10月05日 19時52分 (#3901070)

    『ディープフェイク』技術でアダルト動画作成か 初検挙 [nhk.or.jp]」

    ……警視庁によりますと「ディープフェイク」の動画をめぐって、制作者が逮捕されたのは初めてだということです。
    (中略)
    京都府警察本部によりますと、……「ディープフェイク」を使った偽動画の制作者が検挙されるのは全国で初めてだということです。

    さて、警視庁・京都府警、どっちがホントの「初めて」?

    ここに返信
  • by Anonymous Coward on 2020年10月06日 13時00分 (#3901466)

    ここで注目すべきなのは、
    本人の画像が、AV内には出てこないってのがポイントだと思う。

    著作権法違反なのは明確で(既成のAVを加工したから)
    名誉毀損なのはもっともらしいけど(芸能人の名前を出して販売していたから)

    じゃあコンピューターが描き出した顔が、直接名誉毀損に当たるのかということだと思うけど。
    ディープフェイクなんて所詮他人の空似なわけで、深層学習した結果、それらしい顔をコンピューターが描き出したわけでしょ。

    本人の映像を合成したアイコラのような加工ならば、人格権の侵害は明白だけれど、コンピューターが想像で描き出した顔が何かしらの権利を侵害しているのかというのはかなり気になる争点なんだけど。

    ここに返信
typodupeerror

あと、僕は馬鹿なことをするのは嫌いですよ (わざとやるとき以外は)。-- Larry Wall

読み込み中...