パスワードを忘れた? アカウント作成
14968625 story
ソフトウェア

Telegram上でディープフェイクヌードを作るボットが活動。10万人以上の女性のデータが生成される 51

ストーリー by nagazou
ここまで拡散されてしまうと 部門より
セキュリティ企業のSensityは10月20日、暗号化されたメッセージングアプリのTelegram上で、10万人以上の女性のディープフェイクヌードが拡散されていると発表した。同社によれば、Telegram上でディープフェイクを生成するAIボットが共有されているのが原因であるようだ(SensityGIGAZINEITmedia)。

このAIボットはDeepNudeの進化形とされ、ネットに存在する個人の写真を元にディープフェイクヌードを自動生成している。Sensityによれば被害は2020年7月現在で10万4852人に及んでいるという。また7月までの3か月という短時間で198%も画像が増加したとしている。このAIボットに女性の写真を送ると数分後にヌード画像が生成されるそうだ。ただし生成される画像は完全なものではなく、完全な状態で見るには料金の支払いが必要だとしている。
  • by Anonymous Coward on 2020年10月24日 8時06分 (#3912324)

    廃人が作れるな

    ここに返信
  • by Anonymous Coward on 2020年10月24日 8時47分 (#3912338)

    完全に無から生成すれば、何の問題もないと思うのであった。

    ここに返信
    • by Ryo.F (3896) on 2020年10月24日 9時30分 (#3912362) 日記

      すれば、って…
      ずいぶん昔から二次元とか3DCGとかのエロはあるだろ。

      • by Anonymous Coward

        アニメキャラの絵を取り込むだけで服を脱がしてくれるアプリが欲しいんじゃないの。

    • by Anonymous Coward

      AIに「架空の人物の顔」を作らせたとしても、その顔が本当に実在しないかどうかの証明は出来ないんですよね

      炎上するような動画に身バレ防止の為AIの生成した顔をはめ込んだ(deepfake的な意味で)として、
      たまたま、これもう本人じゃないかってくらい顔がとてもそっくりな人が見つかって、こいつがこの動画に出てる奴だって噂を広められたら、そのそっくりさんは名誉毀損などで動画製作者を訴えたりできるんでしょうか

      偶然だからセーフ?一般人と似たらセーフで、有名人と似たらアウト?
      本人の画像を使わずに、AIに生成させる条件

      • by Anonymous Coward

        100万人の美女の画像をAIに食べさせて生成した架空美女画像は、
        元データ100万人が権利者なのか、AIで生成させた人が権利者かのかどっちなんだ?

        そのうち、AI自体に知的所有権が認められたりして

      • by Anonymous Coward

        分かりやすくすると
        ランダムで作っても「これがあの芸能人に似てるな」とか想定して公衆に送信したら余裕でアウト
        「ボタンを押すごとにランダムで顔が生成されるエロ動画」の場合、たぶん初手なら黒よりのグレーで済むかな。その後規制が入る形で。
        なんだかんだで故意というか「そうなっとるやろが!」って容易に想像できるかどうか、は勘案されるので。
        (あのソフトとかあのケースとかでは初手で有罪判定食らったりしたなぁ、というのはなんというかこういうケースの中でも不幸なパターンという意味で)

    • by Anonymous Coward

      完全に無から生成すれば、何の問題もないと思うのであった。

      非実在青少年でアウトですねわかりますん

    • by Anonymous Coward

      君は何にもわかってない。

    • by Anonymous Coward
      この技術で俺も美幼女に変身できるな。
  • by Anonymous Coward on 2020年10月24日 10時42分 (#3912391)

    ディープフェイクで「/.」に変えられちゃうかもな

    ここに返信
  • by Anonymous Coward on 2020年10月24日 12時01分 (#3912428)

    どこに行けば買えますか?

    ここに返信
  • by Anonymous Coward on 2020年10月24日 16時14分 (#3912510)

    Hey siri、Deep Fake NUDEを作成して
    「私にはその操作はできません。ご了承ください」
    ※多分推定10000回ぐらい言われたと思う

    ここに返信
  • by Anonymous Coward on 2020年10月24日 17時52分 (#3912549)

    自身のヌード写真をうっかりばらまいた/ばら撒かれた人が、それも全部フェイクですよと言うためにやったとか?

    ここに返信
    • by Anonymous Coward

      フェイクヌードへの批判を無意味なものにしようとする意図は感じる。
      機械的に手軽に量産できてしまえば、(フェイク)ヌードはあって当然の存在になる。
      できてしまうという現実は既に到来しつつあるのだと。

      致死性の感染症を囲い込めた時代と、そうでなくなった時代の関係に少し似ている気がする。

  • by Anonymous Coward on 2020年10月25日 14時48分 (#3912824)

    空目

    #Hungry?

    ここに返信
    • by Anonymous Coward

      何のフェイクだったのかが問題か

      ウドンと見せかけてソバだったとか?

  • by Anonymous Coward on 2020年10月26日 6時16分 (#3913038)

    例えば坂本竜馬の女体化ディープフェイクヌードとかも作られている可能性、とか

    # まあ実際には歴史上の人物なんかはディープフェイクヌードなんかより、普通にディープフェイク3Dモデル化とか、ディープフェイク表情の変化とか、そういう方向ならば興味あるひとは多いだろうな

    ここに返信
typodupeerror

日本発のオープンソースソフトウェアは42件 -- ある官僚

読み込み中...