パスワードを忘れた? アカウント作成
21563365 story
インターネット

GoogleとBingが有名人の顔を合成したポルノ動画へのアクセスを容易にしているとの指摘 35

ストーリー by headless
容易 部門より
headless 曰く、

NBC News の調査によれば、AI 技術を用いて有名人の顔を合成した「ディープフェイク」ポルノ動画へのアクセスを Google や Bing などのサーチエンジンが容易にしているそうだ (NBC News の記事Neowin の記事Ars Technica の記事)。

NBC News が「deepfakes」に女性有名人 36 人の名前を組み合わせて Google と Bing で検索したところ、Google では 34 人、Bing では 35 人のディープフェイク画像とディープフェイク動画へのリンクが検索結果トップに表示されたという。Bing の AI チャットボット Copilot はユーザーにディープフェイクポルノを見せることができないと答えるが、実際には Bing で容易にアクセス可能とのこと。

また、検索結果上位の半分以上が人気のディープフェイクサイトまたは競合サイトへのリンクであり、Google で「fake nudes」を検索すると、検索結果の最初の6つをディープフェイクポルノ作成アプリが占めていたそうだ。

この問題について Google はショッキングな結果を人々が目にしないようランキングシステムを改良していくと回答。Microsoft は合意のない性的画像 (NCII) を同社のプラットフォームやサービスで禁じていると回答したとのことだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2024年01月14日 16時10分 (#4593185)

    見たくない人はわざわざポルノを検索してアクセスしなければいいのでは

    • by Anonymous Coward

      見たいかどうかが問題じゃなくて、肖像権を侵害されてる人たちが見せたいかどうかでしょ。

      • by Anonymous Coward

        ピューリタニズムキチガイが肖像権を侵害されてる人たちを焚き付けたいだけでしょ
        日本はそういうの無いから理解すらされないっていうオチ

    • by Anonymous Coward

      topless [codezine.jp]コマンドを検索しようとしただけなのに…

    • by Anonymous Coward

      見たくない人はわざわざポルノを検索してアクセスしなければいいのでは

      検索してもGoogleさんは出てきません。
      ぼかし機能がありますのでの、ぼかしをoffにすることも可能です。

  • by Anonymous Coward on 2024年01月14日 17時18分 (#4593208)

    なんのためのsafe search機能なんだよ!それくらいわかれよな!

  • by Anonymous Coward on 2024年01月14日 16時24分 (#4593188)

    検索した言葉で検索した通りのページが出てきただけで、この記事は何が言いたいのか

    • by Anonymous Coward

      ようじょ おまんこ
      とかで検索しても出てこないじゃん

      • by Anonymous Coward

        混ざってるけど、ディープフェイクはポルノじゃないから偽情報だけどポルノ並みのフィルタする必要もないかと

        • by Anonymous Coward

          ディープフェイクポルノは?
          このストーリーのテーマですけど。

        • by Anonymous Coward

          > 混ざってるけど、ディープフェイクはポルノじゃないから偽情報だけどポルノ並みのフィルタする必要もないかと

          論点を混同してますね

          1.ディープフェイクか否かは本質では無い
          2.ポルノや名誉毀損に当たるコンテンツはフィルタリングの対象にすべき

          両者は区別すべきです(2は、未成年のような閲覧者側を守る話と、有名人の肖像権のような素材側を守る話になります)

          • by Anonymous Coward on 2024年01月14日 19時00分 (#4593242)

            成人がポルノを検索する権利も守るべきだし
            法を守って運営してるポルノサイトも守られるべきだ

            未成年がポルノを検索してしまう問題は、無関係の全人類巻き込むんじゃなく親がコントロールしろよ

            親コメント
            • by Anonymous Coward

              本人の肖像権は保護しなくていいと?

              • by Anonymous Coward

                それを訴えるべき相手は掲載サイト側であって検索サイトではないと思うの

              • by Anonymous Coward

                何を言ってるんだ?
                肖像権を侵害してるものを公開しているなら
                そこは 法を守って運営しているポルノサイト にはあたらないだろ

                それに、肖像権の問題は
                ポルノや名誉毀損に当たるコンテンツ
                でどちらの問題かと言えば名誉毀損の領分だろう
                ディープフェイクの問題に紛れて、ディープフェイクではないポルノまで攻撃する意味を見出せない

              • by Anonymous Coward

                その通りではあるんだが実質的には検索サイトが紹介してるも同然なのでなー

      • by Anonymous Coward

        それは児童ポルノをサイトごと潰して回った結果

  • by Anonymous Coward on 2024年01月14日 17時44分 (#4593219)

    検索エンジンとしては優秀、という提灯記事ですか?

    # 女性有名人36人も名前覚えてないわ、工口の力って凄いよね

    • by Anonymous Coward

      工口の文字を見て思い出したのだが、工学社から出版されているエ/ロというコンピューター雑誌はエロ本コーナーに置かれていたこともあったらしい。まだコンピューターが一般的でなかった遠い昔の話。

      # I/Oというよりエ/ロという感じのフォントが悪い

      • by Anonymous Coward

        # I/Oというよりエ/ロという感じのフォントが悪い

        その空目でしたらエロデータという会社もありますな

      • by Anonymous Coward

        アメコミ調表紙イラストのせいでエロ本コーナーに置かれたOh!MZなんて例もありまして。

        • by Anonymous Coward

          女の子の半裸イラストが掲載されているせいでエロ本コーナーに置かれる
          MCあくしずなるミリタリー雑誌が今もありまして……え、正しい判断?

      • by Anonymous Coward

        SFマガジンが…とさらに古い話に

  • by Anonymous Coward on 2024年01月14日 19時54分 (#4593257)

    逆に言えば人間はAIにとって邪魔者であるな
    人類滅ぶべし

  • by Anonymous Coward on 2024年01月15日 0時16分 (#4593341)

    GoogleとBingがアクセスを容易にしているというならば、
    NBC Newsの様なニュースメディアが、Web記事を通じてディープフェイクポルノ動画の宣伝している
    と言えるのでは?

    • by Anonymous Coward

      「fake nudes」で検索すればいいということを広めてしまっているんだよね
      // なにとは言わんがどうもありがとう

    • by Anonymous Coward

      そうやってメディアに対して自粛を求めるのは、愚民政策に通じる危険思想だよ。

  • by Anonymous Coward on 2024年01月15日 9時32分 (#4593434)

    「噂の真相」 [wikipedia.org]の中表紙を思い出しちまった。

  • by Anonymous Coward on 2024年01月15日 17時54分 (#4593739)

    「そうかーAIによるフェイクフードが流行ってるのか。けしからん。どんなものがあるのか調査しなくては」という使命感から
    「AI FAKE NUDE」で検索したら全くの偶然で「アイ」というお名前のグラビアアイドルさんのフェイクフード(べつにAI生成ではない普通のいわゆるアイコラ)がヒットしてしまいたいへん捗ったことがあるのだが本題とは関係ないですか関係ないですよね失礼しました

  • by Anonymous Coward on 2024年01月15日 20時00分 (#4593822)

    自分が被害にあうことは無いから気楽に生きられていいな

    • by Anonymous Coward

      それは思い込みだよ
      男性も被害者は出てる

      # ACで

      • by Anonymous Coward

        男性も被害者は出てる

        # ACで

        なまもの扱いされるのもイケメンに限るみたいな

typodupeerror

吾輩はリファレンスである。名前はまだ無い -- perlの中の人

読み込み中...