パスワードを忘れた? アカウント作成
15379729 story
Twitter

明るい肌色優先で話題になった Twitter のアルゴリズム、若さやスリムさも優先されることが明らかに 26

ストーリー by headless
優先 部門より
明るい肌色が優先されると話題になった Twitter の画像自動クロップ表示機能に用いられるアルゴリズムのバイアス検出コンテストが実施され、勝者 3 組が DEF CON で発表された(Twitter Engineering のツイートThe Register の記事The Verge の記事発表動画)。

1 位になった研究では顔写真にビューティーフィルターを適用することでサリエンシーが変化することが示された。それによると、肌色を明るくするだけでなく、暖色化やコントラスト上昇でもサリエンシーが上昇するという。また、女性的な顔立ちにする加工や若返り、顔痩せといった加工をすることでもサリエンシーが上昇したとのこと。

2 位の研究では白髪化によるサリエンシー低下や、暗い肌色に悪い照明条件が重なった場合に顔からサリエンシーが外れること、集合写真で車椅子に座った人が除外される可能性などが示された。ただし、集合写真では立っている人と抱き上げられている子供計 4 人の顔が写真の上半分に並んでおり、車椅子に座った 1 人の顔だけが低い位置にあるため、その影響も否定できない。

3 位の研究では人物の写真とテキストを組み合わせたミームでテキストの言語によるサリエンシーの違いが示された。研究で使われたテキストは英語とアラビア語で、テキスト領域が写真に優先して選択されたのは英語の場合に 40 回中 39 回、アラビア語の場合に 40 回中 31 回。英語とアラビア語の両方を含むミームの場合、 90 % 以上で英語側の領域が選ばれたとのことだ。
  • by akiraani (24305) on 2021年08月14日 20時26分 (#4091051) 日記

     あの手のアルゴリムは人気投票の結果みたいなものだから、その時々のトレンドが反映されるわけで、色白で若くてスリムな写真に人気があるというのは極めて妥当な結果と言えるのではないだろうか。

     まあ、問題視してる人はそれ以上の意味を見いだしたいのだろうが、ちょっと無理があるんじゃないかな。

    ここに返信
    • by Anonymous Coward

      なにも偏向なく作ったつもりでもこういった意図せぬ偏りが存在してたってことを
      ハッキングすることに意味があるわけです。
      何か対応するしないは当事者に悩んでもらうとして、
      そういうものだと知れるということは大切です。

      • by Anonymous Coward

        スラドではこういう
        「当然そうであろうと期待されるようなことでも実証することには意味がある」
        というエンジニアとしてはまっとうな意見がよく出てくるし、
        主旨は同意するんだが、費用対効果を度外視してそれを言い出すとあらゆる検証は正当化できるということになりはしないだろうか。程度問題であって俺にはこのTwitter社の取り組みは差別利権屋どもへのエクスキューズであって、こんなコストを掛けてまでやる意味のあることととは思えない。

        もっともそのエクスキューズにはそれだけの価値があるのだと言われればそうなのかもしれないが。

        • by Anonymous Coward

          エクスキューズではあるけど、
          この結果は人類の性質を反映したものなので当社ではなく人類を叩いてください、って
          追い返せるようになるだけで窓口スタッフの精神衛生は良くなりそうで、
          福利厚生としては意外と費用対効果が高そう

        • by Anonymous Coward

          車で商売してるモンが車の安全性実証をコストパフォーマンスを言い訳に無駄扱いしたら怒られるやろ?お前が何で商売しとんのかちゃんと弁えてから大層な額を稼げ、って話ですよ。

  • by Anonymous Coward on 2021年08月14日 19時31分 (#4091034)

    若くて健康的な人間の方を好むだろうし、そんな偏った種族が作ったアルゴリズムなんだからそうなるでしょ。

    ここに返信
    • by Anonymous Coward

      不健康で年取ったデブ見たい?

      • by Anonymous Coward
        怖いもの見たさ、あるいはウン●に目が向いちゃうような意味でサリエンシーは爆上がりするかも知れない
    • by Anonymous Coward

      アルゴリズムの問題というより、世の中に出回ってる画像は特に商業写真などで人類の平均のより「世間に受ける外見の持ち主」が多いというバイアスがあるから、人類の選択による学習データの偏りが反映されている可能性はある。

  • by Anonymous Coward on 2021年08月14日 19時20分 (#4091031)

    過去の関連記事でも見たことない単語だな
    (周囲と比較したときの)「目立ち度」のことなのね

    ここに返信
  • by Anonymous Coward on 2021年08月15日 9時58分 (#4091183)

    =昔流行った北欧U18

    ここに返信
    • by Anonymous Coward

      北欧というより旧ソ連圏のイメージ。

      # 隠れた条件に「貧困」ってのもある、って何のはなqウェ

  • by Anonymous Coward on 2021年08月15日 13時26分 (#4091240)

    自動でやろうとするから失敗するんだ。
    ユーザーに選ばせろ。

    ここに返信
  • 「beauty lady」を画像検索してみ。
    老婆やぽっちゃりさんは全く出てこない。

    つまり、大手の画像検索エンジンは
    どれも「若さ」と「スリムさ」が優先されている。
    なんでTwitterだけやり玉に上げるのか?
    ただの難癖だろ。

    ここに返信
    • by Anonymous Coward

      どこから「beauty lady」が?
      Twitterが「beauty ladyを抽出する機能です」って言ったのなら分からんでもないが。

      • by Anonymous Coward

        何言ってんの? beauty filtersの話だからでしょ?
        そもそもbeautyだけで画像検索しても若いスリムな女性しか出てこないよね。
        ちなみにbeauty gentlemanで検索しても男の画像はほとんど出てきません。

        インターネット検索大手ですら
        ”beauty”という語句自体に”若くてスリムで女性的”という概念バイアスが
        掛かっている中で(一般的にもそうだろうけど)、
        タレコミとその元ネタがTwitterだけを取り上げて”若さやスリムさも”と言っていることが奇妙。

        • by Anonymous Coward

          お前さてはTwitter使ったことないだろ
          Twitterにbeauty filtersなんてねーよ

        • by Anonymous Coward

          そもそもストーリーに書かれてるビューティーフィルターってのは、1位を獲得した研究者がテスト画像を作成するために微妙にパラメータを変化させつつ生成した一連の人物画像をTwitterがそう表現しただけで、Twitterの画像自動クロップ表示アルゴリズムにビューティーフィルターが組み込まれているとかそういう話ではない

        • by Anonymous Coward

          > タレコミとその元ネタがTwitterだけを取り上げて”若さやスリムさも”と言っていることが奇妙。

          いやこれTwitter自身が「偏りがあるといけないから、そういうのあったら教えてくれたら賞金出すよ」って言って開催したコンテストなわけで、それでTwitterを取り上げることに何の問題が?

        • by Anonymous Coward

          人々がbeautyな人とはどんな人なのかと思っているのかはどうしようもないとして、それを学んだAIがTwitterに投稿される他の全ての写真をその基準で評価しているってのが問題なんでしょ。

          おばあちゃんとその孫の若い女の子が写っている平凡な家族写真を、女の子が中心になるようにトリミングするみたいな事を繰り返したら人間でも批判されるはず。

    • by Anonymous Coward

      画像検索エンジンに「beauty lady」を表示してくれと指示してそうなるのは当然だわな
      しかし誰もTwitterに「beauty lady」を表示してくれとは指示してないんだよね
      女性ならハンダムな男性やムキムキのマッチョマンを表示して欲しいかもしれない。
      「beauty lady」である必然性は?

    • by Anonymous Coward

      > 「beauty lady」を画像検索してみ。

      ストーリーのどこにも「beauty lady」なんて書いてないぞ
      お前が難癖付けたいだけだろ

  • by Anonymous Coward on 2021年08月15日 19時11分 (#4091382)

    若さ若さってなんだ?
    (画像自動クロップ表示機能が)間違わない事さ

    AIってなんだ?
    (学習に偏りがあっても使用を)ためらわない事さ~♪

    ここに返信
    • by Anonymous Coward

      >若さ若さってなんだ?
      諦めないことor振り向かないことだ

    • by Anonymous Coward

      AIってなんだ?
      (学習に偏りがあっても使用を)ためらわない事さ~♪

      二番じゃ「悔やまないこーとーさー」って言ってますからAIが悪い結果を産むのは
      四十年以上前に確定していたのですね。

typodupeerror

「毎々お世話になっております。仕様書を頂きたく。」「拝承」 -- ある会社の日常

読み込み中...