明るい肌色優先で話題になった Twitter のアルゴリズム、若さやスリムさも優先されることが明らかに 26
ストーリー by headless
優先 部門より
優先 部門より
明るい肌色が優先されると話題になった Twitter の画像自動クロップ表示機能に用いられるアルゴリズムのバイアス検出コンテストが実施され、勝者 3 組が DEF CON で発表された(Twitter Engineering のツイート、
The Register の記事、
The Verge の記事、
発表動画)。
1 位になった研究では顔写真にビューティーフィルターを適用することでサリエンシーが変化することが示された。それによると、肌色を明るくするだけでなく、暖色化やコントラスト上昇でもサリエンシーが上昇するという。また、女性的な顔立ちにする加工や若返り、顔痩せといった加工をすることでもサリエンシーが上昇したとのこと。
2 位の研究では白髪化によるサリエンシー低下や、暗い肌色に悪い照明条件が重なった場合に顔からサリエンシーが外れること、集合写真で車椅子に座った人が除外される可能性などが示された。ただし、集合写真では立っている人と抱き上げられている子供計 4 人の顔が写真の上半分に並んでおり、車椅子に座った 1 人の顔だけが低い位置にあるため、その影響も否定できない。
3 位の研究では人物の写真とテキストを組み合わせたミームでテキストの言語によるサリエンシーの違いが示された。研究で使われたテキストは英語とアラビア語で、テキスト領域が写真に優先して選択されたのは英語の場合に 40 回中 39 回、アラビア語の場合に 40 回中 31 回。英語とアラビア語の両方を含むミームの場合、 90 % 以上で英語側の領域が選ばれたとのことだ。
1 位になった研究では顔写真にビューティーフィルターを適用することでサリエンシーが変化することが示された。それによると、肌色を明るくするだけでなく、暖色化やコントラスト上昇でもサリエンシーが上昇するという。また、女性的な顔立ちにする加工や若返り、顔痩せといった加工をすることでもサリエンシーが上昇したとのこと。
2 位の研究では白髪化によるサリエンシー低下や、暗い肌色に悪い照明条件が重なった場合に顔からサリエンシーが外れること、集合写真で車椅子に座った人が除外される可能性などが示された。ただし、集合写真では立っている人と抱き上げられている子供計 4 人の顔が写真の上半分に並んでおり、車椅子に座った 1 人の顔だけが低い位置にあるため、その影響も否定できない。
3 位の研究では人物の写真とテキストを組み合わせたミームでテキストの言語によるサリエンシーの違いが示された。研究で使われたテキストは英語とアラビア語で、テキスト領域が写真に優先して選択されたのは英語の場合に 40 回中 39 回、アラビア語の場合に 40 回中 31 回。英語とアラビア語の両方を含むミームの場合、 90 % 以上で英語側の領域が選ばれたとのことだ。
まあ、そうなるな (スコア:2)
あの手のアルゴリムは人気投票の結果みたいなものだから、その時々のトレンドが反映されるわけで、色白で若くてスリムな写真に人気があるというのは極めて妥当な結果と言えるのではないだろうか。
まあ、問題視してる人はそれ以上の意味を見いだしたいのだろうが、ちょっと無理があるんじゃないかな。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
なにも偏向なく作ったつもりでもこういった意図せぬ偏りが存在してたってことを
ハッキングすることに意味があるわけです。
何か対応するしないは当事者に悩んでもらうとして、
そういうものだと知れるということは大切です。
Re: (スコア:0)
スラドではこういう
「当然そうであろうと期待されるようなことでも実証することには意味がある」
というエンジニアとしてはまっとうな意見がよく出てくるし、
主旨は同意するんだが、費用対効果を度外視してそれを言い出すとあらゆる検証は正当化できるということになりはしないだろうか。程度問題であって俺にはこのTwitter社の取り組みは差別利権屋どもへのエクスキューズであって、こんなコストを掛けてまでやる意味のあることととは思えない。
もっともそのエクスキューズにはそれだけの価値があるのだと言われればそうなのかもしれないが。
Re: (スコア:0)
エクスキューズではあるけど、
この結果は人類の性質を反映したものなので当社ではなく人類を叩いてください、って
追い返せるようになるだけで窓口スタッフの精神衛生は良くなりそうで、
福利厚生としては意外と費用対効果が高そう
Re: (スコア:0)
車で商売してるモンが車の安全性実証をコストパフォーマンスを言い訳に無駄扱いしたら怒られるやろ？お前が何で商売しとんのかちゃんと弁えてから大層な額を稼げ、って話ですよ。
まあ人間だって (スコア:1)
若くて健康的な人間の方を好むだろうし、そんな偏った種族が作ったアルゴリズムなんだからそうなるでしょ。
Re: (スコア:0)
不健康で年取ったデブ見たい？
Re: (スコア:0)
Re: (スコア:0)
アルゴリズムの問題というより、世の中に出回ってる画像は特に商業写真などで人類の平均のより「世間に受ける外見の持ち主」が多いというバイアスがあるから、人類の選択による学習データの偏りが反映されている可能性はある。
Re:まあ人間だって (スコア:1)
確かにアルゴリズムは関係ないわな。学習データの問題なんだから。
サリエンシー？ (スコア:0)
過去の関連記事でも見たことない単語だな
（周囲と比較したときの）「目立ち度」のことなのね
色白+若い+スリム (スコア:0)
=昔流行った北欧U18
Re: (スコア:0)
北欧というより旧ソ連圏のイメージ。
# 隠れた条件に「貧困」ってのもある、って何のはなqウェ
ユーザーにクリップさせろ (スコア:0)
自動でやろうとするから失敗するんだ。
ユーザーに選ばせろ。
どの大手でも「beauty lady」で画像検索すると若い女性しか出てこない (スコア:0)
「beauty lady」を画像検索してみ。
老婆やぽっちゃりさんは全く出てこない。
つまり、大手の画像検索エンジンは
どれも「若さ」と「スリムさ」が優先されている。
なんでTwitterだけやり玉に上げるのか？
ただの難癖だろ。
Re: (スコア:0)
どこから「beauty lady」が？
Twitterが「beauty ladyを抽出する機能です」って言ったのなら分からんでもないが。
Re: (スコア:0)
何言ってんの？ beauty filtersの話だからでしょ？
そもそもbeautyだけで画像検索しても若いスリムな女性しか出てこないよね。
ちなみにbeauty gentlemanで検索しても男の画像はほとんど出てきません。
インターネット検索大手ですら
”beauty”という語句自体に”若くてスリムで女性的”という概念バイアスが
掛かっている中で（一般的にもそうだろうけど）、
タレコミとその元ネタがTwitterだけを取り上げて”若さやスリムさも”と言っていることが奇妙。
Re: (スコア:0)
お前さてはTwitter使ったことないだろ
Twitterにbeauty filtersなんてねーよ
Re: (スコア:0)
そもそもストーリーに書かれてるビューティーフィルターってのは、1位を獲得した研究者がテスト画像を作成するために微妙にパラメータを変化させつつ生成した一連の人物画像をTwitterがそう表現しただけで、Twitterの画像自動クロップ表示アルゴリズムにビューティーフィルターが組み込まれているとかそういう話ではない
Re: (スコア:0)
> タレコミとその元ネタがTwitterだけを取り上げて”若さやスリムさも”と言っていることが奇妙。
いやこれTwitter自身が「偏りがあるといけないから、そういうのあったら教えてくれたら賞金出すよ」って言って開催したコンテストなわけで、それでTwitterを取り上げることに何の問題が？
Re: (スコア:0)
人々がbeautyな人とはどんな人なのかと思っているのかはどうしようもないとして、それを学んだAIがTwitterに投稿される他の全ての写真をその基準で評価しているってのが問題なんでしょ。
おばあちゃんとその孫の若い女の子が写っている平凡な家族写真を、女の子が中心になるようにトリミングするみたいな事を繰り返したら人間でも批判されるはず。
Re: (スコア:0)
画像検索エンジンに「beauty lady」を表示してくれと指示してそうなるのは当然だわな
しかし誰もTwitterに「beauty lady」を表示してくれとは指示してないんだよね
女性ならハンダムな男性やムキムキのマッチョマンを表示して欲しいかもしれない。
「beauty lady」である必然性は？
Re: (スコア:0)
> 「beauty lady」を画像検索してみ。
ストーリーのどこにも「beauty lady」なんて書いてないぞ
お前が難癖付けたいだけだろ
歌：串田アキラ (スコア:0)
若さ若さってなんだ？
(画像自動クロップ表示機能が)間違わない事さ
AIってなんだ？
(学習に偏りがあっても使用を)ためらわない事さ～♪
間違っている (スコア:0)
＞若さ若さってなんだ？
諦めないことor振り向かないことだ
Re: (スコア:0)
AIってなんだ？
(学習に偏りがあっても使用を)ためらわない事さ～♪
二番じゃ「悔やまないこーとーさー」って言ってますからAIが悪い結果を産むのは
四十年以上前に確定していたのですね。