Google、黒人を誤って「ゴリラ」とタグ付け 109
ストーリー by hylom
肌の色が問題だったのだろうか 部門より
肌の色が問題だったのだろうか 部門より
Printable is bad. 曰く、
Googleが5月29日にサービス提供を開始した写真・動画ストレージサービスの「Googleフォト」において、黒人を誤って「ゴリラ（Gorillas）」とタグ付けしてしまったことを謝罪した（ウォール・ストリート・ジャーナル）。
Googleの広報担当者は謝罪するとともに、タグ付け機能はまだまだ改善が必要であり、こういったミスを将来的に防ぐための方法を検討中だと語ったそうだ。
なお、過去には人に「犬」のタグが付けられたこともあったという。
ちなみに2010年にデイリーポータルZが「顔認識機能にゴリラと認められたい」という、顔認識で人間をゴリラと認識させることに挑戦する記事を公開しているが、この記事では最終的には人間をゴリラとして認識させることに失敗している。
いやー、まあなんつうか (スコア:2, すばらしい洞察)
人種差別をする気は毛頭無いのだけど、問題の写真を見ると、この件は人工知能に同情を禁じえないっつうか･･･
･･･ってみんな思うよね？俺だけ？
Re:いやー、まあなんつうか (スコア:2)
たぶん画像特徴量と、画像に関連するワードを大量に機械学習しただけだろうから、その結果黒人とゴリラの特徴量が似てたってだけで、それを謝罪しなきゃいけないのは同情する…。
結局、機械的な結果で政治宗教その他的にマズい結果が出てくることがあるので、人間の意思を介在させて政治的意図を組み込まないとマズいことになるってことなのかなあ。
天安門を検索結果から排除するのと本質的には変わらないような気もする。
Re: (スコア:0)
案外、空気を読む能力ってのが人間性の境目だったりして
Re: (スコア:0)
これってゴリラとチンパンジーの区別つくんだろうか。
人型の顔で色が黒かったらみんなゴリラになっちゃう気が。
ゴリラとチンパンジーの区別はつくのに、ゴリラと黒人の区別がつかないって言うんなら、
何か意図的なものを感じなくはないですけど、どうだかなあ。
Re: (スコア:0)
正直、全然思わないけど。
どこをどう見たらゴリラと見間違えるのか、正直、全然わからない。
ただ、現状の人工知能は、画像認識に関してはまだまだだと思うので、
人間ではありえないような間違いをすることもありうるとは思うけど。
Re:いやー、まあなんつうか (スコア:1)
人間様ならともかく、Googleの画像認識エンジンには荷が重かろう。質より量を重視する段階だろうし。
そもそもゴリラの顔が人間に近いのだし、アルゴリズムが判断する程度の類似点は十分あると思うよ。
ブタ顔の人間にPigsが付いたところで、通常はネタ以上の話にはならんのだが、
人種とかのフレーバーが掛かると途端にナーバスな話になっちゃうね。
Re: (スコア:0)
> 人間様ならともかく、Googleの画像認識エンジンには荷が重かろう。質より量を重視する段階だろうし。
> そもそもゴリラの顔が人間に近いのだし、アルゴリズムが判断する程度の類似点は十分あると思うよ。
一般的に人工知能には人間とゴリラを区別するのは難しい、ということには合意します。
ただ、#2841018は、「この件は人工知能に同情を禁じえない」（強調は引用者）と、この件に限定するような（あるいは、この件は特に難しいと主張するような）言い回しをしているので、それには合意できません。
そもそも、人工知能による画像認識は、人間が同情できるほど高度なレベルに達してないと思います。
また、同情するということは、人間でも間違いかねないということをほのめかすことにもなります。
Re: (スコア:0)
ゴリラと人間、というか人間とそれ以外を識別するのは困難なチャレンジだということですよ
素人には問題の所在すらわからないような類のね
Re: (スコア:0)
髪の毛が顔をふさふさ覆ってる辺りも気分的には効いてそうな気がする（人工知能の見方がそう直観的じゃないのは知ってるけどさ！）
ごりら (スコア:1)
どう見ても人間が描かれているのにゴリラと認識される画像 [wikimedia.org]
というネタを思いついた。
Re: (スコア:0)
こっち [amazon.co.jp]のを連想しました。
http://likes-work.com/post-11405/ [likes-work.com]
http://blog.goo.ne.jp/junpei-ssmkj/e/9258c686e55950a077bd965c47b1c4b6 [goo.ne.jp]
Re: (スコア:0)
草薙素子の画像はどう判断されるのだろう
対応策 (スコア:1)
＞グーグルはゴリラ・カテゴリーを除外し、こうしたタグ付けが二度と表示されないようにした。
これだとゴリラに黒人のタグが付く危険性を除去できていない、って
どっかの誰かが言ってた
Re: (スコア:0)
人間には人間(あるいは個人名)とタグがつけば十分なはずなので、
そもそも人種を表すようなキーワードは省かれているべきですね。
問題の本質はGoogleではなく、、、 (スコア:1)
どのように学習を構築しているのか正確にはわかりませんが、
画像認識アルゴリズムが人間とゴリラを区別できる精度にないというよりは、
入力データの一部として用いているであろうWebの情報の中に、
黒○→ゴ○○という情報が、学習に無視できない量で存在していたことが
今回の結果を導いたのだと思います。
そのような情報（差別意識）があふれている現状ならば悲しい。。。
DeepLearning系につっこまれる膨大な入力データに対し、
正しいデータであることを担保することや、
誤ったデータを排除することは、なかなか手間がかかりそうですね。
誰にとっての正しい、謝り、なのかの判断も含めて。
Re:問題の本質はGoogleではなく、、、 (スコア:2)
その通りのようですね。
Googleのソーシャル部門のチーフ・アーキテクトのYonatan Zunger氏のツイート [twitter.com]より
（訳：仰るとおり、機械にはバイアスはありません。しかし、私たちが注意していないと、機械は簡単に私たちから人種差別を学んでしまいます）
「コング」のあだ名は日本だけ (スコア:0)
俺たち特攻野郎Aチーム!!
Re: (スコア:0)
TV版ではミスターカトーが映画でスールーになっててびっくりする件。
＃しかもＴＮＧではまたミスターカトーになってる（タイトルだけ、話の中はスールー呼び）話があるという、もうちょっと統一しろよ
Re:「コング」のあだ名は日本だけ (スコア:1)
ミスター・チャーリーかスコッティかってのも.
ハヤカワSF文庫のノベライズ版から入ったのでオリジナルの名前に違和感が無かった.
# TMPがテレビ放映された時, ちゃんとTV版と同じ名前とキャストだったのが嬉しかった
誤検出なんて他にもあるだろうに・・・ (スコア:0, 荒らし)
画像認識での誤検出なんて、他にもあるだろうに、
わざわざこの件が取り上げられるのに、人種差別問題の面倒臭さを感じる。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
OCRの誤認識や、仮名漢字誤変換、メールフィルタの誤分類みたいな、自動処理にはつきものの誤動作でしかないな。
本人がどれくらい騒いだのか知らないが、回りやメディアが些細なことを大げさに取り上げすぎる例の一つだと思う。
Re: (スコア:0)
ソース読んでないのがバレバレなんだが、よくそんな当てずっぽうで嘯けるな
それとも本当に自分の親友が類人猿呼ばわりされてもゲラゲラ笑えるサイコパスか
Re: (スコア:0)
だからそこが「面倒くさい」と言う話だろう。
差別と言うのは意識があってこそ成り立つものだ。
人工知能は何の意識も持たず、機械的に結果を出し、それが間違っていたと言うだけ。
「椅子」を「机」と誤認識したり、「犬」と「馬」と誤認識したりすることと、
「黒人」を「ゴリラ」と誤った認識結果を出すことは技術的には全く同じ事。
そして人工知能分野で、こういった誤認識は、まだまだあって当たり前というレベル。
それなのに「黒人→ゴリラ」の場合は人種問題が絡んできて「けしからん」「あるまじきこと」
となってしまうのが、この分野に携わる技術者達にとっては「面倒なこと」に感じられるだろう。
技術者には人種差別意識は無いし、当然人工知能には「意識」と言うものさえ無い。
こんなのアルファベットクッキーをばら撒いたら、偶然相手の悪口にのように並んでしまった、と言うようなもの。
だれを責められると言うのか。
Re: (スコア:0)
論点がいろいろずれてると思う。
１）技術のしょぼさは免罪符にはならないでしょう。誤認識が当たり前といった程度の技術なら、別にサービス公開しなくても社内で研究を続けていればよいところを、Googleという会社はサービス公開してビジネスにしたのだから、それに伴う責任を果たす方が「当たり前」ではないの？
２）アルファベットクッキーの例はおかしい。タグ付けは所定の条件で再現するのだから「偶然」と言えない。それに、たとえ悪口ができたのは偶然だとしても、その場合は謝罪してすぐに片付けるのがまともな対応というもので、「悪気はなかった」と言いながら相手に悪口を突き付けたまま放置することは許されない。
３）差別意識、悪気がなければ何をしてもいいというわけでもない。そこを「面倒くさい」と思うのなら、技術者として何か新しいものを世に問う資格はないと思う。
※念のため補足すると、今回はGoogleはちゃんとした対応をしていると思います。だから無理やり変な方向に擁護する必要はないんじゃないでしょうか。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
白人が同じようにゴリラ扱いされてる写真でもあれば笑い話で済んだのかも知れませんが、
黒人だけがゴリラというかサル扱いされてるのは矢張りまずいでしょう。
国内に差別問題など無いと嘯いているイエローモンキーには理解のできない事でしょうが、
差別する対象をサル扱いするのは差別主義者の常套手段なので、
これに対して怒りを表明するのは当然ですし、直ちに謝罪するGoogleも自然だと思います。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
Re: (スコア:0)
誤認識も含めて理解して道具を使えるのが人ですよね。
それを理解できないで、道具に使われてるのは人？
Re: (スコア:0)
道具に使われるっていうのは、面と向かって機械にゴリラと呼ばれても何も思わなくなるよう自己暗示をかけるとか、そういうことじゃないの?
トラブルの原因を人の感覚の歪みに押し込めようとするのは、道具への無根拠な信仰じゃないの?
Re: (スコア:0)
Twitterには馬に誤判定された人がいましたよ。
Re: (スコア:0)
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
あなたは、これが故意に行われたもので無いという証拠をお持ちですか？
公式謝罪は妥当な対応だろうね。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
「黒人を…」っていうニュースの取り上げ方がそもそも差別的なんだよな。
政治的に正しくは「人間をゴリラと誤認識した」というニュースにすべき。
Re: (スコア:0)
それ単に雑なだけだろ。差別的な問題を取り上げるのに差別性をボカしてどうすんだよ
Re: (スコア:0)
だから差別的だって言ってるんだが…
ゴリラなの?
ハンロンの剃刀 (スコア:1)
https://ja.wikipedia.org/wiki/%E3%83%8F%E3%83%B3%E3%83%AD%E3%83%B3%E3%... [wikipedia.org]
サービス提供者の単なる不注意で説明できることに、人種差別的な悪意、故意を見出しているひとが多くいるようだ。
他のコメントにあるような、「故意に行われたのでないなら証拠を出せ」だなんて、この考え方の典型的なものだ。
そのような考え方で誰かを批判したり攻撃しても、人種差別の解消には貢献しないどころか、新たな差別の種になるだけだ。
Re: (スコア:0)
判定したのが、プログラムなのか、人なのか、ハトなのかは関係ない。
「グーグルが」黒人の写真をゴリラと判定した。ここが問題点。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
Google Glass は尻すぼみになってよかったんかもしれんね。
#誤解による争いを世界に撒き散らす可能性があった
#存在自体がホラー
Re: (スコア:0)
同意。実にくだらんね。
その程度の誤検出は十分にあり得る話で、
嫌なら自動でタグがつくサービスなんて使わなきゃいい。
私はGoogleが嫌いだが、タダでGoogle使いながら
それに文句言うやつはどうかしてると思う。
Re: (スコア:0)
元コメに「同意」って言ってるけど、元コメ理解できてないでしょ。
単に精度が低いだけなら、あなたの言うとおり「嫌なら自動でタグがつくサービスなんて使わなきゃいい」で済むけど、
そうじゃなくて、元コメが「わざわざこの件が取り上げられるのに、人種差別問題の面倒臭さを感じる」と言っている通り、
人種差別が絡んできていることでややこしくなっているのであって、それは単純に「使わなきゃいい」で済ませることはできない。
「タダで使っているくせに文句言うな」なんてのもまったくの的外れだ。
Re:誤検出なんて他にもあるだろうに・・・ (スコア:1)
だったらそれはゴリラに間違われて傷ついたから謝れと言うべきであり、
黒人とゴリラを見分けられないのは差別だから謝れというのは間違いなのではないかと思うのです。
そこが人の感情の面倒臭いところなんでしょうな。
一人以外は全員敗者
それでもあきらめるより熱くなれ
誤認識 (スコア:0)
家だと鳥と判断された猫の写真があるな。
白黒のハチワレだったからペンギンに分類されたんだろうか。
＃関係ないけどGoogleフォトのパノラマ自動作成機能凄すぎ
逆でも (スコア:0)
逆でも謝罪するのかな？
ゴリラを黒人に間違えたら？
Re: (スコア:0)
話題のイケメンゴリラとか。
Re:逆でも (スコア:1)
関連リンク [srad.jp]に入っていないのがおかしい.
Re: (スコア:0)
スラド運営がそれを関連リンクに入れるのが面白いと思うような下劣な品性の持ち主じゃなくて本当に良かった
Re: (スコア:0)
関連リンクって面白い・面白くないで付けるんだ。へ～。
Re: (スコア:0)
何言ってんだこいつ
Re: (スコア:0)
あんなにかっこいいゴリラが人間なわけない。
Re: (スコア:0)
まるでグラビアのようなイケメン過ぎるゴリラ画像をご覧ください
http://girlschannel.net/topics/269588/ [girlschannel.net]
開発者の本音が (スコア:0)
結果に出たな