パスワードを忘れた? アカウント作成
12242880 story
Google

Google、黒人を誤って「ゴリラ」とタグ付け 109

ストーリー by hylom
肌の色が問題だったのだろうか 部門より
Printable is bad. 曰く、

Googleが5月29日にサービス提供を開始した写真・動画ストレージサービスの「Googleフォト」において、黒人を誤って「ゴリラ(Gorillas)」とタグ付けしてしまったことを謝罪した(ウォール・ストリート・ジャーナル)。

Googleの広報担当者は謝罪するとともに、タグ付け機能はまだまだ改善が必要であり、こういったミスを将来的に防ぐための方法を検討中だと語ったそうだ。

なお、過去には人に「犬」のタグが付けられたこともあったという。

ちなみに2010年にデイリーポータルZが「顔認識機能にゴリラと認められたい」という、顔認識で人間をゴリラと認識させることに挑戦する記事を公開しているが、この記事では最終的には人間をゴリラとして認識させることに失敗している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2015年07月02日 20時39分 (#2841018)

    人種差別をする気は毛頭無いのだけど、問題の写真を見ると、この件は人工知能に同情を禁じえないっつうか・・・
    ・・・ってみんな思うよね?俺だけ?

    • たぶん画像特徴量と、画像に関連するワードを大量に機械学習しただけだろうから、その結果黒人とゴリラの特徴量が似てたってだけで、それを謝罪しなきゃいけないのは同情する…。

      結局、機械的な結果で政治宗教その他的にマズい結果が出てくることがあるので、人間の意思を介在させて政治的意図を組み込まないとマズいことになるってことなのかなあ。

      天安門を検索結果から排除するのと本質的には変わらないような気もする。

      親コメント
    • by Anonymous Coward

      案外、空気を読む能力ってのが人間性の境目だったりして

    • by Anonymous Coward

      これってゴリラとチンパンジーの区別つくんだろうか。
      人型の顔で色が黒かったらみんなゴリラになっちゃう気が。
      ゴリラとチンパンジーの区別はつくのに、ゴリラと黒人の区別がつかないって言うんなら、
      何か意図的なものを感じなくはないですけど、どうだかなあ。

    • by Anonymous Coward

      正直、全然思わないけど。
      どこをどう見たらゴリラと見間違えるのか、正直、全然わからない。

      ただ、現状の人工知能は、画像認識に関してはまだまだだと思うので、
      人間ではありえないような間違いをすることもありうるとは思うけど。

      • by Anonymous Coward on 2015年07月02日 23時03分 (#2841105)

        人間様ならともかく、Googleの画像認識エンジンには荷が重かろう。質より量を重視する段階だろうし。
        そもそもゴリラの顔が人間に近いのだし、アルゴリズムが判断する程度の類似点は十分あると思うよ。

        ブタ顔の人間にPigsが付いたところで、通常はネタ以上の話にはならんのだが、
        人種とかのフレーバーが掛かると途端にナーバスな話になっちゃうね。

        親コメント
        • by Anonymous Coward

          > 人間様ならともかく、Googleの画像認識エンジンには荷が重かろう。質より量を重視する段階だろうし。
          > そもそもゴリラの顔が人間に近いのだし、アルゴリズムが判断する程度の類似点は十分あると思うよ。

          一般的に人工知能には人間とゴリラを区別するのは難しい、ということには合意します。
          ただ、#2841018は、「この件人工知能に同情を禁じえない」(強調は引用者)と、この件に限定するような(あるいは、この件は特に難しいと主張するような)言い回しをしているので、それには合意できません。

          そもそも、人工知能による画像認識は、人間が同情できるほど高度なレベルに達してないと思います。
          また、同情するということは、人間でも間違いかねないということをほのめかすことにもなります。

      • by Anonymous Coward

        ゴリラと人間、というか人間とそれ以外を識別するのは困難なチャレンジだということですよ
        素人には問題の所在すらわからないような類のね

    • by Anonymous Coward

      髪の毛が顔をふさふさ覆ってる辺りも気分的には効いてそうな気がする(人工知能の見方がそう直観的じゃないのは知ってるけどさ!)

  • by Anonymous Coward on 2015年07月02日 20時37分 (#2841015)
  • by Anonymous Coward on 2015年07月02日 21時01分 (#2841041)
    ウォール・ストリート・ジャーナル:
    >グーグルはゴリラ・カテゴリーを除外し、こうしたタグ付けが二度と表示されないようにした。

    これだとゴリラに黒人のタグが付く危険性を除去できていない、って
    どっかの誰かが言ってた
    • by Anonymous Coward

      人間には人間(あるいは個人名)とタグがつけば十分なはずなので、
      そもそも人種を表すようなキーワードは省かれているべきですね。

  • by Anonymous Coward on 2015年07月03日 9時45分 (#2841233)

    どのように学習を構築しているのか正確にはわかりませんが、
    画像認識アルゴリズムが人間とゴリラを区別できる精度にないというよりは、
    入力データの一部として用いているであろうWebの情報の中に、
    黒○→ゴ○○という情報が、学習に無視できない量で存在していたことが
    今回の結果を導いたのだと思います。
    そのような情報(差別意識)があふれている現状ならば悲しい。。。

    DeepLearning系につっこまれる膨大な入力データに対し、
    正しいデータであることを担保することや、
    誤ったデータを排除することは、なかなか手間がかかりそうですね。
    誰にとっての正しい、謝り、なのかの判断も含めて。

    • その通りのようですね。

      Googleのソーシャル部門のチーフ・アーキテクトのYonatan Zunger氏のツイート [twitter.com]より

      Absolutely. Machines aren't biased, but they can easily learn racism from us if we aren't careful.

      (訳:仰るとおり、機械にはバイアスはありません。しかし、私たちが注意していないと、機械は簡単に私たちから人種差別を学んでしまいます)

      親コメント
  • by Anonymous Coward on 2015年07月02日 20時38分 (#2841016)

    俺たち特攻野郎Aチーム!!

    「B・A・バラカス、通称コング。メカの天才だ。大統領でもぶんなぐってみせらあ。
    でも、飛行機だけは勘弁な!」
    http://www.tv-tokyo.co.jp/contents/a-team/ [tv-tokyo.co.jp]

    「コング」のあだ名は日本だけで、米国版でのあだ名は
    「Bad Attitude」(悪い態度?)でした
    http://ateams.sakura.ne.jp/chara.htm [sakura.ne.jp]

    • by Anonymous Coward

      TV版ではミスターカトーが映画でスールーになっててびっくりする件。

      #しかもTNGではまたミスターカトーになってる(タイトルだけ、話の中はスールー呼び)話があるという、もうちょっと統一しろよ

  • by Anonymous Coward on 2015年07月02日 20時53分 (#2841033)

    画像認識での誤検出なんて、他にもあるだろうに、
    わざわざこの件が取り上げられるのに、人種差別問題の面倒臭さを感じる。

    • by Anonymous Coward on 2015年07月02日 21時20分 (#2841046)

      OCRの誤認識や、仮名漢字誤変換、メールフィルタの誤分類みたいな、自動処理にはつきものの誤動作でしかないな。
      本人がどれくらい騒いだのか知らないが、回りやメディアが些細なことを大げさに取り上げすぎる例の一つだと思う。

      親コメント
      • by Anonymous Coward

        ソース読んでないのがバレバレなんだが、よくそんな当てずっぽうで嘯けるな
        それとも本当に自分の親友が類人猿呼ばわりされてもゲラゲラ笑えるサイコパスか

        • by Anonymous Coward

          だからそこが「面倒くさい」と言う話だろう。
          差別と言うのは意識があってこそ成り立つものだ。
          人工知能は何の意識も持たず、機械的に結果を出し、それが間違っていたと言うだけ。

          「椅子」を「机」と誤認識したり、「犬」と「馬」と誤認識したりすることと、
          「黒人」を「ゴリラ」と誤った認識結果を出すことは技術的には全く同じ事。
          そして人工知能分野で、こういった誤認識は、まだまだあって当たり前というレベル。

          それなのに「黒人→ゴリラ」の場合は人種問題が絡んできて「けしからん」「あるまじきこと」
          となってしまうのが、この分野に携わる技術者達にとっては「面倒なこと」に感じられるだろう。

          技術者には人種差別意識は無いし、当然人工知能には「意識」と言うものさえ無い。
          こんなのアルファベットクッキーをばら撒いたら、偶然相手の悪口にのように並んでしまった、と言うようなもの。
          だれを責められると言うのか。

          • by Anonymous Coward

            論点がいろいろずれてると思う。

            1)技術のしょぼさは免罪符にはならないでしょう。誤認識が当たり前といった程度の技術なら、別にサービス公開しなくても社内で研究を続けていればよいところを、Googleという会社はサービス公開してビジネスにしたのだから、それに伴う責任を果たす方が「当たり前」ではないの?

            2)アルファベットクッキーの例はおかしい。タグ付けは所定の条件で再現するのだから「偶然」と言えない。それに、たとえ悪口ができたのは偶然だとしても、その場合は謝罪してすぐに片付けるのがまともな対応というもので、「悪気はなかった」と言いながら相手に悪口を突き付けたまま放置することは許されない。

            3)差別意識、悪気がなければ何をしてもいいというわけでもない。そこを「面倒くさい」と思うのなら、技術者として何か新しいものを世に問う資格はないと思う。

            ※念のため補足すると、今回はGoogleはちゃんとした対応をしていると思います。だから無理やり変な方向に擁護する必要はないんじゃないでしょうか。

    • by Anonymous Coward on 2015年07月02日 21時27分 (#2841049)

      白人が同じようにゴリラ扱いされてる写真でもあれば笑い話で済んだのかも知れませんが、
      黒人だけがゴリラというかサル扱いされてるのは矢張りまずいでしょう。

      国内に差別問題など無いと嘯いているイエローモンキーには理解のできない事でしょうが、
      差別する対象をサル扱いするのは差別主義者の常套手段なので、
      これに対して怒りを表明するのは当然ですし、直ちに謝罪するGoogleも自然だと思います。

      親コメント
      • by Anonymous Coward on 2015年07月03日 1時17分 (#2841144)
        白人をゴリラと誤認識させるのは難しいんじゃないかなぁ…。白豚ならともかく。
        親コメント
      • by Anonymous Coward

        誤認識も含めて理解して道具を使えるのが人ですよね。
        それを理解できないで、道具に使われてるのは人?

        • by Anonymous Coward

          道具に使われるっていうのは、面と向かって機械にゴリラと呼ばれても何も思わなくなるよう自己暗示をかけるとか、そういうことじゃないの?
          トラブルの原因を人の感覚の歪みに押し込めようとするのは、道具への無根拠な信仰じゃないの?

      • by Anonymous Coward

        Twitterには馬に誤判定された人がいましたよ。

      • by Anonymous Coward
        白人なら、テングザルとかの方では。 赤ら顔の白人なら、ニホンザルでもいいかも。
    • あなたは、これが故意に行われたもので無いという証拠をお持ちですか?

      公式謝罪は妥当な対応だろうね。

      親コメント
    • by Anonymous Coward on 2015年07月03日 0時45分 (#2841138)

      「黒人を…」っていうニュースの取り上げ方がそもそも差別的なんだよな。
      政治的に正しくは「人間をゴリラと誤認識した」というニュースにすべき。

      親コメント
      • by Anonymous Coward

        それ単に雑なだけだろ。差別的な問題を取り上げるのに差別性をボカしてどうすんだよ

        • by Anonymous Coward

          だから差別的だって言ってるんだが…
          ゴリラなの?

    • by Anonymous Coward on 2015年07月03日 6時58分 (#2841186)

      Never attribute to malice that which is adequately explained by stupidity.
      無能で十分説明されることに悪意を見出すな

      https://ja.wikipedia.org/wiki/%E3%83%8F%E3%83%B3%E3%83%AD%E3%83%B3%E3%... [wikipedia.org]

      サービス提供者の単なる不注意で説明できることに、人種差別的な悪意、故意を見出しているひとが多くいるようだ。
      他のコメントにあるような、「故意に行われたのでないなら証拠を出せ」だなんて、この考え方の典型的なものだ。
      そのような考え方で誰かを批判したり攻撃しても、人種差別の解消には貢献しないどころか、新たな差別の種になるだけだ。

      親コメント
    • by Anonymous Coward

      判定したのが、プログラムなのか、人なのか、ハトなのかは関係ない。
      「グーグルが」黒人の写真をゴリラと判定した。ここが問題点。

    • by Anonymous Coward

      同意。実にくだらんね。

      その程度の誤検出は十分にあり得る話で、
      嫌なら自動でタグがつくサービスなんて使わなきゃいい。

      私はGoogleが嫌いだが、タダでGoogle使いながら
      それに文句言うやつはどうかしてると思う。

      • by Anonymous Coward

        元コメに「同意」って言ってるけど、元コメ理解できてないでしょ。

        単に精度が低いだけなら、あなたの言うとおり「嫌なら自動でタグがつくサービスなんて使わなきゃいい」で済むけど、
        そうじゃなくて、元コメが「わざわざこの件が取り上げられるのに、人種差別問題の面倒臭さを感じる」と言っている通り、
        人種差別が絡んできていることでややこしくなっているのであって、それは単純に「使わなきゃいい」で済ませることはできない。
        「タダで使っているくせに文句言うな」なんてのもまったくの的外れだ。

  • by Anonymous Coward on 2015年07月02日 20時54分 (#2841034)

    家だと鳥と判断された猫の写真があるな。
    白黒のハチワレだったからペンギンに分類されたんだろうか。

    #関係ないけどGoogleフォトのパノラマ自動作成機能凄すぎ

  • by Anonymous Coward on 2015年07月02日 21時53分 (#2841056)

    逆でも謝罪するのかな?

    ゴリラを黒人に間違えたら?

  • by Anonymous Coward on 2015年07月02日 22時26分 (#2841083)

    結果に出たな

typodupeerror

日々是ハック也 -- あるハードコアバイナリアン

読み込み中...