パスワードを忘れた? アカウント作成
15214208 story
YouTube

YouTubeのAIがチェスの人気チャンネルをBAN、「白」「黒」「攻撃」「脅威」を人種差別と判定か 71

ストーリー by nagazou
誤BAN 部門より
あるAnonymous Coward 曰く、

100万人以上のチャンネル登録者数を誇るチェスの世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」として一時BANされてしまったのだが、米カーネギーメロン大学のコンピューター科学者による後の調査でこれは「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」可能性が高いことが判明したという(カーネギーメロン大学の記事, Gigazineの記事)。

このBANは、2020年6月28日にチェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した際に発生したとのこと。アカウントとチャンネルは24時間後に復活したが、現在に至るまでYouTubeからBANの理由は説明されていないという。

この事件を知ったカーネギーメロン大学の言語技術の研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別。結果、チェスでよく使われる「白」「黒」「攻撃」「脅威」などの単語が、ヘイトスピーチとして誤判定されていたという。

研究チームによれば、こうしたAIの誤判定は他の分野でも頻繁に起こっており、例えば「活動的な犬」の写真を見分けるAIが、活動的な犬の写真は背景が草原であることが多いことから、犬が居なくても草原が映っていれば活動的な犬と判断していた事例などもあるという。

情報元へのリンク

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • チェスなのに (スコア:3, おもしろおかしい)

    by Anonymous Coward on 2021年02月24日 15時53分 (#3983414)

    碁盤したのか

  • 連想 (スコア:2, おもしろおかしい)

    by Anonymous Coward on 2021年02月24日 15時10分 (#3983372)

    >犬が居なくても草原が映っていれば活動的な犬と判断していた事例

    ○○が写っていなくても××な写真に見えるって境地に達したのさ

    • by Anonymous Coward

      フルーツバスケットができる高性能AIだな

    • by Anonymous Coward

      そう、想像力とか予知とか、学習の効果としてはむしろ正解じゃないかと(予測を立てられるからこそ誤ってしまう)

  • 有りそうな事 (スコア:2, おもしろおかしい)

    by Takahiro_Chou (21972) on 2021年02月24日 15時16分 (#3983378) 日記

    ポリコレ肯定派の感想「なんだ、まだ、AIはポリコレ批判派ぐらい馬鹿なのか」

    ポリコレ批判派の感想「なんだ。まだ、AIはポリコレ肯定派ぐらい馬鹿なのか」

  • なにか哲学的なものを感じさせる・・・

    • by Anonymous Coward on 2021年02月24日 17時21分 (#3983478)

      草原と言うより庭の芝生で走り回ってる犬を活動的な犬としてて、そんな犬は遠くに行ったりして背景の方が多いから犬が居なくても活動的な犬と判定される。

      親コメント
    • 馬でもいいはずなのになぜ犬…英国じゃないからか?

      親コメント
      • by Anonymous Coward
        狗子仏性は禅問答の定番だから
        一切衆生皆仏性有のはずなのに犬に仏性はないと明言されてしまったとき
        その犬すらいないただの草原に仏性があるかどうか考えるも悟りの第一歩
        • by Anonymous Coward

          「つっても草木国土悉皆仏じゃん?」
          「でも草原はコレクションだからインスタンスとは違うし」

    • by Anonymous Coward

      パブロフのAIと呼ぶべきか。犬だけに。
      我々がモザイクを見ると興奮するのも(するよね?)同じな気がする。

  • by mizogami00 (49281) on 2021年02月24日 15時10分 (#3983371)

    リバーシなんてもう発禁されないといかんな。
    あまつさえオセロなんて呼ぼうものなら。

    • by Anonymous Coward

      オセロって人名じゃないの?

      • by mizogami00 (49281) on 2021年02月24日 20時33分 (#3983656)

        そうだよ。黒人のね。
        まんま物語に出てくる黒人と白人の関係性をゲームに当てこんでその名前にしてるからまじりっけなしのアウトでしょってことよ。

        親コメント
      • by Anonymous Coward

        シェークスピアはBANされまくりだろう
        「せむし」とかムーア人やユダヤ人の差別的描写とか

    • by Anonymous Coward
      白黒本BANショーの始まりです
      • by Anonymous Coward

        そのうち白紙とかもNGになるのかね。

  •  アプリストアのリジェクトとかもそうなんだけど、拒否するけど理由の説明が説明になってないレベルの曖昧な内容だと「プラットフォーマーが恣意的に選別している」という疑いを持たれてしまう。

     実際には学習型AIで処理しているので内部的なロジックはわからない、というケースもあるだろうけどそれならそれでそう明言すべき。

    #ぶっちゃけ、AIがポンコツなのではなくて、規制推進派の言ってるロジックがダブスタやら矛盾だらけなのが根本原因だと思うが……

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward on 2021年02月25日 0時24分 (#3983755)
      ゆうてうかつに理由説明したら次から屁理屈こねて穴突きにくるんでしょ。
      こういう審査は理由言わないのが当たり前だと思うけど。
      大学生になると試験の答案用紙が返ってこないのと同じ。
      親コメント
    • by Anonymous Coward

      「学習型AIで処理しているので内部的なロジックはわからない」と言う説明に対して、実際には「プラットフォーマーが恣意的に選別している」からだと疑いを持つだけだろ

      • by Anonymous Coward

        ロジックがわからないAIなんてランダム関数と大差ないな

        • by Anonymous Coward
          別にAIに限らず恣意的に処罰して忖度を求めるのは人間の権力者の支配の手法として普遍的なのでは
  • by Anonymous Coward on 2021年02月24日 15時09分 (#3983368)

    とんでもない間違いが多いにもかかわらず問答無用で一発BAN
    場合によっては後の対応が聞く耳持たずと最悪
    これをGMAILでやられたらと思うとゾッとする

  • by shinshimashima (9763) on 2021年02月24日 15時16分 (#3983377) 日記

    腐女子「攻めの反対は?」
    将棋指し「受け」

    • by Anonymous Coward

      攻撃的なサッカー
      相手チームにとっては脅威の選手
      X枚目のイエローカート
      今日は他の試合含めてイエローカートが多いですね。

      #サッカーの試合は大丈夫なのかな、まぁ大丈夫かw

  • by Anonymous Coward on 2021年02月24日 15時26分 (#3983389)

    ポリコレ的にはそこでチェスの用語を修正させるんじゃないのか

    • by Anonymous Coward

      まずは「黒」「白」やめて「先手」「後手」からスタートかな。

  • by Anonymous Coward on 2021年02月24日 15時26分 (#3983390)

    Youtube側がちゃんと理由を発表しない限り、正確な原因は誰にもわからないぞ。
    第三者が分析しても意味ない。

    • by Anonymous Coward

      断定せず「人種差別と判定か」「可能性が高いことが判明した」と含みを持たせた言い方でもフェイクニュース警察に叩かれるのか

  • by Anonymous Coward on 2021年02月24日 16時01分 (#3983422)

    一方Googleは、倫理的AIの研究者を追加BANした。
    https://gigazine.net/news/20210222-google-fire-another-ai-ethics-researcher/ [gigazine.net]

  • by Anonymous Coward on 2021年02月24日 17時57分 (#3983499)

    白 黒 攻撃 力開放
    これはBANですわ

    #んなこたーない

    • by Anonymous Coward

      しかも機体は鳥の名前だから野生動物の大量虐殺?!

  • by Anonymous Coward on 2021年02月24日 20時02分 (#3983626)

    AIなんて意味理解して認識してるわけでもないのに
    なんか高度で知的な処理をしていると思い込んでるんだろうか?

    名前の付け方が悪いんじゃないか?
    知能でもなんでもないだろ

    • Re:なんちゃってAI (スコア:2, おもしろおかしい)

      by Anonymous Coward on 2021年02月24日 20時32分 (#3983655)

      絵の児童と本物の児童の区別もつかない天然知能だっているんですよ!

      親コメント
    • by Anonymous Coward

      いったい誰の思い込みを叩いてるのか知らんけど
      差別語の誤判定でBANされたのが今回の話題であって
      AIが知的かどうかなんて関係ないぞ

typodupeerror

開いた括弧は必ず閉じる -- あるプログラマー

読み込み中...