YouTubeのAIがチェスの人気チャンネルをBAN、「白」「黒」「攻撃」「脅威」を人種差別と判定か 71
ストーリー by nagazou
誤BAN 部門より
誤BAN 部門より
あるAnonymous Coward 曰く、
100万人以上のチャンネル登録者数を誇るチェスの世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」として一時BANされてしまったのだが、米カーネギーメロン大学のコンピューター科学者による後の調査でこれは「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」可能性が高いことが判明したという（カーネギーメロン大学の記事, Gigazineの記事）。
このBANは、2020年6月28日にチェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した際に発生したとのこと。アカウントとチャンネルは24時間後に復活したが、現在に至るまでYouTubeからBANの理由は説明されていないという。
この事件を知ったカーネギーメロン大学の言語技術の研究チームは、チェス関連の人気YouTubeチャンネル5つのムービーから抽出した68万件を超えるコメントを、ヘイトスピーチを自動選別できるようにトレーニングされた2種類のAIを使って選別。結果、チェスでよく使われる「白」「黒」「攻撃」「脅威」などの単語が、ヘイトスピーチとして誤判定されていたという。
研究チームによれば、こうしたAIの誤判定は他の分野でも頻繁に起こっており、例えば「活動的な犬」の写真を見分けるAIが、活動的な犬の写真は背景が草原であることが多いことから、犬が居なくても草原が映っていれば活動的な犬と判断していた事例などもあるという。
チェスなのに (スコア:3, おもしろおかしい)
碁盤したのか
Re:チェスなのに (スコア:2, おもしろおかしい)
チェッカーがダメだった
Re: (スコア:0)
評価します
連想 (スコア:2, おもしろおかしい)
＞犬が居なくても草原が映っていれば活動的な犬と判断していた事例
○○が写っていなくても××な写真に見えるって境地に達したのさ
Re: (スコア:0)
フルーツバスケットができる高性能AIだな
Re: (スコア:0)
そう、想像力とか予知とか、学習の効果としてはむしろ正解じゃないかと（予測を立てられるからこそ誤ってしまう）
有りそうな事 (スコア:2, おもしろおかしい)
ポリコレ肯定派の感想「なんだ、まだ、AIはポリコレ批判派ぐらい馬鹿なのか」
ポリコレ批判派の感想「なんだ。まだ、AIはポリコレ肯定派ぐらい馬鹿なのか」
草原なら活動的な犬・・・ (スコア:2)
なにか哲学的なものを感じさせる・・・
Re:草原なら活動的な犬・・・ (スコア:2, すばらしい洞察)
草原と言うより庭の芝生で走り回ってる犬を活動的な犬としてて、そんな犬は遠くに行ったりして背景の方が多いから犬が居なくても活動的な犬と判定される。
Re:草原なら活動的な犬・・・ (スコア:1)
馬でもいいはずなのになぜ犬…英国じゃないからか？
Re: (スコア:0)
一切衆生皆仏性有のはずなのに犬に仏性はないと明言されてしまったとき
その犬すらいないただの草原に仏性があるかどうか考えるも悟りの第一歩
Re: (スコア:0)
「つっても草木国土悉皆仏じゃん？」
「でも草原はコレクションだからインスタンスとは違うし」
Re: (スコア:0)
パブロフのAIと呼ぶべきか。犬だけに。
我々がモザイクを見ると興奮するのも（するよね？）同じな気がする。
チェスはもとより (スコア:1)
リバーシなんてもう発禁されないといかんな。
あまつさえオセロなんて呼ぼうものなら。
Re: (スコア:0)
オセロって人名じゃないの？
Re:チェスはもとより (スコア:2)
そうだよ。黒人のね。
まんま物語に出てくる黒人と白人の関係性をゲームに当てこんでその名前にしてるからまじりっけなしのアウトでしょってことよ。
Re: (スコア:0)
シェークスピアはBANされまくりだろう
「せむし」とかムーア人やユダヤ人の差別的描写とか
Re: (スコア:0)
Re: (スコア:0)
そのうち白紙とかもNGになるのかね。
BANする理由の説明が不十分だと邪推されるぞ (スコア:1)
アプリストアのリジェクトとかもそうなんだけど、拒否するけど理由の説明が説明になってないレベルの曖昧な内容だと「プラットフォーマーが恣意的に選別している」という疑いを持たれてしまう。
実際には学習型AIで処理しているので内部的なロジックはわからない、というケースもあるだろうけどそれならそれでそう明言すべき。
＃ぶっちゃけ、AIがポンコツなのではなくて、規制推進派の言ってるロジックがダブスタやら矛盾だらけなのが根本原因だと思うが……
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:BANする理由の説明が不十分だと邪推されるぞ (スコア:2, すばらしい洞察)
こういう審査は理由言わないのが当たり前だと思うけど。
大学生になると試験の答案用紙が返ってこないのと同じ。
Re: (スコア:0)
「学習型AIで処理しているので内部的なロジックはわからない」と言う説明に対して、実際には「プラットフォーマーが恣意的に選別している」からだと疑いを持つだけだろ
Re: (スコア:0)
ロジックがわからないAIなんてランダム関数と大差ないな
Re: (スコア:0)
Google少し落ち着け (スコア:0)
とんでもない間違いが多いにもかかわらず問答無用で一発BAN
場合によっては後の対応が聞く耳持たずと最悪
これをGMAILでやられたらと思うとゾッとする
喩えそれが無料サービスでも (スコア:2, すばらしい洞察)
懲罰的損害賠償対象にしないと、GAFAは改まらないだろう。
Re: (スコア:0)
新らしいアカウント、登録者数の少ないアカウントなんて、
誤BANされても復活せずに放置でしょう
人気アカウントだったから、人間がチェックして復活させたが
Re: (スコア:0)
新らしい
Re:Google少し落ち着け (スコア:1)
Re:Google少し落ち着け (スコア:1)
Re: (スコア:0)
＞とんでもない間違いが多いにもかかわらず問答無用で一発BAN
たしか100万人雇っても1投稿あたりの判断時間は数秒らしいからな。
AIでフィルタリングしても全く追いついてないだろ。
Re: (スコア:0)
facebook「まだまだ甘い」
Re: (スコア:0)
正しいものを知ることだけが学習ではない。
誤BANを学習することができれば、GoogleのAIは更なる飛躍を遂げるであろう。
類似品 (スコア:0)
腐女子「攻めの反対は？」
将棋指し「受け」
Re: (スコア:0)
攻撃的なサッカー
相手チームにとっては脅威の選手
X枚目のイエローカート
今日は他の試合含めてイエローカートが多いですね。
#サッカーの試合は大丈夫なのかな、まぁ大丈夫かw
Re:類似品 (スコア:1)
イエローは人種差別に含まれないもよう。
Re: (スコア:0)
あら、ミスってた
×カート
○カード
みりゃ判るかw
Re: (スコア:0)
タレコミの内容的に、何か言葉狩りを回避しようとしているのかと考えてしまった
寝てる間にゴキブリに持っていかれた (スコア:0)
ポリコレ的にはそこでチェスの用語を修正させるんじゃないのか
Re: (スコア:0)
まずは「黒」「白」やめて「先手」「後手」からスタートかな。
これはフェイクニュース (スコア:0)
Youtube側がちゃんと理由を発表しない限り、正確な原因は誰にもわからないぞ。
第三者が分析しても意味ない。
Re: (スコア:0)
断定せず「人種差別と判定か」「可能性が高いことが判明した」と含みを持たせた言い方でもフェイクニュース警察に叩かれるのか
Re: (スコア:0)
スラドの批判厨は伸び代狭いから…
Re:これはフェイクニュース (スコア:1)
伸び代(margin)じゃなくて許容範囲(padding)の方では
一方Googleは (スコア:0)
一方Googleは、倫理的AIの研究者を追加BANした。
https://gigazine.net/news/20210222-google-fire-another-ai-ethics-researcher/ [gigazine.net]
斑鳩動画 (スコア:0)
白 黒 攻撃 力開放
これはBANですわ
#んなこたーない
Re: (スコア:0)
しかも機体は鳥の名前だから野生動物の大量虐殺？！
なんちゃってAI (スコア:0)
AIなんて意味理解して認識してるわけでもないのに
なんか高度で知的な処理をしていると思い込んでるんだろうか？
名前の付け方が悪いんじゃないか？
知能でもなんでもないだろ
Re:なんちゃってAI (スコア:2, おもしろおかしい)
絵の児童と本物の児童の区別もつかない天然知能だっているんですよ！
Re: (スコア:0)
いったい誰の思い込みを叩いてるのか知らんけど
差別語の誤判定でBANされたのが今回の話題であって
AIが知的かどうかなんて関係ないぞ