ガイドライン違反動画の対応を自動処理中心に切り替えたYouTube、第2四半期に削除した動画の本数が過去最多に 37
ストーリー by nagazou
投稿数も増えたのだろう 部門より
投稿数も増えたのだろう 部門より
headless 曰く、
YouTubeがCOVID-19パンデミックの影響でコミュニティガイドライン違反の対応を機械学習システム中心に切り替えた結果、第2四半期に削除した動画の本数が四半期単位で過去最多になったそうだ(YouTube Official Blogの記事、 Google透明性リポート、 Mashableの記事、 The Next Webの記事)。
YouTubeでは通常、機械学習システムが自動でガイドライン違反とフラグ付けした動画に対し、人間のスタッフがレビューして実際に削除するかどうかを決定する。しかし、COVID-19からスタッフを守るためにレビュー担当者の数が減ったことで、この仕組みの維持が難しくなったのだという。そのため、違反動画をすべて削除できなくても対応可能な範囲で人間がレビューして正確な判断を行うか、誤削除が増えても自動処理を中心に据えて違反動画のほとんどを削除するか、という2つの選択肢があり、責任を重視する立場から後者を選んだとのこと。
第2四半期はこの仕組みがすべての期間にわたって適用された初の四半期であり、削除した動画の本数は第1四半期の約611万本から2倍近い約1,140万本まで増加。自動化されたフラグ付けによる削除は以前から削除の大半を占めていたが、第2四半期は約1,085万本にのぼる。動画がアップロードされた国・地域別の削除本数データで日本は78,212本(28位)となっており、36,965本(29位)だった第1四半期の倍以上に増加している。
削除するくらいならアップ前にブロックすべき (スコア:1)
AIに学習させるんじゃなくて、誰もが客観的に判断可能なルールを定めて、それに違反するかどうかだけを規準にアップさせないことを目指すべき。
誰もが納得する判断なんて、世界中の○○警察様の気分次第でコロコロ変わるんだからどだい無理だが、ある程度以上の確率で排除できるガイドライン(機械判断可能なもの)を定めること自体は可能だろう。
取りこぼしはあるけど確実にアウトという狭い規準と、誤爆はあるがアウトなものをほぼ網羅する緩い規準の二つ用意するといいだろう。
狭いのに引っかかると問答無用にブロック、狭いのには引っかからないが緩いのに引っかかるなら、要注意フラグ付きでアップするか、修正するかを選択。
要注意フラグが付いてると優先的にチェック対象になって、通報などがあればさっくり削除される、検索結果が下位になる、外部プレイヤー表示不可、などの制限をつけておけば動画を見て欲しい投稿者はルール守るだろ。
他のSNSとか使ってアジ動画拡散しようって輩は要注意フラグ付きのまま強行するだろうから、そういう動画で再生数が変に増えてるのは優先的に事後のチェック対象にすればいい。
最終的には動画自体じゃなくてアップロード者をどうにかしないといけないわけで、その目星をつけるために要注意フラグ付きなのになぜか再生数が妙に伸びる動画をたくさんアップするようなやつをあらかじめ洗い出して注視していた方が、動画単体を場当たり的に削除するよりも迅速に問題に対処出来るだろう。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:削除するくらいならアップ前にブロックすべき (スコア:2)
それをやったら悪い奴が抜け道探すのが容易になるだけかと。
答え合わせがすぐできちゃうんだもん。
例えばWindows Defenderは、標準で入っているがゆえに
多くのウイルスがまず最初に検出されないことを目指す第一関門になってしまい
結果として世に出回るウイルスはWindows Defenderでは検出できないものになってしまってる。
それと同じような感じかと。
Re: (スコア:0)
これ、悪い連中を困らせるんじゃなくて、悪くないけど紛らわしい連中をはっきりさせるのが目的だろ。
Re: (スコア:0)
何でこの手の人は膨大な動画に人力では対応できないことが理解できないのだろう。
AIによる判断がマストなの。その上で誤判断にどう対応していくかという前提で語らなければ、聞く価値はない。
Re:削除するくらいならアップ前にブロックすべき (スコア:2, おもしろおかしい)
ヒント：ガイドライン(機械判断可能)
Re:削除するくらいならアップ前にブロックすべき (スコア:1)
なんと緩い基準なんぞで機械判別させて要注意フラグを付けると、緩いが故に膨大な数の要注意動画が生まれちまうんだ
当然それをチェックする人的工数も膨大だ
しかもGoogleだけじゃなく投稿者も緩い基準に四苦八苦だ
なんせこの要注意判定は緩い(ガバガバ)基準で明確には出来てないからな
Googleはチェックを付けた以上は内容を確認するのが当然だし、投稿者もなんかペナルティがあるらしいからやはり対応しなきゃならん
誰も得しない上に人の仕事だけは増えるスゲーシステムの完成だ！
Re: (スコア:0)
削除AI全否定ワロタ
Re: (スコア:0)
手に負えない規模で商売しといて「人力では対応できないから仕方ないだろ」と開き直るのはなぁ。
Re: (スコア:0)
要望がとっ散らかってて良くないな。まず問題視している点を述べた方が良いのでは。
Re: (スコア:0)
スレタイでまとまってるじゃん
Re: (スコア:0)
タイトルと本文の整合が取れてないのが最も問題。
Re: (スコア:0)
確実にアウトとかいう狭い規準のガイドラインなんかをアップ前ブロック基準として公開したら抜け道だらけでクソの役にも立たんし、
アウトなものをほぼ網羅して*しまう*程に緩い基準なんかもはや要注意フラグを誤爆するための機械だろ……
Re: (スコア:0)
ドラッグ取引だの売春交渉だの犯罪情報のやり取りは随時更新される隠語で構成されてたりするから、マヌケがたまに漏らすNGワードとそれ以外の一般的に見える会話との混ざり具合を見て判定せにゃならんのだよね。
（もっと卑近な例でいえば、局部の名称を使わずにエロ話はできる、という話）
コレのいたちごっこのせいでタイトル、サムネイル、概要欄、映像内テロップやらなんやらと、公開後にコメント欄につけられるコメント群との意味照らし合わせまである程度してるのが現状（てかまあ、コメント欄でドラッグドラッグ騒いでたら消される、程度の話だけど）
これは「アップ前ブロックすれば何とかなる」問題じゃないんだよなぁ
Re: (スコア:0)
誰もが客観的に判断可能なルールは、プログラムで表現可能で、コンパイルしたら動画ファイルに落とし込むことができるはず。
その中にはこの世のコンテンツのすべてが入っている…？
稼ぎ逃げさせない (スコア:1)
広告報酬の支払いタイミングを半年後とか1年後とかにして、BANされる前に稼ぎ逃げしづらくすればいいのでは。
Google的には、散々広告を見させておいてから報酬を払わずに済むので、きちんと審査することが利益に直結するし、
稼げなくなれば、不逞の輩も相当いなくなるでしょ。
誤判定三回でも永久BANなら (スコア:0)
誤判定したコード書いたやつも三回で首にすべきだよな
誤判定された人の怨嗟はすごいと思うよ
シェアトップでふんぞりかえっていると、いずれGoogleはしっぺ返し食らうね
Re:誤判定三回でも永久BANなら (スコア:1)
誤判定3回でBAN、ではないですよ。誤判定での削除自体は3回以上受けてもそれはそれ。
その後のなんだかんだ揉めると違反通告を受けることになって、それが3回で停止。
文句はあるけど、誤情報はいけない。
太った男は水泳動画を上げられない (スコア:0)
上半身裸の太った男は、GoogleのAIによって自動的にヌード動画と判断されて削除される
よって太った男が上半身裸の動画を上げるためにはダイエットする必要がある
Googleが人間による手動で確認するような超大物以外は自動削除されたまま回復されない
しかしなぜか相撲は削除されないのは、相撲は男だと学習させてるのかな？
少なくとも現時点ではAIは到底人間にはかなわない (スコア:1)
AI、AIと主に文系によってバズワードとして騒がれているけど、現時点では極一部の特殊な分野（囲碁将棋など）を除いて人間にはかなわない。
水泳・相撲などのスポーツ動画を猥褻動画と誤判定させないように学習させたのだろうが、体つきがスポーツマン体型がどうかで猥褻かどうかを判断するというおかしな学習結果となっている。
今のところの削除基準は、
問題無し）筋肉質で引き締まった上半身裸の男、相撲体型の上半身裸の男
誤判定を受けやすい）所謂「お父さん体系」と言われる小太りの中年の男の上半身の男
といった感じ
なお、「砂漠」などの生物が写っていない動画も肌色要素としてアダルト判定を受けることもある
少なくとも人間がアダルトかどうかを判定したら、こんなひどいことにはならないな
Re: (スコア:0)
今どきのAIに必要な自然言語解析のライブラリとかはガチの文系が開発してるんだけど。
計算機科学出来る人文学屋が書いてるんだよ。人文学の領域だけど計算機科学も関連するから。
Re: (スコア:0)
痩せてもヌードなのは同じじゃね？
Re: (スコア:0)
男性の裸も女性の裸も等しくアウトですしねえ
無限ループ (スコア:0)
削除基準はその時々でコロコロ変わるし、アルゴリズムは今ある動画がベースになるし、
広告主は今ある動画のうち平均より良いものだけに出そうとするんだから、こんなの無限ループでしょ
YouTube上にある動画のうち、学習データセットで「不適切」になったものが下から順に消されて、
しばらくすると「不適切が一切無い清浄な動画」の中に「不適切がしばしばある」事になってどんどん「適切」が縮んでいく
Googleは何でも自動化しようとするけど、自動化するなら制御理論とかを管理職に教育してくれ
15分以上の動画は投稿できない時代に戻るべき (スコア:0)
こうすれば著作権侵害の動画9割はなくなるぞ
分割でうpするやつも数倍凍結しやすくなるしな
Re: (スコア:0)
長らくニコニコだけで活動していた投稿主で、「いつの間にか」YouTubeが10分以上の動画を投稿できるようになっていたことに驚愕していた人がいたのを思い出した
謳ってるジャンル関係なく (スコア:0)
エロ求めて検索してないのに乳強調してるだけの動画が出てきて邪魔でしゃーない
なんとかしちくび
Re: (スコア:0)
僕のところにはガンダムか重機しか出てこないのですが、どうすればいいですか？
Re: (スコア:0)
「ガンダム+ピアノ [youtube.com]」で検索すると、乳強調してる動画がおっぱい出てくると思うよ
Re: (スコア:0)
そうそう、あと料理とかも汚染されてるわーほんと邪魔臭い
つか一応技術系？のsradで｢人によって広告変わるからお前が普段からエロいのばっか見てんだろ！｣みたいな変な方向のドヤコメがいくつかあるのが驚きだわ
ここ見てる連中でリターゲティング広告とか知らんほうが少ないだろっていう
Re: (スコア:0)
Re: (スコア:0)
例えば「韓国」で検索しても、人によって嫌儲動画、親鮮動画、旅行動画ばかりを見てるかで検索結果は大きく変わるので、
あなたはGoogleにエロい人って思われてるんじゃね
誤判定されまくってた時期か (スコア:0)
いつも見てたゲーム実況のYoutuberがAI誤判定されまくって困ってた時期じゃん
AI信用できねーなって思った
Re:誤判定されまくってた時期か (スコア:1)
リアル系FPSが暴力映像として誤検知されて全ブロックされていましたね
Re: (スコア:0)
必殺技名に削除対象ワードが含まれてるキャラをパーティに入れとくことでライバー勢のPvP対策になるって話聞いて、そういう使い方もできるんだなって
Re: (スコア:0)
車で25時間かけて移動して1killした人？
日本からの削除増加 (スコア:0)
昨今のコロナ禍で屋外での取材や撮影ができずに支障が出てるジャンル(鉄道系とか)の投稿者が、いわゆるYoutubeで忌み嫌われる「ゆっくり解説」や「プレイ動画」に逃げてる影響もあるのかも。