パスワードを忘れた? アカウント作成
14280654 story
YouTube

ガイドライン違反動画の対応を自動処理中心に切り替えたYouTube、第2四半期に削除した動画の本数が過去最多に 37

ストーリー by nagazou
投稿数も増えたのだろう 部門より
headless 曰く、

YouTubeがCOVID-19パンデミックの影響でコミュニティガイドライン違反の対応を機械学習システム中心に切り替えた結果、第2四半期に削除した動画の本数が四半期単位で過去最多になったそうだ(YouTube Official Blogの記事Google透明性リポートMashableの記事The Next Webの記事)。

YouTubeでは通常、機械学習システムが自動でガイドライン違反とフラグ付けした動画に対し、人間のスタッフがレビューして実際に削除するかどうかを決定する。しかし、COVID-19からスタッフを守るためにレビュー担当者の数が減ったことで、この仕組みの維持が難しくなったのだという。そのため、違反動画をすべて削除できなくても対応可能な範囲で人間がレビューして正確な判断を行うか、誤削除が増えても自動処理を中心に据えて違反動画のほとんどを削除するか、という2つの選択肢があり、責任を重視する立場から後者を選んだとのこと。

第2四半期はこの仕組みがすべての期間にわたって適用された初の四半期であり、削除した動画の本数は第1四半期の約611万本から2倍近い約1,140万本まで増加。自動化されたフラグ付けによる削除は以前から削除の大半を占めていたが、第2四半期は約1,085万本にのぼる。動画がアップロードされた国・地域別の削除本数データで日本は78,212本(28位)となっており、36,965本(29位)だった第1四半期の倍以上に増加している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  •  AIに学習させるんじゃなくて、誰もが客観的に判断可能なルールを定めて、それに違反するかどうかだけを規準にアップさせないことを目指すべき。

     誰もが納得する判断なんて、世界中の○○警察様の気分次第でコロコロ変わるんだからどだい無理だが、ある程度以上の確率で排除できるガイドライン(機械判断可能なもの)を定めること自体は可能だろう。

     取りこぼしはあるけど確実にアウトという狭い規準と、誤爆はあるがアウトなものをほぼ網羅する緩い規準の二つ用意するといいだろう。
     狭いのに引っかかると問答無用にブロック、狭いのには引っかからないが緩いのに引っかかるなら、要注意フラグ付きでアップするか、修正するかを選択。
     要注意フラグが付いてると優先的にチェック対象になって、通報などがあればさっくり削除される、検索結果が下位になる、外部プレイヤー表示不可、などの制限をつけておけば動画を見て欲しい投稿者はルール守るだろ。

     他のSNSとか使ってアジ動画拡散しようって輩は要注意フラグ付きのまま強行するだろうから、そういう動画で再生数が変に増えてるのは優先的に事後のチェック対象にすればいい。
     最終的には動画自体じゃなくてアップロード者をどうにかしないといけないわけで、その目星をつけるために要注意フラグ付きなのになぜか再生数が妙に伸びる動画をたくさんアップするようなやつをあらかじめ洗い出して注視していた方が、動画単体を場当たり的に削除するよりも迅速に問題に対処出来るだろう。

    • それをやったら悪い奴が抜け道探すのが容易になるだけかと。
      答え合わせがすぐできちゃうんだもん。

      例えばWindows Defenderは、標準で入っているがゆえに
      多くのウイルスがまず最初に検出されないことを目指す第一関門になってしまい
      結果として世に出回るウイルスはWindows Defenderでは検出できないものになってしまってる。
      それと同じような感じかと。

      親コメント
      • by Anonymous Coward

         これ、悪い連中を困らせるんじゃなくて、悪くないけど紛らわしい連中をはっきりさせるのが目的だろ。

    • by Anonymous Coward

      何でこの手の人は膨大な動画に人力では対応できないことが理解できないのだろう。
      AIによる判断がマストなの。その上で誤判断にどう対応していくかという前提で語らなければ、聞く価値はない。

      • by Anonymous Coward on 2020年08月28日 18時00分 (#3878523)

        ヒント:ガイドライン(機械判断可能)

        親コメント
        • by Anonymous Coward on 2020年08月28日 20時30分 (#3878626)

          なんと緩い基準なんぞで機械判別させて要注意フラグを付けると、緩いが故に膨大な数の要注意動画が生まれちまうんだ
          当然それをチェックする人的工数も膨大だ
          しかもGoogleだけじゃなく投稿者も緩い基準に四苦八苦だ
          なんせこの要注意判定は緩い(ガバガバ)基準で明確には出来てないからな
          Googleはチェックを付けた以上は内容を確認するのが当然だし、投稿者もなんかペナルティがあるらしいからやはり対応しなきゃならん

          誰も得しない上に人の仕事だけは増えるスゲーシステムの完成だ!

          親コメント
      • by Anonymous Coward

        手に負えない規模で商売しといて「人力では対応できないから仕方ないだろ」と開き直るのはなぁ。

    • by Anonymous Coward

      要望がとっ散らかってて良くないな。まず問題視している点を述べた方が良いのでは。

      • by Anonymous Coward

        スレタイでまとまってるじゃん

        • by Anonymous Coward

          タイトルと本文の整合が取れてないのが最も問題。

    • by Anonymous Coward

      確実にアウトとかいう狭い規準のガイドラインなんかをアップ前ブロック基準として公開したら抜け道だらけでクソの役にも立たんし、
      アウトなものをほぼ網羅して*しまう*程に緩い基準なんかもはや要注意フラグを誤爆するための機械だろ……

      • by Anonymous Coward

        ドラッグ取引だの売春交渉だの犯罪情報のやり取りは随時更新される隠語で構成されてたりするから、マヌケがたまに漏らすNGワードとそれ以外の一般的に見える会話との混ざり具合を見て判定せにゃならんのだよね。
        (もっと卑近な例でいえば、局部の名称を使わずにエロ話はできる、という話)
        コレのいたちごっこのせいでタイトル、サムネイル、概要欄、映像内テロップやらなんやらと、公開後にコメント欄につけられるコメント群との意味照らし合わせまである程度してるのが現状(てかまあ、コメント欄でドラッグドラッグ騒いでたら消される、程度の話だけど)
        これは「アップ前ブロックすれば何とかなる」問題じゃないんだよなぁ

    • by Anonymous Coward

      誰もが客観的に判断可能なルールは、プログラムで表現可能で、コンパイルしたら動画ファイルに落とし込むことができるはず。
      その中にはこの世のコンテンツのすべてが入っている…?

  • by Anonymous Coward on 2020年08月29日 0時05分 (#3878737)

    広告報酬の支払いタイミングを半年後とか1年後とかにして、BANされる前に稼ぎ逃げしづらくすればいいのでは。
    Google的には、散々広告を見させておいてから報酬を払わずに済むので、きちんと審査することが利益に直結するし、
    稼げなくなれば、不逞の輩も相当いなくなるでしょ。

  • by Anonymous Coward on 2020年08月28日 15時32分 (#3878406)

    誤判定したコード書いたやつも三回で首にすべきだよな
    誤判定された人の怨嗟はすごいと思うよ

    シェアトップでふんぞりかえっていると、いずれGoogleはしっぺ返し食らうね

    • by Anonymous Coward on 2020年08月28日 16時52分 (#3878477)

      誤判定3回でBAN、ではないですよ。誤判定での削除自体は3回以上受けてもそれはそれ。
      その後のなんだかんだ揉めると違反通告を受けることになって、それが3回で停止。
      文句はあるけど、誤情報はいけない。

      親コメント
  • by Anonymous Coward on 2020年08月28日 15時32分 (#3878407)

    上半身裸の太った男は、GoogleのAIによって自動的にヌード動画と判断されて削除される
    よって太った男が上半身裸の動画を上げるためにはダイエットする必要がある

    Googleが人間による手動で確認するような超大物以外は自動削除されたまま回復されない

    しかしなぜか相撲は削除されないのは、相撲は男だと学習させてるのかな?

    • by Anonymous Coward on 2020年08月28日 17時05分 (#3878485)

      AI、AIと主に文系によってバズワードとして騒がれているけど、現時点では極一部の特殊な分野(囲碁将棋など)を除いて人間にはかなわない。

      水泳・相撲などのスポーツ動画を猥褻動画と誤判定させないように学習させたのだろうが、体つきがスポーツマン体型がどうかで猥褻かどうかを判断するというおかしな学習結果となっている。

      今のところの削除基準は、
      問題無し)筋肉質で引き締まった上半身裸の男、相撲体型の上半身裸の男
      誤判定を受けやすい)所謂「お父さん体系」と言われる小太りの中年の男の上半身の男
      といった感じ

      なお、「砂漠」などの生物が写っていない動画も肌色要素としてアダルト判定を受けることもある

      少なくとも人間がアダルトかどうかを判定したら、こんなひどいことにはならないな

      親コメント
      • by Anonymous Coward

        今どきのAIに必要な自然言語解析のライブラリとかはガチの文系が開発してるんだけど。
        計算機科学出来る人文学屋が書いてるんだよ。人文学の領域だけど計算機科学も関連するから。

    • by Anonymous Coward

      痩せてもヌードなのは同じじゃね?

      • by Anonymous Coward

        男性の裸も女性の裸も等しくアウトですしねえ

  • by Anonymous Coward on 2020年08月28日 15時55分 (#3878427)

    削除基準はその時々でコロコロ変わるし、アルゴリズムは今ある動画がベースになるし、
    広告主は今ある動画のうち平均より良いものだけに出そうとするんだから、こんなの無限ループでしょ

    YouTube上にある動画のうち、学習データセットで「不適切」になったものが下から順に消されて、
    しばらくすると「不適切が一切無い清浄な動画」の中に「不適切がしばしばある」事になってどんどん「適切」が縮んでいく

    Googleは何でも自動化しようとするけど、自動化するなら制御理論とかを管理職に教育してくれ

  • by Anonymous Coward on 2020年08月28日 16時38分 (#3878468)

    こうすれば著作権侵害の動画9割はなくなるぞ
    分割でうpするやつも数倍凍結しやすくなるしな

    • by Anonymous Coward

      長らくニコニコだけで活動していた投稿主で、「いつの間にか」YouTubeが10分以上の動画を投稿できるようになっていたことに驚愕していた人がいたのを思い出した

  • by Anonymous Coward on 2020年08月28日 16時49分 (#3878475)

    エロ求めて検索してないのに乳強調してるだけの動画が出てきて邪魔でしゃーない
    なんとかしちくび

    • by Anonymous Coward

      僕のところにはガンダムか重機しか出てこないのですが、どうすればいいですか?

      • by Anonymous Coward

        ガンダム+ピアノ [youtube.com]」で検索すると、乳強調してる動画がおっぱい出てくると思うよ

        • by Anonymous Coward

          そうそう、あと料理とかも汚染されてるわーほんと邪魔臭い

          つか一応技術系?のsradで「人によって広告変わるからお前が普段からエロいのばっか見てんだろ!」みたいな変な方向のドヤコメがいくつかあるのが驚きだわ
          ここ見てる連中でリターゲティング広告とか知らんほうが少ないだろっていう

    • by Anonymous Coward
      なるほど。YouTubeの検索結果も「あなたに最適化」される時代なんだなあ。
    • by Anonymous Coward

      例えば「韓国」で検索しても、人によって嫌儲動画、親鮮動画、旅行動画ばかりを見てるかで検索結果は大きく変わるので、
      あなたはGoogleにエロい人って思われてるんじゃね

  • by Anonymous Coward on 2020年08月28日 20時07分 (#3878613)

    いつも見てたゲーム実況のYoutuberがAI誤判定されまくって困ってた時期じゃん
    AI信用できねーなって思った

    • by Anonymous Coward on 2020年08月29日 3時14分 (#3878766)

      リアル系FPSが暴力映像として誤検知されて全ブロックされていましたね

      親コメント
      • by Anonymous Coward

        必殺技名に削除対象ワードが含まれてるキャラをパーティに入れとくことでライバー勢のPvP対策になるって話聞いて、そういう使い方もできるんだなって

      • by Anonymous Coward

        車で25時間かけて移動して1killした人?

  • by Anonymous Coward on 2020年08月29日 10時38分 (#3878891)

    昨今のコロナ禍で屋外での取材や撮影ができずに支障が出てるジャンル(鉄道系とか)の投稿者が、いわゆるYoutubeで忌み嫌われる「ゆっくり解説」や「プレイ動画」に逃げてる影響もあるのかも。

typodupeerror

192.168.0.1は、私が使っている IPアドレスですので勝手に使わないでください --- ある通りすがり

読み込み中...