YouTubeで性的コメントを連投するBotが出現、アダルト動画と誤判断され配信者がBANに 77
ストーリー by nagazou
悪質 部門より
悪質 部門より
YouTubeのライブチャンネルで、コメント欄に悪意を持つBOTが書き込むことにより、誤BANされてしまう事態が相次いでいるそうだ。配信中に卑猥なアイコンやコメントを連投されてしまうとのことで、YouTubeの判定システムに配信中の動画がアダルトな内容であると誤認させ、BANを誘発するという手口であるという（ねとらぼ、Mogura VR News）。
配信者側が可能な対策としては、コメントを配信画面に載せない、NGワードを設定する、チャットをチャンネル登録者限定に設定する、といったものがあるようだがコメントの、どの部分でYouTube側のBAN判定に引っ掛かっているのか不明瞭であることから、確実な対処方法とは言えないという。すでに大手が運営するのMika Melatikaさんや、バーテンVTuber朔夜トバリさんなどのVTuberもこの手口でBANされた事例が報告されているとのこと。
配信者側が可能な対策としては、コメントを配信画面に載せない、NGワードを設定する、チャットをチャンネル登録者限定に設定する、といったものがあるようだがコメントの、どの部分でYouTube側のBAN判定に引っ掛かっているのか不明瞭であることから、確実な対処方法とは言えないという。すでに大手が運営するのMika Melatikaさんや、バーテンVTuber朔夜トバリさんなどのVTuberもこの手口でBANされた事例が報告されているとのこと。
一種の脆弱性だねぇ (スコア:5, すばらしい洞察)
原因がはっきりしてないのでなんとも言えないけど、予想通り配信画面内の自動文字認識を元にいきなりチャンネルごとBANしてるのであれば、もはや脆弱性と言っても良いんじゃないか。
とりあえず、なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか、とか、力入れる方向間違ってんじゃないの？ と思われてもしょうがない。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:一種の脆弱性だねぇ (スコア:1)
性的なコンテンツを事前に排除しろっていうのはできるにしても限界があるだろ
コメントを映り込ませるというのは配信者が自身の責任において勝手にやっていること
YouTube側は通報されたコメントもアイコンも動画も等しく削除するしかないのでは
Re:一種の脆弱性だねぇ (スコア:1)
問題の動画を削除するところまでは擁護できる
アカウントBANして異議申し立てRejectはちょっと擁護できないかな～
Re: (スコア:0)
所詮Googleだからやること全部雑
これに尽きる
Re:一種の脆弱性だねぇ (スコア:2, おもしろおかしい)
それに比べてスラドの優しさよ
Re: (スコア:0)
古のBBSの管理人みたいなもので、動画に対するコメントを配信者側で管理（削除）出来る以上コメントに対する責任は配信者側ってことなんですかねぇ
大手だと専任者がチェックしているみたいですが、リアルタイム配信でコメント表示遅らせてリアルタイムチェックしているというのは見たこと無いなー
ただスパチャ含めて配信というのはYoutubeの大きな柱ですから、プラットフォームとして対応はしていくと思いますよ
Re:一種の脆弱性だねぇ (スコア:1)
何が引っ掛かるかもわからんのに管理せってのは無理でしょ
そもそもふん秒単位でBANされるんだから対応なんかできないよ
ブラックリストがあるならそれでコメントできないようにすればいいのに何故Youtubeがやらないのかが不思議
っつーかおかしい
Re: (スコア:0)
YouTubeにはすでにそういう機能があるんですよ
表立って言わないだけで使ってるVTuberは結構いるのでは
Re: (スコア:0)
今回は登録歴何分以上とかに設定してもやられてるという噂
そのチェックを抜けてAPI直叩きされてるんじゃね? と言われてる
Re: (スコア:0)
脆弱性というか仕様の不備
映り込んだらNGなコメントができる or 映り込んだらNGなアイコンが使える、というのがおかしい。
Re: (スコア:0)
＞仕様の不備
だから仕様に脆弱性があるんでしょ？
Re: (スコア:0)
XSSみたいなものなんだから脆弱性の一種
ファンの粗相は、対象者の責任 (スコア:0)
YouTubeがどういった方針なのか次第だけど、
例えば、FIFAはサポーターが暴動を起こした場合はサポータだけでなくチームに対しても制裁を行っている。
自動で投稿コメントを配信動画に載せていたとしても、
配信者の判断でコメントを載せたとみなすのなら、
第三者の意見だとしても配信者にも責任があると判断されるのでは？
# TVのニュースでtwitterのコメントを拾って表示する番組があるけど、
# あれで卑猥なコメントが表示された場合は問題にはならないの？
Re:ファンの粗相は、対象者の責任 (スコア:3, すばらしい洞察)
暴動と呼べる規模のものは悪意のある1人だけでは起こせない
贔屓のチームにペナルティがかかるのが怖いという理由であっても
周囲が理性的であれば暴動には発展しない
でもYoutubeの場合は悪意ある1人の手で達成出来る
Re:ファンの粗相は、対象者の責任 (スコア:1)
コーナーは1回で打ち切りになったｗ
Re: (スコア:0)
同じようにBPOに通報して面倒ごとにすればいいじゃん
Re: (スコア:0)
コメントが本来なら公開されない物ならそうかもしれないが、
画面に映さなくてもYoutubeの機能でバリバリ公開されるもんなんだよな
そう思うとやっぱおかしい気はする。
そもそもコメント入力できないようにして置けと。
Re: (スコア:0)
「コメントを配信画面に載せない」っていうのは「動画内にコメントが映り込まないようにする」って意味じゃなくて、「動画に対してコメントできないようにしろ」って意味だと思う。
＃性的なコメントが多く寄せられる動画は内容が性的だからBANしたろって、BAN判断AIが学習しちゃったんでしょ
Re:一種の脆弱性だねぇ (スコア:1)
一義的には「動画内にコメントが映り込まないようにする」って意味だよ
https://twitter.com/shinno_Arts/status/1523857372833193984 [twitter.com]
https://twitter.com/tokusari_kukuri/status/1524002569034801153 [twitter.com]
https://twitter.com/ArisaChild/status/1523760191614775297 [twitter.com]
最初のうちは映り込みが原因なのかコメントそのものが原因なのか分からなかったので、両方を想定した注意喚起 [twitter.com]もあったけど、今のところBANされたのは映り込んでる配信ばかりなので、たぶんそういうこと
Re: (スコア:0)
そんなコメントはYoutubeではじけばいいじゃないか
Youtubeがコメント機能を提供し、そのコメントを通しておいて書いたほうじゃなくて書かれたほうをBANするのはトチ狂ってるとしか言えない
バグでしょ
Re: (スコア:0)
「コメントを配信画面に載せない」というのは「コメントを配信画面に載せない」という意味です
Re: (スコア:0)
違います
Re: (スコア:0)
> なんで動画内に映り込むだけでBANされるようなコメントがフィルタもされずに通るのか
記事を誤読してますね。
たとえば「くり」や「りす」という単語は特に性的な意味をもちません。あるボットが「くり」を連投しても、別のボットが「りす」を連投してもフィルタはされないでしょう。
しかし「くり」と「りす」という２単語が大量に付与された動画の方には性的な意味が出てきます。人類のエロに対する妄想力はたくましいのです。
こういうかんじで、投稿はOKと判定され、動画はNGとは誤判定される例はたくさんあるでしょう。
つまり、Botが攻撃したのは投稿コメントの判定アルゴリズムじゃなくて、動画の判定アルゴリズムの方なのです。力を入れるのは動画の判定アルゴリズムのほうですね。
Re: (スコア:0)
一般の誰もが参加できるコメントのBAN基準と
収益化も行ってるような配信者のコンテンツに対するBAN基準が違うのは当然では？
そして配信中の動画にコンテンツとして載せてしまっている以上、
配信者の責任範囲と捉えることは自然というか当たり前の解釈だと思う
もうちょっと気を利かせてもいいんじゃない？ぐらいの感想はあるけど、YouTube側の落ち度するのは違うかと
Re: (スコア:0)
SQLインジェクションなどと同じように考えるべき時代かもね。
ユーザー入力をサニタイズせずに使うのは脆弱性の温床になるという考え方が動画配信にも適用される。
出会い系とかの書き込み対策 (スコア:2)
この辺と似てるな
分かっていない人がたくさんいるが (スコア:1)
そもそもあからさまな不正コメントはyoutubeのチャット欄には表示されないぞ。
コメビュとかの外部ツールを使うとyoutube上では表示されない不正コメントも閲覧(表示)できるようになるんや。
関連リンクに追加で (スコア:0)
Amazon、自社サービス Twitch で自社の公式アカウントを一時停止 [it.srad.jp]
Twitchで出演者の女性が乳首を露出してアカウントがBANされた事件に近いと思った
対策としてはディレイ入れるとか、許可リスト方式にするとか、そんなところかな
Re:関連リンクに追加で (スコア:1)
近いか?
勝手にやってきてコメントする人のせいでBANなんだぞ
スラドでいうなら安倍うんこの人にレスされたらBANに近い
Re: Re:関連リンクに追加で (スコア:1)
うんこの人はトピックを選べば寄ってこないんだから回避のしようがある。 AnamesonCraftが殺害予告を投げたら終了という方が近い。
Re: (スコア:0)
日本語がちゃんとわかるなら、あれらの文章は殺人予告してないんだよ
死ね連呼してるだけだし、予告ではない
Re: (スコア:0)
> 勝手にやってきてコメントする人のせいでBANなんだぞ
勝手に配信して乳首だした人のせいでBANなんで、近いと思います。
Re: (スコア:0)
あべうんこが特にひどいけどそれ以外にもぽっぽがーだの暴力的なコメントがーだののせいで広告費を落とされて困ってますみたいなアナウンスがスラドでもあったような…
てかスラドも日々過激化している気がしますね。根拠はなんとなくで、データもありませんが。
# 大体うんこがだめで頭パーが許されるのが意味不明
# さあアレどもいでよアレゲジャナイゾアレダゾ
Re: (スコア:0)
コメント番号だけを見れば過疎化すらしてないんですが、IDで書けないチキンが増えただけだよ。
悪質 (スコア:0)
悪質なのはアルゴリズム過信のYouTubeの運営では？
Re: (スコア:0)
とはいえ、モロ出しアイコンなんぞをそのままにしておくこともできないので瞬間的にはやるしかないのでは？
＃もちろん、そんなアイコンを登録できる方が問題なので、そっちはそっちで対応してもらうとしても
Re: (スコア:0)
瞬間的にっていう対応ならアカウント丸ごとBANにする必要はなかろう。
実際にBANされた人の配信動画 (スコア:0)
アイコン小さすぎて見えねぇ……
Re: (スコア:0)
なるほど…この動画で問題を理解した。
YouTubeの裁定は誤りとは言えない。不特定個人の自由投稿を配信者のコンテンツに含めるシステムが問題と言えば問題だが大変だな。
生配信の視聴者コメントはYouTube外のコメントサービスでオーバーレイ表示するような対策が必要なのかもしれない。
Re: (スコア:0)
一周回ってニコニコ動画(仮)の時代が来るのか
Re: (スコア:0)
載せてるのは配信者側であってYouTube側ではない
最近良く見る謎スパム (スコア:0)
フルスピードで走るのが俺の人生だった
チャットを配信に載せる意義 (スコア:0)
そもそもユーザーのチャットを配信に載せる目的がよくわからない
チャットはチャット欄で見えるし
コンテンツへのノイズになるので載せるのをやめればいいのにと思っている
Re:チャットを配信に載せる意義 (スコア:1)
アーカイブにする時にシーン編集等するとコメントが消えてしまうので、あとから見返す用とか。
Re: (スコア:0)
動機は幾つかパターンがあると思うけど、典型的なのは複数サービスへの同時配信で両サービスのコメントを視聴者に見せたい時かな。
ウェブ上での行為に対する処罰が甘すぎる (スコア:0)
現実に影響を及ぼす爆破予告とか、その辺の家の窓ガラスを割るのと同じようなもんなのに
ウェブ上で完結してるような荒らし行為に対する対応が生ぬるいと思う
営利でやってる奴のアカウント妨害するのなんて、その事務所の窓ガラスが割られるよりも遥かに損害はでかいだろうに。
荒らしは業務妨害罪とかで厳正に対処した方がアホなことやるやつ減るんじゃないかな？
ちなみにスラドも年初にタレコミで特定の個人を抽象するようなものを連投したやつが居て
タレコミを自動でTwitterに投降する公式Twitter @sradjp_journalsがBANに追い込まれる被害受けてる
https://ja.osdn.net/projects/slashdotjp/ticket/43631 [osdn.net]
他でも似たような攻撃あったな (スコア:0)
IDに見える無作為な文字列書き込むとか利用規約に触れる書き込みをbotでやる類
そうだイーロンおじさんに買ってもらおう (スコア:0)
合法コンテンツなら消さないんでしょ？
冷静に要素を分解していくとYouTubeの動作は正しい (スコア:0)
これ誤BANだっていう奴居るけどYouTubeがアダルトと判断してBANするのは正しい。
Live配信中にチャットできる機能が提供されているだけでそれを配信に映すかどうかは配信やってる側が決める事。
で、配信を映像として記録して結果投稿するのがYouTubeの仕様。
また、YouTube Studioの機能で動画編集するとチャットのリプレイが消えるのもYouTubeの仕様。
そういった事を踏まえた上で、チャットのクオリティフィルターは各配信やってる側がコントロールしなきゃいけない事の一つ（そのためのモデレーター機能）
なので、コメントとアイコンを自らの映像作品として取り込むことを選択したのだからそこにアダルトコンテンツがあった場合にYouTubeが機械的にBANをするのは正しい動作でしょ。
リスクコントロールが出来てなかっただけ
Re: (スコア:0)
お気持ちの表明ありがとうございました。