ヤフー、AIを使った不適切な投稿のフィルタリングを強化 19
ストーリー by hylom
AIに引っかからない誹謗中傷テクニックが進化しそうだ 部門より
AIに引っかからない誹謗中傷テクニックが進化しそうだ 部門より
ヤフーが、人工知能（AI）を使った不適切な投稿の検知を強化する方針を発表した（ITmedia、CNET Japan）。
すでに同社はAIを使って誹謗中傷等の内容を含む投稿の検知およびブロックを行なっているとのことで、1日あたり平均2万件ほどの不適切な投稿を削除しているという。さらに、こういった技術の外部への提供も進める方針で、誹謗中傷などに対する法的課題や実務的課題について議論する検討会も設置するとのこと。
ヤフーじゃないけど (スコア:0)
ブラックリスト型で投稿拒否する掲示板で、「吃驚」って書いたら拒否。
一方「スキャットマンも驚く」と書くと問題ないので、リストどうにかしろって感じ。
※後者の方が問題だろ
Re:ヤフーじゃないけど (スコア:1)
その道はいつか来た道。
イニシエのパソ通や2chでダイレクトなワードを使うのがNGになった結果、言い換えが流行ってましたね。
今回はAIによる検知だそうなので、単純なブラックリスト方式ではないとは思いますが。
言い換えや比喩的表現を文脈から判定するか学習していくのかな。
どういうふうに育つ(調教される？)かに期待。
Re: (スコア:0)
縦読みで逃れたり、斜め読みしたり、果ては奇数読みになったりするかな。
奇数読みは偶数行に奇数行に反する意味の文章埋め込むと文脈全体では妥当になったりするからやっかいｗ
Re:ヤフーじゃないけど (スコア:1)
単純な縦読みななめ読みなら検知できそうですね。
そのやっかいな例がどんどん複雑になっていって、AIにしか読み取れないメッセージとか埋め込まれるようになったりして。
AIキバヤシが解説 (スコア:0)
この文字列をこのように並べ替える。この文字はノイズだから除去する。
すると「〇〇〇〇〇〇」が浮かび上がる！つまり「××××××」の誹謗中傷なんだよ！！
ΩΩ Ω＜ナ・ナンダッテェ！？
ここまでがお約束だろうな。
Re: (スコア:0)
＞この文字はノイズだから除去する。
アナグラムネタでコレはちょっとレベル低すぎ。
Re: (スコア:0)
法則の無いはずのところに法則を見い出してこそキバヤシってか
まあそっち方面の過学習っていずれは出て来るのか、もう出てるのか
Re: (スコア:0)
例え検知できても、本当にそういう意図で書いたかわからないから微妙じゃないかなあ……
# オンゲで「〇〇くんにあげよう」って送ろうとしたらNGワードと言われたのでAC
Re: (スコア:0)
AI使用のbot対策の話では無かったのか。
高度に学習した結果 (スコア:0)
発言者の意図しない解釈方法によって [wikipedia.org]、不適切な個所を見出すAIとかに発展するかな？
# 政治家には（両方の意味で）ニーズがありそう
Re: (スコア:0)
不安倍増 [blogimg.jp]なんて言葉を不用意に使ったら逮捕かな・・・
# 国家安康 君臣豊楽
まずは不適切な記事のフィルタリングをお願いしたい (スコア:0)
アクセス稼ぎ狙いの炎上上等タイトルと空虚な内容の記事が目立ちます。
まあYahooに限った話じゃないですけどね。
Re: (スコア:0)
このタイトルだって
「AIを使った不適切な投稿のフィルタリングを強化」
と曖昧な表現にしているのはわざとだろうしね。
暇な人が居ればそのうち
「AIを使った不適切な投稿」の「フィルタリングを強化」
として遊びだすだろう。
Re: (スコア:0)
甘いな
AIを使った、不適切な『投稿のフィルタリング』を強化
くらいの解釈は余裕だ
Re: (スコア:0)
そして、REN4の記事が消えた
忖度 (スコア:0)
4月にはすでに「朝日新聞」とか「痛快」とか書いたコメントはブロックされていました。
使うスパコンの名前 (スコア:0)
kukai…「苦界」とは、相応しいけど随分と渋い名前だな (違
機械的モデレーション機能が欲しい (スコア:0)
スラドではモデレーションがほぼ機能していないが、きちんと機能すればかなり有用なものになると思うし、スラドに限らず様々なサイトに欲しい。
スラドでの機能不全は人的リソースの減少が原因かと思うので、これをなんとか機械に置き換えて機能するものを誰かに作ってほしい。
Re: (スコア:0)
転移学習か何かを導入しないとダメだと思う。
スラドのデータで学習を行うと、有用であればあるほど中立性は失われるだろう。