パスワードを忘れた? アカウント作成
14203470 story
Yahoo!

ヤフー、AIを使った不適切な投稿のフィルタリングを強化 19

ストーリー by hylom
AIに引っかからない誹謗中傷テクニックが進化しそうだ 部門より

ヤフーが、人工知能(AI)を使った不適切な投稿の検知を強化する方針を発表したITmediaCNET Japan)。

すでに同社はAIを使って誹謗中傷等の内容を含む投稿の検知およびブロックを行なっているとのことで、1日あたり平均2万件ほどの不適切な投稿を削除しているという。さらに、こういった技術の外部への提供も進める方針で、誹謗中傷などに対する法的課題や実務的課題について議論する検討会も設置するとのこと。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2020年06月05日 13時53分 (#3827979)

    ブラックリスト型で投稿拒否する掲示板で、「吃驚」って書いたら拒否。
    一方「スキャットマンも驚く」と書くと問題ないので、リストどうにかしろって感じ。
    ※後者の方が問題だろ

    • その道はいつか来た道。
      イニシエのパソ通や2chでダイレクトなワードを使うのがNGになった結果、言い換えが流行ってましたね。

      今回はAIによる検知だそうなので、単純なブラックリスト方式ではないとは思いますが。
      言い換えや比喩的表現を文脈から判定するか学習していくのかな。

      どういうふうに育つ(調教される?)かに期待。

      親コメント
      • by Anonymous Coward

        縦読みで逃れたり、斜め読みしたり、果ては奇数読みになったりするかな。

        奇数読みは偶数行に奇数行に反する意味の文章埋め込むと文脈全体では妥当になったりするからやっかいw

        • 単純な縦読みななめ読みなら検知できそうですね。

          そのやっかいな例がどんどん複雑になっていって、AIにしか読み取れないメッセージとか埋め込まれるようになったりして。

          親コメント
          • by Anonymous Coward

            この文字列をこのように並べ替える。この文字はノイズだから除去する。
            すると「〇〇〇〇〇〇」が浮かび上がる!つまり「××××××」の誹謗中傷なんだよ!!
            ΩΩ Ω<ナ・ナンダッテェ!?

            ここまでがお約束だろうな。

            • by Anonymous Coward

              >この文字はノイズだから除去する。
              アナグラムネタでコレはちょっとレベル低すぎ。

              • by Anonymous Coward

                法則の無いはずのところに法則を見い出してこそキバヤシってか

                まあそっち方面の過学習っていずれは出て来るのか、もう出てるのか

          • by Anonymous Coward

            例え検知できても、本当にそういう意図で書いたかわからないから微妙じゃないかなあ……

            # オンゲで「〇〇くんにあげよう」って送ろうとしたらNGワードと言われたのでAC

      • by Anonymous Coward

        AI使用のbot対策の話では無かったのか。

      • 発言者の意図しない解釈方法によって [wikipedia.org]、不適切な個所を見出すAIとかに発展するかな?
        # 政治家には(両方の意味で)ニーズがありそう

        • by Anonymous Coward

          不安倍増 [blogimg.jp]なんて言葉を不用意に使ったら逮捕かな・・・

          # 国家安康 君臣豊楽

  • アクセス稼ぎ狙いの炎上上等タイトルと空虚な内容の記事が目立ちます。
    まあYahooに限った話じゃないですけどね。

    • by Anonymous Coward

      このタイトルだって
      「AIを使った不適切な投稿のフィルタリングを強化」
      と曖昧な表現にしているのはわざとだろうしね。

      暇な人が居ればそのうち
      「AIを使った不適切な投稿」の「フィルタリングを強化」
      として遊びだすだろう。

      • by Anonymous Coward

        甘いな
        AIを使った、不適切な『投稿のフィルタリング』を強化
        くらいの解釈は余裕だ

    • by Anonymous Coward

      そして、REN4の記事が消えた

  • by Anonymous Coward on 2020年06月05日 19時35分 (#3828324)

    4月にはすでに「朝日新聞」とか「痛快」とか書いたコメントはブロックされていました。

  • by Anonymous Coward on 2020年06月06日 7時14分 (#3828514)

    kukai…「苦界」とは、相応しいけど随分と渋い名前だな (違

  • by Anonymous Coward on 2020年06月06日 10時00分 (#3828551)

    スラドではモデレーションがほぼ機能していないが、きちんと機能すればかなり有用なものになると思うし、スラドに限らず様々なサイトに欲しい。
    スラドでの機能不全は人的リソースの減少が原因かと思うので、これをなんとか機械に置き換えて機能するものを誰かに作ってほしい。

    • by Anonymous Coward

      転移学習か何かを導入しないとダメだと思う。
      スラドのデータで学習を行うと、有用であればあるほど中立性は失われるだろう。

typodupeerror

犯人はmoriwaka -- Anonymous Coward

読み込み中...