パスワードを忘れた? アカウント作成
13172082 story
Google

Googleが機械学習を使用して投稿にスコアを付けるツールを発表 29

ストーリー by hylom
気になる 部門より
あるAnonymous Coward曰く、

GoogleがWebサイトやWebサービスでのコメント投稿を利用した嫌がらせや有害な投稿を減らすためのツール「Perspective」を発表したCNETBBCねとらぼSlashdot

Perspectiveは機械学習を利用したツール。コメントの投稿内容から判断した「スコア」を自動的に付与するもので、あらかじめ学習させておいた「有害」だと思われる投稿内容と類似したコメントを自動的に見つけ出すことができるという。すでにNew York Timesがコメントの選別にPerspectiveを試用しているそうだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2017年02月27日 16時19分 (#3167873)

    AIによるモデレーションならだれも文句言わないよね!
    なんなら数種類のAIでモデレーションしてメタモデの成績が一番良かったのを採用するとかさ!

    • by Anonymous Coward on 2017年02月27日 16時31分 (#3167883)

      いや待たれよ!
      モデはいかにおもおかが付くかが全てなのに有害なものだけ見つけても意味がないぞ!!

      どうでもいいけどPerspectiveと言うとライフボートを思い出すおっさんは俺だけですか?

      親コメント
    • by Anonymous Coward

      てか、ネットの全てのコンテンツにスコアつけてくれるといいね。
      特に新聞サイト自体に。

      政治家の発言にもスコアつけたりして。

    • by Anonymous Coward

      不特定多数にネガティブな投稿だとモデされてるのを
      特定少数にモデされてると思い込みたい人が何人かいるもんね。
      そろそろ理解して欲しい。

      • by Anonymous Coward

        申し訳ありませんぶら下げる場所を間違えました。本来はツリーの一番上にぶら下げるべきコメントでした。

    • by Anonymous Coward

      とっくに導入していると思ってた

      • by Anonymous Coward

        最近は判定ミスが多く、精度がいまいちの模様。

    • by Anonymous Coward

      そうやってすぐスラドにメタるパターンはフレームのもとですね。これで-2。

    • by Anonymous Coward

      AIによるモデレーションならだれも文句言わないよね!

      なんでや。精度の低い自動処理なら文句出る方が当たり前やろ。

  • by Anonymous Coward on 2017年02月27日 17時34分 (#3167930)

    AIは、単に教師データによって有害と示されたコメントと類似したコメントを選んでいるだけに過ぎず、
    なにを有害と見なすかの判断は、結局は教師データにかかっているわけで。
    「AIだから客観的」なんてことはまったくない。

    このシステムはNew York TimesやGuardianも採用を検討しているようだけど、
    教師データが公開されないままに利用されるのは、言論の自由という観点からとても問題があると思う。

    #しかし、いつもながらGoogleのサイトは技術情報に乏しくていらいらするな!

    • by Anonymous Coward

      ヒトは、単に経験によって有害と見做されたコメントと類似したコメントを選んでいるだけに過ぎず、
      なにを有害と見なすかの判断は、結局は経験にかかっているわけで。
      「ヒトだから悪意的」なんてことはまったくなくはない。

      # 客観的にモデできる聖人てスラドにいますっけ?

    • by Anonymous Coward

      教師データが公開されないままに利用されるのは、言論の自由という観点からとても問題があると思う。

      問題はあるがどのみち現時点でもNew York TimesやGuardianといったサイトは非公開の基準に基づきユーザの投稿を適宜非公開にしているのでたいして変わらない。本質的には何も変わらないと言っても過言ではない。一応バイト君が失業するか。

      #しかし、いつもながらGoogleのサイトは技術情報に乏しくていらいらするな!

      そこを詳細に説明すると敵に塩を送ることになりますからね。

    • by Anonymous Coward

      勘違いじゃなきゃもうしわけないんだけど、
      いま流行の機械学習って、教師無しの学習ですよ?
      数多ある画像から、「犬」の画像を教師無しで選び出してる。
      だから、革新的な技術として注目されているわけで

      • by Anonymous Coward

        犬の特徴を学習できても、それを「犬」だと認識させるには誰かが教えないとダメなんじゃ?
        AIは「犬」ではなく「モケケピロピロ」として学習してるかもしれない。

        有害なコメントの特徴を学習できたとしても、それを「有害」だと思うのはあくまでも人間だから、
        それを教えてあげる必要はあるように思うのだが。

        • 必要だよ(゚∀゚) !

          それが犬であると教える教師は必要。そういう教師が人間だとなかなか学習が進まない。
          囲碁なんかゲームだと勝敗は機械で判別できるから、どんどん学習させどんどん
          機械の教師に判別してもらえばいい。AlphaGoは500万回の自己学習したというよね。

          親コメント
        • by Anonymous Coward

          それを人がなんと呼ぶのかは知らないが犬とそれ以外をわけられるようにはなる。犬とそれ以外を分けられるようになったら犬を犬と教えればいい。
          //メス犬とか豚野郎とか混ざりそう

    • このツールの教師データではないのですが、検索して見つかった、有害コメントに関するデータが公開されています。

      Resources [google.com]

      リンク先は ACL 2017 にて開催されるワークショップ 1st Workshop on Abusive Language Online [aclweb.org] (オンライン上の罵り言葉に関するワークショップ) のページで公開されている、過去に発表された論文で使われたデータです。

      また、どんな「ヘイトスピーチ」も見逃さない人工知能、ヤフーが開発 [wired.jp] で紹介されている WWW 2016 の論文 (PDF [www2016.net])も、データを https://webscope.sandbox.yahoo.com/ [yahoo.com] にて公開する予定だ、と書いてあったのですが、探した限りでは、まだ公開されていないようです。

    • by Anonymous Coward

      Perspective の Github ページ [github.io]に Wikipedia から抽出した有害コメントのデータが公開されているようです。Wikipedia の編集に関するコメントが個人攻撃になっているかどうか、機械でラベル付けしたものと、人手でラベル付けしたものが公開されているようです。

  • by Anonymous Coward on 2017年02月27日 17時44分 (#3167942)

    すごーい! = 36%
    たーのしー! = 48%
    君はランキングができるフレンズなんだね! = 58%
    けものはいても、のけものはいない = 38%

  • by Anonymous Coward on 2017年02月28日 3時58分 (#3168201)

    そりゃ「Perspective」が必要になりますわ。

typodupeerror

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

読み込み中...