パスワードを忘れた? アカウント作成
15635355 story
YouTube

YouTube自動字幕機能、音声の誤認識で子ども向け動画でもエロ表現に 37

ストーリー by nagazou
技術で解決できるのだろうか 部門より
YouTubeには自動で字幕を付ける機能が存在するが、こうした機能を子ども向けの動画に適用したところ、音声の誤認識によって不適切な内容の字幕が表示される問題が出てきているという。WIREDの記事によれば、「corn(コーン)」が「porn(ポルノ)」に置き換わったり、「brave(ブレイブ=勇敢な)」を「rape(レイプ)」に聞き間違えたり、「strong and brave like Heracles(ヘラクレスのように強くて勇敢)」に対して「strong and rape like Heracles(強く、ヘラクレスのようにレイプする)」といった例があるようだ(WIRED)。

研究では人気の子ども向けチャンネルで公開されている7000本の動画を調査した結果、その40%に「タブー単語」リストに含まれているような単語があったそうだ。なお、記事によると、YouTubeの広報担当者の説明では、13歳未満の子どもは字幕機能を使わないようにすることが推奨されているとのこと。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2022年04月26日 12時06分 (#4239542)

    文字自動おこしAI時代の「空耳あわー」

  • by Anonymous Coward on 2022年04月25日 18時57分 (#4239222)
    ナニかが苛立つようなのが言語に依らず幾つもあるんだな
  • by Anonymous Coward on 2022年04月25日 19時19分 (#4239234)

    QCサボった結果がコレだよ。

    • by Anonymous Coward on 2022年04月25日 19時30分 (#4239237)

      YouTubeの広報担当者の説明は「(自動字幕機能が無効となっている)YouTube Kids使え」なのに、
      どうして「字幕機能使うな」になってしまったのか

      親コメント
      • by Anonymous Coward

        文頭から読めば、『自動』という語句が省略されているのは明らかでしょ。
        行間を読めないのかな?

        • by Anonymous Coward

          行間の前にソース記事を読もう。

        • by Anonymous Coward

          文が読めない人が行間の話をするとは。

        • by Anonymous Coward

          それはちゃんと書けばいいだけ
          必要な事まで省略して意味不明な文を書くやついるよね
          んで、そういう奴に限ってアスペがどうとかレッテル貼って来たりする

    • by Anonymous Coward

      カテゴリや対象年齢で辞書(的なやつ)の優先順位を切り替えるようにしたほうが認識率は上げられると思うんだけど、どうしてそうしなかったのか。
      #子供の話すデータから辞書作ったりしたらそうなるかも。

      • by Anonymous Coward

        選り好みできないんでしょ。AIは学習能力に比べて圧倒的に素材が足りない。そういう意味ではまだ人間の方が賢いって言えるのかも。

      • by Anonymous Coward

        ヘラクレスを認識してギリシャ神話系の辞書になれば、レイプとか出てくるのはまあ残当。

  • 子ども向けYouTubeに、タブー用語の自動字幕を表示する問題 インドの研究チームが指摘 [itmedia.co.jp]

    Google speech-to-textを用いて動画からタブー用語を抽出した結果、330個が見つかった。中でも明らかに不適切な用語のみに絞ると「bitch」「bastard」「penis」「crappy」などが、特に変換される可能性が高いと分かった。

    この辺りの言葉を特に間違える(というか不明瞭な場合にこれと推定しがち、つまりお好き?)らしい。
    てっきりトップは f**k だと思ったし例題でも duck を f**k と読み違えているみたいだけど、割合としてはそうらしい。
    # 卑猥な言葉とか侮蔑の言葉は子ども向けなら確かに防ぎたい所だけど、俗語は本来の意味もあるわけで難しいのぅ

  • by Anonymous Coward on 2022年04月25日 22時53分 (#4239331)

    "Kinky University [kindai.ac.jp] has its main campus in Higashi-Osaka city, Japan."
    のような誤認識が発生するということですね。

  • by Anonymous Coward on 2022年04月26日 9時39分 (#4239449)

    流石クラウザーさん、アルゴリズムもレイプしていらっしゃる

typodupeerror

私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson

読み込み中...