元従業員が語る「Googleで最悪の仕事」、それはネット監視員 63
ストーリー by hylom
楽な仕事じゃございません 部門より
楽な仕事じゃございません 部門より
taraiok 曰く、
Googleにはインターネットの暗部に触れる恐ろしい仕事があるようだ。元従業員とされる匿名の人物によれば、その仕事とは斬首や獣姦、流血、おむつプレイ、児童ポルノなどのエログロ画像を毎日最大1万5000画像チェックし、コンテンツブロックのための準備をすることだという。とくに児童ポルノ排除はインターネット企業にとって重要な仕事だ。米国内の法律により24時間以内にチェックを行い、連邦当局に報告する義務が生じるためだ（BuzzFeed FWD、Gizmode、本家/.）。
しかし、誰にも相談できる環境でなかったことから、同氏は精神治療が必要な状況になってしまったという。元従業員はこの仕事を、Googleの請負業者という契約で1年間続けた。Googleの請負業者はそのまま正社員になることがほとんどだが、彼の場合は正式雇用に至らなかったとしている。
人間は適応能力があるから (スコア:2)
繰り返し刺激に対しては反応が鈍って来ますよ。
適応能力がない人が、障がいを抱えてしまうという事では。
菓子の製造ラインに勤める人には、最初に菓子を嫌というほど食べさせるとか
即席ラーメンの製造ラインのパートの昼食は毎日インスタントラーメンだとか
友人の産婦人科医は、自分の仕事をドブさらいと言ってましたね。
Re:人間は適応能力があるから (スコア:3, 参考になる)
この場合は、逆に「慣れてしまったのでダメになった」というお話です。
http://gigazine.net/news/20120822-worst-of-the-internet/ [gigazine.net]
>セラピーを受けることになりました。(略)
>このとき実施されたのはロールシャッハテストのようなもので、父親と子どもが写ったスナップ写真を見せられて第一印象で答えるというものでしたが、
>Aさんは「ファックしてますね！」と返答。本格的な治療を受けることになりました。
日本では (スコア:2)
職員の方に同様の障害が出てないか、気になりますね。
beejay_aniki
マンパワーでやってたのか (スコア:1)
誤判定なんかもあるから、てっきり機械的にやってるもんだとばかり…
Re:マンパワーでやってたのか (スコア:5, 興味深い)
似たような仕事をやっていたことがあります。
これほどの規模ではありませんでしたが。
判定時間は出来るだけ短く、ジャンルごとに個別の判断基準でという運営でしたので、とてもじゃないですが100%誤判定なしとは言い切れませんでした。
判定ミスの他に操作ミスもあったり。
そして、私生活で観る画像や風景にも同じ判定を持ち込む癖が付いてしまったり…
一応、クライアントが指定する判定基準というものはあるのですが、それが曖昧なため担当者によって結果が分かれます。
# たとえば●が三つつながった画像を某ネズミと判断するかどうかなど。
で、その揺らぎを減らしていこうとするとフレーム問題のようになっていく…
Re:マンパワーでやってたのか (スコア:2)
ついには、いやむしろ結構早い段階で、私生活に影響が出ることもありますよね。
#まあ、個人的には私生活を影響出ても全く問題がない、
と考えてる自分に気づいてビックリしてみたりします。
Re:マンパワーでやってたのか (スコア:1)
ああ、テトリスやりすぎるとなんでもきっちりそろえて
しまいたくなるようなものか
Re:マンパワーでやってたのか (スコア:3)
・機械的にエロやグロと判定→ブロック
・利用者からの不快/不適切な画像報告→人が判定
と思ってみた。
Re:マンパワーでやってたのか (スコア:2)
15000枚/dayって言ってるんだから誤判定もあるだろうよ。
8時間労働として、2秒で一枚でしょ？
Re:マンパワーでやってたのか (スコア:2)
人力というよりは、機械判定でおかしいと判断されたものを最終的に人間がチェックみたいな感じかと推測。
でもまぁやはりとっても賢い人たちをもってしてもその辺はまだまだ完全に自動化できるものではないかな～と。
Re:マンパワーでやってたのか (スコア:3, 参考になる)
> 機械判定でおかしいと判断されたものを最終的に人間がチェックみたいな感じかと推測
いやーそれだと厳しい気がしますね・・・
機械が誤判定してくるものってのはやっぱりそれなりに理由があるわけで人間がチェックしてもスルーしてしまう可能性がかなり高いかと思います。
たとえば、うちの検索エンジンでは写真とイラストを判定するプログラムありますが、
機械が誤判定してくるものを再度人間がチェックしても人間も誤判定する可能性が高いですね。
うちのやり方がおかしいだけかもしれないので
とりあえずどうやってるかを挙げとくと
１．OK画像orNG画像と判定されたものを一覧で表示
・表示はOK画像一覧かNG画像一覧になる。
・一覧になるので画像はすべてサムネイル(120x120)
２．判定間違ったものだけ一覧からチェックしてデータ修正＆機械学習のデータに投入
って感じでやってます。
ただこの場合OK画像にしろ、NG画像にしろある程度の正解率を誇ってるところにたまに間違っているのが混ざるみたいな感じになってしまい。
間違ってるのがまざってっても正解画像と結構似てたりするんでチェック漏れ（スルー）しちゃうんですよね・・・
ちなみにサムネイル（一覧）でなく、一枚一枚原寸画像を表示して、選択（クリック）したら次へというインターフェースはほぼ間違いなく腱鞘炎になります。
このためうちは一覧で並べる形式をとるようになりました。
Re:マンパワーでやってたのか (スコア:1)
Re: (スコア:0)
Re:マンパワーでやってたのか (スコア:1)
コンテンツブロックの準備とありますよね。
順序としては、
１．人手で不適切な画像を特定し登録する。
２．自動で、登録された画像と比較し一致したらブロックする
かと。
１．の時点で誤登録もあるでしょうし、
２．画像比較の精度などによる誤判定も当然あるでしょう。
Re: (スコア:0)
ある程度機械もサポートしてるんじゃないでしょうか。
低レベル画像情報でふるいにかけて、残ったものを選別とか、一度ボツ判定すればその類似データは自動的にボツ判定とか。
もう少し高度な事もできそうですけどね。#おっ○いの大(ry
#おとなのオムツが一番機械判別しにくそうな
Re: (スコア:0)
そのうち、「こういう職業の人にいかにダメージを与えるか」
という目的で画像を作る人が出てきそうだな。
Re: (スコア:0)
こういう画像処理って最近とくに進歩しているように思えるけど、なにかブレークスルーでもあったのでしょうか。
デジカメに顔認識機能がついたり、監視カメラで自動的に人物を割り出したり、
なんの画像かを判別したり、というのは、そんなに簡単なことじゃないような気がするし。
もっと手近な例で言うとPhotoshopの加工技術とかも、人物が消せたりとか（消せるのは
いいけど、消したあとに適当な背景で埋めて気付かないようにしてくれるとか）めちゃくちゃすごいと思うし。
素人が「だいたいこんなふうなアルゴリズムでやってるのかなぁ」と想像したりできるレベルを超えてるというか。
コンピュータについて、専門じゃなくても「コンピュータにできること、できないこと」の判別はあるていどできると
思うんだけど、そういう点において一般人の想像力を超えているというか。
Re: (スコア:0)
いや、どれも簡単にできると思うが、、
Re: (スコア:0)
いや、どれも簡単にできると思うが、、
素人には見当つかんのだが、そんな簡単なら、ちょっとアルゴリズム教えておくれよ。
Re: (スコア:0)
「言うだけなら簡単」ってことだろ。
本当にそんな素晴らしい人材ならどうしてGoogleに採用されずこんなところで暇つぶししてるんだろうね
Re: (スコア:0)
Google+やってますが「なんか肌色の多い画像を貼ったらbanされた」
なんて話が聞こえてくるのを見ると、まだまだ発展途上のようです
Re: (スコア:0)
ていうかGoogleはことあるごとに「人手で恣意的な判定はしていない」と強調していたようなきがするんだが
韓国から送られてきたグロ画像 (スコア:1, 興味深い)
迷惑メールの類なので、他にも受け取った人がいるかもしれませんが。
１０年くらい前に世界中に韓国から大量送信されていた残虐画像なのですが、内容は「日本人は人間の死体を食べている。赤ちゃんの遺体を１万円で買ってきて食べている」と日本人を弾劾する内容。
画像にはハングルと英語で書かれた文章が書かれていました。
送信元も韓国。
当時、韓国の企業と取引をしていたので、取引先から漏れたメールアドレスのリストに送っていたらしい。
写真は本物のようでした。
最初はよくできた作り物かと思ってよく観察してしまいましたが、どう見ても本物。
遺体が何体も横たわるモルグのような部屋で、丸焼きにした赤ちゃんの遺体を食べている男。
食品店の棚に並べられた「脳みそ」の瓶詰を買おうとしている女。
でもね、どうみても日本じゃない。
「脳みそ」の瓶詰は、たぶん人間じゃなくて猿か何かの脳みそだろうし、買おうとしている女も「人民服」を着ている。
たぶん、その画像は中国。北朝鮮の可能性も考えたが、お店の看板などにはハングルが見られず、漢字だけなので、中国の可能性が高い。
中国では、そういう人間の遺体を食べる人が本当にいて、その写真を撮ったもののようだ。
事実、中国では赤ちゃんの遺体は漢方薬として売買されていて、その一部が韓国に輸出されていたというニュースは記憶に新しい。
皮肉なことに、「日本人は赤ちゃんの遺体を食べている」と誹謗中傷した韓国人のほうが本当に赤ちゃんの遺体を食べているという事実。
話はそれましたが、その画像の酷いこと、尋常じゃない。
こんな画像を毎日見ていたら、人間性がマヒしちゃいそう。
Googleの中の人は、仕事としてでも、１年も良く続けられたな、と思いました。
誤解なきよう、念のため書きますが、全ての中国人が人肉食の習慣があるわけではありません。
そういう嗜好を持ってる人がいて、それを実行できる環境が中国にはあるというだけです。
そういうわけで、中国産の人体の不思議展をみたとき、「この人たちは、本当に本人の意志でこのような姿にされたのだろうか？」と考えてしまいます。
Re:韓国から送られてきたグロ画像 (スコア:1)
Re: (スコア:0)
10年ほど前2chでたった1枚だけ見たけど今でもトラウマです。
Re: (スコア:0)
「だからどうした？」って思うような話題にわざわざ首突っ込むなよ。
ひどい仕事だ (スコア:0)
しかし、誰かがやらなければならない。
そんな仕事って色んな所にあるけど、報酬良くないとやってられないね。
Re:ひどい仕事だ (スコア:2)
「最もひどい」といっても相対的だからね。
「Googleではこれが最悪の仕事」かもしれないが、
日本のIT業界ならもっと酷い仕事はいくらでもありそうだ。
Re:ひどい仕事だ (スコア:1)
ほんとそう思うけれど. 実際には厭な仕事は
いくらでも代わりはいるよ
って、言われる立場の人がやらされることになるよね。
ほんと、考えただけで悲しくなるよ...
-- LightSpeed-J
Re:ひどい仕事だ (スコア:1)
google社員全員が回り持ちノルマ制でやってみて、免疫だか適正がある人を見つけるというのはどうか。
辟易した天才がほぼ自動でやれるうまい方法見つけるかもしれないし。
そういう画像が毎日最大1万5000枚ネットに貼られているってことも凄い。
Re: (スコア:0)
google社員全員が回り持ちノルマ制でやってみて、免疫だか適正がある人を見つけるというのはどうか。
辟易した天才がほぼ自動でやれるうまい方法見つけるかもしれないし。
そういう画像が毎日最大1万5000枚ネットに貼られているってことも凄い。
社員だと
エロ画像だけや、グロ画像だけを判定するプログラムを作り始める人間が多数だと思う。
そうだな……WinnyやShareをバックグラウンドのデータとして類似判定をするのはどうだろう。
Webに比べて普通の画像が少ないから判定しやすいよね？
……とここまで書いて、既にそんなフィルタプログラムがあって
フォールスポジティブが多くなるように調整して収集したデータを
見せられているんじゃないかと思えてきた。
# やっぱ最後は人なんだよね……
Re: (スコア:0)
あまりの酷さに不覚にも笑ってしまった
素晴らしい仕事だ (スコア:0)
エログロが好きな人にとってはw
Re:素晴らしい仕事だ (スコア:1)
一概に「エログロ」と言っても、色々と傾向が違うモノがあって、「どんなのでもおっけー」って人もいるかもしれんが、
「俺は○○は好きだが××はダメだ」って人もいるだろう。
こういう監視業務では選り好みできるわけ無いし、前者ならともかく後者は結局辛いことになるんではないかね。
Re: (スコア:0)
まさか、仕事中にしこしこするわけにはいかんだろうw
いや、大変は仕事だよ｡俺は無理。
Re: (スコア:0)
ビデ倫の仕事で「やったーAV見放題ー」とか思っていたら一日グロ映像見せられて胃を壊すようなものですね。
Re: (スコア:0)
食い過ぎで好きなものを嫌いになってしまい、人生の楽しみが減ってしまう、という悲しいことになるのでは。
Re: (スコア:0)
好きな音楽をBGMに作業しているともっと悲しいことになるよね。
例：ベートーヴェンの第九
Re:素晴らしい仕事だ (スコア:1)
なにその機械仕掛けのオレンジw
挙げられた例について (スコア:0)
斬首、流血、この辺はまあ残虐な犯罪行為って事だよね。
児童ポルノ、うむこれはいかんな。
獣姦、日本じゃあまり見かけないプレイだが。
そして唐突におむつプレイ……。世界は広いね。
Re: (スコア:0)
確かに、俺も「おむつプレイ」が並列で載っている事に違和感を覚えたｗ
Re: (スコア:0)
Re: (スコア:0)
その性癖は知らないし興味もないけど、
年齢が低い方じゃなくて高齢の方のおむつプレイなら問題ないんじゃないでしょうか。
Gizmode (スコア:0)
Gizmodoをこう書く人ほんと減らないね
Re:Gizmode (スコア:2)
なんか日本語っぽく「ぎずも堂」だというのをどっかで見かけた気がするんですが、主に日本で間違えられるというのはなんとも…
Re:Gizmode (スコア:1)
あ、ほんまや。
指摘されるまで気にしてなかった。
Re: (スコア:0)
居直りもここまで来ると清々しいな
Re: (スコア:0)
その論法で人名異体字も撲滅してー。いやほんとマジで
「全ての人名異体字を生まれる前に消し去りたい」
「君は、秦の始皇帝にでもなるつもりかい…?!｣
Re: (スコア:0)
ただでさえ多いサイトウさんの区別がつかなくなるじゃないか
Re: (スコア:0)
GizmodoのことをGizmodeと間違えて書くのは日本人くらいのものなので
本家のネーミングに文句をつけられても。