違法コンテンツ確認業務が原因でPTSDになったとして、元担当者がMicrosoftを提訴 40
ストーリー by headless
原因 部門より
原因 部門より
違法コンテンツの確認作業が原因でPTSDになったとして、Microsoftのオンラインセーフティープログラムの元担当者2名がMicrosoftを相手取った訴訟を提起した(訴状: PDF、
Courthouse News Serviceの記事、
The Vergeの記事、
Neowinの記事)。
2名は違法コンテンツを確認するため、殺人や児童に対する性的虐待などが記録された数千点の画像や動画を日常的に閲覧したことでPTSDになったという。しかし、このようなコンテンツの閲覧による危険性をMicrosoftは2名を含む同部署の従業員に伝えていなかったそうだ。
Microsoftでは厚生プログラムとしてカウンセリングを提供したが、カウンセラーはPTSDの知識がなく、問題は解決されなかった。一方、症状を緩和するための計画に従った結果、勤務の評価は低下する。2名を含む同僚は確認作業による精神的負担を減らすための対策をMicrosoftに提案したが、受け入れられなかったとのこと。
症状の悪化で仕事を続けられなくなった2名は労災の申請をしたが、条件を満たさないとして却下されたことから、Microsoftに補償を求める訴訟を提起した。訴状では同様の業務を行い、予算の豊富なデジタル犯罪ユニットにオンラインセーフティーチームを組み入れ、違法コンテンツ確認担当者に対する適切なケアが行えるようにすることなども提案している。
一方Microsoftでは、特別なトレーニングを受けた従業員が児童虐待や搾取といった違法なコンテンツの確認をし、National Center for Missing & Exploited Children(NCMEC)に報告していると述べ、担当者には厚生プログラムで必要なサポートやリソースを提供しているなどとする声明を出しているとのことだ。
2名は違法コンテンツを確認するため、殺人や児童に対する性的虐待などが記録された数千点の画像や動画を日常的に閲覧したことでPTSDになったという。しかし、このようなコンテンツの閲覧による危険性をMicrosoftは2名を含む同部署の従業員に伝えていなかったそうだ。
Microsoftでは厚生プログラムとしてカウンセリングを提供したが、カウンセラーはPTSDの知識がなく、問題は解決されなかった。一方、症状を緩和するための計画に従った結果、勤務の評価は低下する。2名を含む同僚は確認作業による精神的負担を減らすための対策をMicrosoftに提案したが、受け入れられなかったとのこと。
症状の悪化で仕事を続けられなくなった2名は労災の申請をしたが、条件を満たさないとして却下されたことから、Microsoftに補償を求める訴訟を提起した。訴状では同様の業務を行い、予算の豊富なデジタル犯罪ユニットにオンラインセーフティーチームを組み入れ、違法コンテンツ確認担当者に対する適切なケアが行えるようにすることなども提案している。
一方Microsoftでは、特別なトレーニングを受けた従業員が児童虐待や搾取といった違法なコンテンツの確認をし、National Center for Missing & Exploited Children(NCMEC)に報告していると述べ、担当者には厚生プログラムで必要なサポートやリソースを提供しているなどとする声明を出しているとのことだ。
特別なトレーニング (スコア:1)
どんな特別なトレーニング(調教？)をされたんだろう。
えっ (スコア:0)
> カウンセラーはPTSDの知識がなく
一体どんなカウンセラーを雇ったんだろう
Re:えっ (スコア:3, 興味深い)
元ネタに突っ込むのも野暮だけど
> PTSDの（治療に関する）知識がなく
だろうね
Re: (スコア:0)
雇用か委託かわかりませんが、それなりに真っ当な資格保持者がカウンセラーだったのでしょうし無かったのは治療に関する経験じゃないかな～と。
ハラスメントとか人間関係とかの相談ばかり受けてたのでしょうね。
Re: (スコア:0)
PTSDとか軍じゃないんだから普通の企業じゃ想定してないでしょうからね。
Re:えっ (スコア:3, 参考になる)
the therapist involved with the program was not qualified to treat their symptoms.
これを知識がないと訳しただけじゃね？
Re: (スコア:0)
以前の職場で、朝令暮改を繰り返した挙げ句、チームの生産性が低いとかぬかしてくる上司がいた（そりゃそうだ、上司が指示した内容と違うアウトプットを求められるんだから）
流石に毎朝のミーティングで議事録とか作る余裕ないし、残業ばっかのデスマーチになって、自分含む３人ほどが鬱病になった。
で、産業医に言われたのが「鬱病とかよくわからんからとりあえず休職にしとくわ」
そのまま半年放置で退職。まあ労災で生活費が最低限確保できたからよかったけどな。
産業医ですらそんなのが混ざってるんだし、駄目なカウンセラーが居ても何もおかしくないと思う。
アメリカでカウンセラーは有資格者しかできないって話も聞いたことがないし。
Re: (スコア:0)
そうそう、仕事のせいで鬱になって産業医と面談するとき、産業医が内科だったらましなほうでハズレになると
耳鼻科とか皮膚科とか小遣い稼ぎで産業医してるようなのが出てくる
こういう確認作業の仕事はノルマ設定がある (スコア:0)
今日中に1000件のチェックを終わらせろよとか
予算が限られるわけだし誰か辞めたら負担がさらに増えるという
Re: (スコア:0)
たいていほぼ最低時給のバイトなんでいやならすぐに高飛びできるよ
//変態はこういう仕事がやりたいのかもしれないが好きなものだけ見ていれば言い訳ではないからだめ
数年もすれば (スコア:0)
AIが処理してくれるようになるでしょう
消滅する仕事の筆頭ですよ
Re:数年もすれば (スコア:2, 興味深い)
そのうち、AIにも人権が与えられるようになる [srad.jp]ので、解決にはなりません。
というネタはさておき、
今度はAIの学習用のデータを用意する人がPTSDに悩まされることになって、
問題の起きる場所が移動するだけなのではないか？
Re:数年もすれば (スコア:2)
今度はAIがPTSDになるじゃないですか
Re: (スコア:0)
もしかしたら、それが原因で自暴自棄になり人間を攻撃しだすのかもしれない。
そのうち、人間に対するAIたちの労働組合ができるよ。
AI弁護団とかできたら勝てそうにないぞ。
Re: (スコア:0)
AIカナ漢字変換レベルのAI弁護士かも知れませんよ。
少なくとも、裁判官が人間で有る以上、まだまだ人間側にも勝ち目は有るのでは？
Re: (スコア:0)
GoogleのAIが描いたという絵を見るに
グロ画像マニアの方向に行ってしまったように思われます。
Re: (スコア:0)
同様の問題として、攻撃機が無人攻撃機になって、
戦場と家庭を往復する生活が精神的に耐えられない人が出てきてるらしいですね。
Re: (スコア:0)
んなわけない。
たとえばエロもグロも意外と定義が難しいからね。
まずは正しいエロスをAIに教育する教育者が必用だけど、そんな人どこにいんのさ。
それこそ当分の間は、エロい画像と肌色率の高い画像の区別もろくにできんだろうよ。
候補を絞り込む役にさえたつかどうか。
＃おすもうさんも肌色率は高いのだ。
Re: (スコア:0)
エロ利権で儲けてる人たちも近々終わりだな
Re: (スコア:0)
何も判別困難な現状をそのまま実装することはないでしょう。
問題領域の見直しも大事です。
ということで、相撲はヌードと区別できないから禁止。
# 20xx年、Sumo Suitsの発明とともに、相撲は新しい競技へと転換することになるのであった。
究極的には、肌をさらすこと自体を禁止することで、肌色=エロとなります。
# しっかし「肌」を判別すること自体の難易度はどうなんでしょ?
無意味な論争。 (スコア:0)
『数年もすれば』vs.『当分の間は』
そういう論争するなら具体的数値を出せ->双方
Re: (スコア:0)
蓮画像はまだ耐えられましたが、モーターサイクルには流石に声を上げてしまいました。
Re: (スコア:0)
確かに将来的には消滅する仕事。だけどそれはまだまだ先の話。
Re: (スコア:0)
そしてAIに学習させた結果の行く末が「人類の抹殺」、
あれほどフィクションで語られたのに学習しない人間とはいったい…。
(在米AI氏、元違法コンテンツ確認業)
Re: (スコア:0)
虐待やら猟奇殺人やらを犯した凶悪犯罪者なら、こういう画像を見たくらいではもうなんとも思わないのではないだろうか。
凶悪犯罪者を集め、200人ほどが順番にセッションを組むことでネット上の全画像の違法性をチェックする。
＃ のちのシビュラシステムである
Re:数年もすれば (スコア:2, 興味深い)
そういうのを見てなんとも思わない人はこういう仕事には向きません。
そういうずれた人は"一般人が嫌悪感を覚える写真は非公開にする"というルールがあった場合も一般人が嫌悪感を覚えるような画像を見てもこの程度なら一般人は嫌悪感を覚えないからノープロブレムとか言う。
基本的に人間でやる場合その人の常識と感覚と経験に頼る他ないので非常識な人は困る。
いわゆるAIなどによる自動化は予算の関係で難しい。
なんかこの手の訴訟定期的に起きるな (スコア:0)
アメリカ人は企業側も労働者側も学習能力ないのか？
Re:なんかこの手の訴訟定期的に起きるな (スコア:1)
日本人が泣き寝入りしすぎだとなぜ思わないのだろうか
Re: (スコア:0)
「この件に関しては」全く思わんね。完全に事前に予測可能な範囲だ。
Re: (スコア:0)
その論法だとブラックで有名な業界は全部予測可能になってしまうが
Re: (スコア:0)
何が何でも一般論に置き換えなきゃ気が済まない病ですか。
Re: (スコア:0)
じゃ想像力の足りない君の為に具体例に置き換えてみようか。
電通にこれから入社する若者は体壊そうが自殺しようか「学習能力ないのか」で片づけてよろしいか？
Re: (スコア:0)
ヤフコメやBLOGOSなんかにそんな事言ってる人がたくさんいるね
どんな業界だろうが「従業員」なんだから雇用してる会社の責任は逃れられないんだけどね
Re: (スコア:0)
泣き寝入り以前に労働者としての権利も主張しない人たちが何を言っても意味ない
Re: (スコア:0)
現状が安上がりだと学習したんじゃ無い？
Re: (スコア:0)
PPAP絡みでボケるんならちゃんとボケましょう。
単にPTSDを知らないだけなら、ググレ。
Re: (スコア:0)
すばどう。
言われるまで親コメが何をボケてるのかわからなかったわ