パスワードを忘れた? アカウント作成
16661957 story
変なモノ

Amazon、スマートホーム・インターホンから差別的発言が聞こえたとしてアカウントを1週間凍結 33

ストーリー by nagazou
いいも悪いもAmazon次第 部門より
Amazonは、同社の提供するドアホンインターホンが配送ドライバーに対して「人種差別的発言」をしたという疑いが浮上したことから、その該当機器の所有者であったメリーランド州に住むMicrosoftのエンジニアであるブランドン・ジャクソン氏に対し、スマートホーム機能の利用を1週間禁止する措置を実施したという(Newsweek)。

ジャクソン氏によると、5月25日からEcho Showのアカウントからロックアウトされ、接続されたデバイスと対話できない状態になっていたという。同氏はAlexa経由でさまざまなスマートホーム機器を利用しており、単に使えなくなった以上の不便さを体感したとしている。

同氏がAmazonのカスタマーサポートに電話したところ、Amazon側はドアホンインターホンが配送ドライバーに対して「人種差別的発言」をしたとの申し立てを受けたとの報告があったとして、ユーザーのスマートホーム機能の利用を1週間禁止する措置を取ったとの回答があったそうだ。

調査の結果、配達ドライバーがインターフォン側の回答を聞き間違えた可能性が高いと判明、1週間後には解除されたようだが、同氏はなぜ内部調査中にスマートホームシステム全体が使用不能にならなければならなかったのかと不満を述べている。同氏は他社製品に乗り換えることも検討しているという。なお、米国では2022年段階で冷蔵庫などの大型スマート家電の家庭での普及率は約13%に達しているとのこと。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年06月19日 15時23分 (#4480337)

    スマートホーム一式や amazon や google アカウント ban 、だけですめばいいけど、そのうち誤認識で社会的に抹殺とかあり得るよね。
    痴漢冤罪などは昔からあるけど、本人の全く関知しないところでシステムエラーにより自動的に、というのがまた何とも。
    わりと現実的に未来世紀ブラジルが近づいてきてるなあという実感。

    • by Anonymous Coward

      > 未来世紀ブラジル
       
      デモリションマンもありかなぁ。
      汚い言葉をアレクサが検知して、違反チケットの代わりにAmazon Payで即罰金。
      バーチャルSEXの方はAppleかMetaに任せよう。
      トイレには貝殻でSDGも万全。

    • by Anonymous Coward

      そだね

      車の窓から暴言吐かれたからエンジン停止とか

      振り込みの一言欄に暴言入っていたから口座凍結とか

      出生時の産声が暴言に聞こえたから出生届不受理とか

      なんでもありになっちゃうよね

      # さすがにそこまではない

    • by Anonymous Coward

      「ノウンスペース」の初期だと、それくらいの罪でも厳罰が与えられるので、死刑にされて脳髄以外の身体は「臓器バンク」に送られることになる。

    • by Anonymous Coward

      てか、本件自体が社会的、どころか最悪物理的に抹殺されかねない案件だけどな。
      スマートホームのエラーで照明やエアコンが操作不能って事例はすでに起きてるし、
      寒冷地や猛暑環境でスマートロックやエアコンが操作不能になったら、代替手段を実行できない人は凍死か熱中症で死ぬ。

      差別的発言の疑いだけで生存権まで踏み潰すって何様のつもりなんだろうね。
      アカウントやサービスが社会的地位や主要な収入、人権に直結する環境は増え続けてんだから、
      そういうケースでは安易にサービス停止やBANをしてはいけないって法整備をいい加減始めるべきだと思う。

      こんなの家の中での発言でも起こりうるだろうし、意識的にやってないだけですでに1984と大差無い。

      • by Anonymous Coward

        スマートロックが機能不全に陥ったら、最悪家に入れなくなりますもんね。
        着の身着のまま外に出てオートロックがかかり、スマートロックが機能しない、なんてことだって起きかねない。

  • by hinatan (24342) on 2023年06月19日 15時46分 (#4480361) 日記

    https://nypost.com/2023/06/15/amazon-shuts-down-customers-smart-home-d... [nypost.com]
    “Instead, the Eufy doorbell had issued an automated response: ‘Excuse me, can I help you?'” Jackson said.
    “The driver, who was walking away and wearing headphones, must have misinterpreted the message. Nevertheless, by the following day, my Amazon account was locked, and all my Echo devices were logged out.”

    どう聞き間違えたんだ。

    • by Anonymous Coward

      居留守を使われて、去り際に(よく聞き取れなかったが)罵声を浴びせられたと思った、とか?

    • by Anonymous Coward

      聞き違いが起きて
      ききちがいの「きちがい」が差別用語と判断されました。

  • by Anonymous Coward on 2023年06月19日 15時29分 (#4480344)

    会話を録音してる上に内容も理解できるほど分析してて誰が喋ったかも識別可能ということか?と思ったけど、
    記事を読むとAmazonの配達ドライバーが「人種差別発言を受けた」ってAmazonに苦情を言ったからぽいですね。

    その後でこのやり取りの動画を調査して間違いだったと判明したから凍結解除されたってことだから、
    やっぱAmazonは動画やら音声の内容を調査できる立場にはあるんだな。

    スマートホーム機器は便利ではあるけど、こういうめんどくさいことも起きる可能性があるっちゅうことか。

    • by Anonymous Coward

      >ユーザーのスマートホーム機能の利用を1週間禁止する措置
      で1週間後に解除だから、ほんとに調査した?

    • by Anonymous Coward

      スマートホームの利用規約に
      インターホン越しに侮蔑的な発言をしない事
      とか前もって書かれていたのだろうか
      それともアマゾンのアカウントそのものの方で差別発言禁止しててこうなった?

    • by Anonymous Coward

      "I was told that the driver who had delivered my package reported receiving racist remarks from my 'Ring doorbell' (it's actually a Eufy, but I'll let it slide)," Jackson wrote.

      配達ドライバーはRingと思ってようですが、実際はEufyとのことですので、さすがにAmazonが調査できる立場ではないでしょう
      さらに続きを読むと、「自宅の複数の防犯カメラを確認したがそのようなコメントはなかった」「その時、だれも家にいなかった」というのがジャクソン氏の主張ですので、 それを元にドライバーに改めて聞き取り調査した程度のことじゃないですかね

  • by jizou (5538) on 2023年06月19日 16時03分 (#4480379) 日記

    外部からのクレームで、
    なんでいきなりシステムを止めてしまうのかがわからないなぁ...
    スマートホームの環境に慣れてしまっていると、
    家の中の機器を何も制御できなくなる可能性もあると思うんだけど。

    Amazonとしては、利用者がお客様なんだから、
    事実確認をして、ユーザーに警告して、そのあと止めるぐらいでないと。

    嘘も含めて、クレームをつけるだけで止められてしまうのは、
    あまりにも脆弱すぎる。

  • by Anonymous Coward on 2023年06月20日 2時00分 (#4480622)

    なんでAmazonがサービスを止めるんだろう。どういう立場で何を目的とした行為なんだ?

    仮にこれが人殺しだとして、別にスマート家電会社がサービスを止める理由はないよな?

    • by Anonymous Coward on 2023年06月20日 6時54分 (#4480642)

      それもそうだし、そもそも戸口から聞こえたという苦情で該当顧客のインターホン通話記録を暴いてしまうのもおかしい。
      「インターホンが当社製でたまたまできたからやった」ということで本当にいいのかね。
      令状とか要らないんだ?

      親コメント
  • by Anonymous Coward on 2023年06月19日 15時36分 (#4480350)

    「はげしく同意」

    # どういう場面で使うのかまでは知らん

    • by Anonymous Coward

      記事によると、配送ドライバーが申し立てをした時は家には誰もおらず、
      スマートホーム・インターフォンがドライバーに"Excuse me, can I help you?"と発していたらしい。

      ドライバーはイヤホン装着した状態で玄関から離れようとしたときに話しかけられたようで、
      これを「差別的発言」と勘違いしたのではないかと推測されている。

      状況によっては何か言うこと自体が誤解を招くかもね。

      # ところで、記事にはMicrosoftのエンジニアが黒人だと書かれているけど
      # そこを記述する意味はあるのか?アジア人や白人だったらなにかまずいのか?

      • by Anonymous Coward

        >これを「差別的発言」と勘違いしたのではないかと推測されている。

        被害妄想とか言うとポリコレされるのかな

  • by Anonymous Coward on 2023年06月19日 15時39分 (#4480354)

    鳥がテレビで覚えた言葉を喋ったとか

    • テレビ音声が聞こえるところにあるEchoだと、たまにテレビの音声拾って反応しますね。

      同一アカウントでスマートホームなんちゃらに繋がっているのなら
      そこから学習して言葉を返すとかあるのかな

      親コメント
      • by Anonymous Coward

        「アレクサ,明日の天気は」
        ってTVで言われたらネットが落ちたりしてね・・・

      • by Anonymous Coward

        タランティーノの映画の音声拾ったらおしまいだな

      • by Anonymous Coward

        スポーツ中継等でアレクサンダーが出てくる度に反応しちゃう。

  • 自分の家のもの操作するのにAmazon様のこんな雑な思惑が絡むのは嫌だな。

    • by Anonymous Coward

      無料レンタルとかでなく、機器についてはお金を払っているのに一方的に使えなくするというのは私刑の一種と思えるのだけど、合法なのだろうか。

      • by Anonymous Coward

        契約違反があれば残期間に関わらず即時契約解除というのは別に珍しくもない話だと思うけど。

      • by Anonymous Coward

        オンライン操作自体はすべてクラウド経由だから、
        機器は買ったから所有者のものだけど、サービスは別だよってことかな。

        これだからGoogleやAmazonのスマートホーム製品は使いたくない。
        AppleのHomekitは基本すべてEndToEndの暗号化でApple側にはカメラ動画でさえ見られることはない(宣伝文句が正しければ)ので安心。
        まぁSiriの音声自体はサーバーに送られてるから、内容を盗み聞きしようと思えばできるだろうけど、
        アカウントと紐付けはしてないようで(宣伝文句が正しければ)、アカウントBANはないかな。
        おかげでSiriは最も頭の悪い音声アシスタントに成り下がってるが。

  • by Anonymous Coward on 2023年06月19日 23時48分 (#4480601)

    事実確認してからやることじゃないの?

    • by Anonymous Coward

      児ポと人種差別はその辺すっ飛ばすイメージが有る。

typodupeerror

アレゲは一日にしてならず -- アレゲ研究家

読み込み中...