パスワードを忘れた? アカウント作成
13608715 story
IT

Amazon Echo、家庭の会話を勝手に他人に送信する誤動作。なんらかの音声を誤認識か 39

ストーリー by hylom
怪しい回答には問い直す機能が必要ですね 部門より

Amazonのスマートスピーカー「Amazon Echo」を設置していた家庭で、音声認識機能の誤動作によって家庭内の会話が録音され、それが他人に送信されるという事件が発生したという(GIGAZINEITmediaEngadget Japanese)。

この事件では、録音された音声ファイルが夫の部下にメールで送信されていたとのこと。米Amazon.comもこの事件が発生していたことを認めており、Alexaがなんらかの音声を「会話を録音してメールで送信する」命令だと誤認識したのが原因だとしている。また、音声により確認も行ったが、これに対してなんらかの音を合意だと解釈したとも説明している。

Amazonはこれについて、「極めて稀なケース」だとしつつ、今後対策を検討するという(TechCrunch)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2018年05月29日 14時40分 (#3415855)

    極めてかどうかはともかく稀ではあるだろうから
    こういうことが時々起きてもかまわないって人だけが
    使えばいいんじゃないかな。

    • by Anonymous Coward

      SiriとかGoogle AssistantとかCortanaでも起きる可能性はあるよなぁ…。

      • by Anonymous Coward

        うちはHomeさんしか使ってませんがそういう凝った機能はないですね
        自分でそういう機能のアクションを作ったうえで鯖立ててIFTTT等外部サービス経由で走らせるみたいな感じならできるのかしら?

      • by Anonymous Coward

        SiriとかGoogle Assistantが前からいるのに、唐突に笑いだしたり勝手に音声を他所に送信するってニュースになるのはAlexaばかりっていうね。
        他の奴らはCMなんかでちゃんと対応する文章が再生された結果の誤作動だったりで認識自体の異常による誤作動はあまり目立たないというのに…

        原理上どれでも起こりうるトラブルなのは間違いないんだけど、こうも一製品に問題が集中してると流石に品質を疑わざるを得ない…

    • by Anonymous Coward

      猫が勝手に~~というのと、似たような事件だよね。
      その内、音声を誤認識して児童ポルノをダウンロードしちゃう事件が起きそう。

      • by Anonymous Coward

        正認識
        あるいは裏を読んだ認識かもしれず

        • by Anonymous Coward

          優秀な高級官僚のように忖度できるんですよ。

      • by Anonymous Coward
        ダウンロードならまだしも、アップロードしようものなら…
        新しいEcho Lookってのは、カメラが付いてるんですってね。
        • by Anonymous Coward

          子供が風呂上がりに裸のままで写真撮って!>クラウドに>アカウント凍結

          くわばらくわばら

      • by Anonymous Coward

        猫がMacの上で遊んで謎メールを送ったという話はtwitterで読んだ。

    • by Anonymous Coward

      やっぱ重要機能を実行する時は、安全のために「 ピカード-アルファ-ワン 」とか
      セキュリティコードを入力するようにしようぜ。

      https://www.youtube.com/watch?v=IPphyjkXnPc [youtube.com]
      このくらいやれば完璧。

      • by Anonymous Coward

        実行してもよろしいですか?実行する場合はこれから言う数字を繰り返してください〇〇〇〇
        みたいにランダムなコードを言ってもらうようにするとか

        オウムがいたらダメか

      • by Anonymous Coward

        発声者を生体認証(血統)で識別する、決められた室内でしか発動しない、ハードウェアトークンの存在も必須とする、ぐらいのセキュリティが欲しいな
        それくらいの条件が揃っていれば、鬱陶しい確認は不要、むしろすぐに動いてくれることに価値が生じる

        つまり「バルス」の実装者は極めて優秀なエンジニア

        • by Anonymous Coward

          ハードウェアを使うんならBT接続のヘッドセットか腕時計あたりのハードウェアボタンを押さないと起動しないようにしとくあたりが…スマホにリンクしとけばスマートスピーカー要らなくね?

          • by Anonymous Coward

            指輪とか腕時計とかペンダントとかに送信機を仕込んで、音量の違いなどで「着用者=発声者か?」の判定ができるようになれば、あるいは……

            • by Anonymous Coward

              ALSやら筋ジストロフィー患者向けのアクセシビリティ提供デバイスならともかく、
              一般人向けの身につけてるデバイスのボタンに触れる程度の簡単な操作ぐらいは敬遠してやるなよ……

    • by Anonymous Coward

      カメラつけて、スピーカーの方見てないと動かないとか。
      でも、そうすると部屋の端から見ずに呼ぶ事できなくなるんだよなぁ。

      今後は、電話やテレビ電話できるようにしていくだろうし、誤操作のリスクは高まる。
      外部に何かを送信する前に、音声以外の確認方法が必要か。
      ジェスチャー、ボタン押しとか。

      • by Anonymous Coward

        映画だと自爆シーケンス開始時などは、認証コードも音声入力してますね

        #パスワードをでかい声で何度も復唱する姿が目に浮かびました

  • by Anonymous Coward on 2018年05月29日 15時31分 (#3415890)

    だからPTT(物理スイッチ、押している間マイク有効)をつけろと

    • by Anonymous Coward

      それが一番手っ取り早いよな

    • by Anonymous Coward

      機能が未熟なのに、こういう録音して外部に送るような機能を音声コマンドだけで確定させるのは危険すぎますね

      他愛の無い話が知り合いに誤配、くらいで済めば良いですが、商売敵に機密情報送ったり、学校に「爆破する」なんて勝手に送られたら目も当てられません

      #「自爆しろ」っていったら本当に自爆しそうで怖い

    • by Anonymous Coward

      トロイの木馬に外から南京錠つけるようなまねするわけないでしょ。

    • by Anonymous Coward

      物理スイッチにしないとアップデートの度に「録音可に設定が初期化されます」とかありそうだよね。

  • の音声メッセージに何度か反応したことがあったよ。

    • by Anonymous Coward

      うちのGoogleHomeはFF7のゴールドソーサーのBGMに頻繁に反応する。

  • by Anonymous Coward on 2018年05月29日 14時39分 (#3415853)

    音声なのか音なのか、結構違うぞ。

  • by Anonymous Coward on 2018年05月29日 15時02分 (#3415865)

    今後、このような事が起こったときの原因究明のため、常に全ての音を録音し続けてAmazonのサーバに残すようにしよう。

    • by Anonymous Coward

      まあマジな話、音の記録無しで「何もしてないのになんか不具合出た」とかのゆるゆるな調査依頼くると困るよね。

      • by Anonymous Coward

        「スマートスピーカーを無音環境に置いたらおかしくなった!?」とかないかな

      • by Anonymous Coward

        一瞬、何のホラーかと思ったぞ

        # 猫が何もない空間を見つめているのは・・・の話とダブってしまった

    • by Anonymous Coward

      そして大量のデータが押し寄せてサーバに負荷がかかりすぎて録音データが流出するんですね?

    • by Anonymous Coward

      残りますよ。
      スマホからAlexaを開ば行った音声コマンドが残ってますよ。

  • by Anonymous Coward on 2018年05月30日 12時30分 (#3416632)

    いわゆる聞き間違いってやつ
    あまりにおかしければ念を入れた確認をするが、機械だとまだおかしい具合が判断できないんだろうな
    まあ人間でもおかしいと思いつつ実行しちゃうのもまたよくあることで

typodupeerror

目玉の数さえ十分あれば、どんなバグも深刻ではない -- Eric Raymond

読み込み中...