Amazon Echo、家庭の会話を勝手に他人に送信する誤動作。なんらかの音声を誤認識か 39
ストーリー by hylom
怪しい回答には問い直す機能が必要ですね 部門より
怪しい回答には問い直す機能が必要ですね 部門より
Amazonのスマートスピーカー「Amazon Echo」を設置していた家庭で、音声認識機能の誤動作によって家庭内の会話が録音され、それが他人に送信されるという事件が発生したという（GIGAZINE、ITmedia、Engadget Japanese）。
この事件では、録音された音声ファイルが夫の部下にメールで送信されていたとのこと。米Amazon.comもこの事件が発生していたことを認めており、Alexaがなんらかの音声を「会話を録音してメールで送信する」命令だと誤認識したのが原因だとしている。また、音声により確認も行ったが、これに対してなんらかの音を合意だと解釈したとも説明している。
Amazonはこれについて、「極めて稀なケース」だとしつつ、今後対策を検討するという（TechCrunch）。
対策なんかないだろ (スコア:1)
極めてかどうかはともかく稀ではあるだろうから
こういうことが時々起きてもかまわないって人だけが
使えばいいんじゃないかな。
Re: (スコア:0)
SiriとかGoogle AssistantとかCortanaでも起きる可能性はあるよなぁ…。
Re: (スコア:0)
うちはHomeさんしか使ってませんがそういう凝った機能はないですね
自分でそういう機能のアクションを作ったうえで鯖立ててIFTTT等外部サービス経由で走らせるみたいな感じならできるのかしら？
Re: (スコア:0)
SiriとかGoogle Assistantが前からいるのに、唐突に笑いだしたり勝手に音声を他所に送信するってニュースになるのはAlexaばかりっていうね。
他の奴らはCMなんかでちゃんと対応する文章が再生された結果の誤作動だったりで認識自体の異常による誤作動はあまり目立たないというのに…
原理上どれでも起こりうるトラブルなのは間違いないんだけど、こうも一製品に問題が集中してると流石に品質を疑わざるを得ない…
Re: (スコア:0)
猫が勝手に～～というのと、似たような事件だよね。
その内、音声を誤認識して児童ポルノをダウンロードしちゃう事件が起きそう。
Re: (スコア:0)
正認識
あるいは裏を読んだ認識かもしれず
Re: (スコア:0)
優秀な高級官僚のように忖度できるんですよ。
Re: (スコア:0)
新しいEcho Lookってのは、カメラが付いてるんですってね。
Re: (スコア:0)
子供が風呂上がりに裸のままで写真撮って！＞クラウドに＞アカウント凍結
くわばらくわばら
Re: (スコア:0)
猫がMacの上で遊んで謎メールを送ったという話はtwitterで読んだ。
Re: (スコア:0)
やっぱ重要機能を実行する時は、安全のために「 ピカード-アルファ-ワン 」とか
セキュリティコードを入力するようにしようぜ。
https://www.youtube.com/watch?v=IPphyjkXnPc [youtube.com]
このくらいやれば完璧。
Re: (スコア:0)
実行してもよろしいですか？実行する場合はこれから言う数字を繰り返してください〇〇〇〇
みたいにランダムなコードを言ってもらうようにするとか
オウムがいたらダメか
Re: (スコア:0)
発声者を生体認証（血統）で識別する、決められた室内でしか発動しない、ハードウェアトークンの存在も必須とする、ぐらいのセキュリティが欲しいな
それくらいの条件が揃っていれば、鬱陶しい確認は不要、むしろすぐに動いてくれることに価値が生じる
つまり「バルス」の実装者は極めて優秀なエンジニア
Re: (スコア:0)
ハードウェアを使うんならBT接続のヘッドセットか腕時計あたりのハードウェアボタンを押さないと起動しないようにしとくあたりが…スマホにリンクしとけばスマートスピーカー要らなくね？
Re: (スコア:0)
指輪とか腕時計とかペンダントとかに送信機を仕込んで、音量の違いなどで「着用者＝発声者か？」の判定ができるようになれば、あるいは……
Re: (スコア:0)
ALSやら筋ジストロフィー患者向けのアクセシビリティ提供デバイスならともかく、
一般人向けの身につけてるデバイスのボタンに触れる程度の簡単な操作ぐらいは敬遠してやるなよ……
Re: (スコア:0)
カメラつけて、スピーカーの方見てないと動かないとか。
でも、そうすると部屋の端から見ずに呼ぶ事できなくなるんだよなぁ。
今後は、電話やテレビ電話できるようにしていくだろうし、誤操作のリスクは高まる。
外部に何かを送信する前に、音声以外の確認方法が必要か。
ジェスチャー、ボタン押しとか。
Re: (スコア:0)
映画だと自爆シーケンス開始時などは、認証コードも音声入力してますね
#パスワードをでかい声で何度も復唱する姿が目に浮かびました
この手のものはネットマイクと呼ぼうぜ (スコア:1)
だからPTT(物理スイッチ、押している間マイク有効)をつけろと
Re: (スコア:0)
それが一番手っ取り早いよな
Re: (スコア:0)
機能が未熟なのに、こういう録音して外部に送るような機能を音声コマンドだけで確定させるのは危険すぎますね
他愛の無い話が知り合いに誤配、くらいで済めば良いですが、商売敵に機密情報送ったり、学校に「爆破する」なんて勝手に送られたら目も当てられません
#「自爆しろ」っていったら本当に自爆しそうで怖い
この商品を買った人はこんな商品も買っています (スコア:0)
ガムテープ
Re: (スコア:0)
トロイの木馬に外から南京錠つけるようなまねするわけないでしょ。
Re: (スコア:0)
物理スイッチにしないとアップデートの度に「録音可に設定が初期化されます」とかありそうだよね。
Stellarisのチュートリアル担当ドロイド (スコア:1)
の音声メッセージに何度か反応したことがあったよ。
Re: (スコア:0)
うちのGoogleHomeはFF7のゴールドソーサーのBGMに頻繁に反応する。
なんらかの (スコア:0)
音声なのか音なのか、結構違うぞ。
Re: (スコア:0)
機械にとって違いはないということなのでは
機械学習による場合、人間と同じ特徴を見て判断しているように考えがちだけど、実は全然違う可能性がある
↓こんな風に
https://gigazine.net/news/20171102-fooling-neural-networks/ [gigazine.net]
Re: (スコア:0)
URLは画像ですが、音声でも同様に
人間にとってはノイズでも音声認識に掛けると特定の命令とか可能そうですね
Re:なんらかの (スコア:1)
音声の方は、以前こういうニュースがありました。
超音波を搬送波に使うようです。
超音波を使えば、「音」を発せずに音声認識デバイスを騙すことができる | TechCrunch Japan [techcrunch.com]
Re: (スコア:0)
スラドでストーリーになってるんだからそっち貼ろうよ [security.srad.jp]
Re: (スコア:0)
特徴を抽出すれば他のところを無視しているハズですよね。
だから、裸に見える（職場閲覧注意） [google.co.jp]んでしょ？
こうすれば安心 (スコア:0)
今後、このような事が起こったときの原因究明のため、常に全ての音を録音し続けてAmazonのサーバに残すようにしよう。
Re: (スコア:0)
まあマジな話、音の記録無しで「何もしてないのになんか不具合出た」とかのゆるゆるな調査依頼くると困るよね。
Re: (スコア:0)
「スマートスピーカーを無音環境に置いたらおかしくなった！？」とかないかな
Re: (スコア:0)
一瞬、何のホラーかと思ったぞ
# 猫が何もない空間を見つめているのは・・・の話とダブってしまった
Re: (スコア:0)
そして大量のデータが押し寄せてサーバに負荷がかかりすぎて録音データが流出するんですね？
Re: (スコア:0)
残りますよ。
スマホからAlexaを開ば行った音声コマンドが残ってますよ。
人間でもまれによくある (スコア:0)
いわゆる聞き間違いってやつ
あまりにおかしければ念を入れた確認をするが、機械だとまだおかしい具合が判断できないんだろうな
まあ人間でもおかしいと思いつつ実行しちゃうのもまたよくあることで