テスラのAutopilot、月と黄色信号の区別ができない 121
ストーリー by nagazou
誤認識 部門より
誤認識 部門より
以前、テスラ（Tesla）製の車両に搭載されていたナビゲーションシステムが、前走する車両の荷台に積載されていた信号機を誤認識するトラブルがあったが、今度は空中に浮かぶ月を信号として誤認識したというトラブルが報告されている（ViralHogさんの動画）。
ViralHogさんがYouTubeにアップした動画によれば2021年7月22日、同氏がテスラのフルセルフドライビングのサブスクリプションを購入した直後、地元の4車線の高速道路で試験走行していたところ、通常は前走者がいなければ設定速度を完璧に維持するのに、なぜかなにもない場所で速度を落とそうとする挙動を見せたという。
ナビゲーションシステムがの画面にはなぜか黄色の信号が点滅するように表示され、ふとそれを見上げてみると空中には通常よりも少し黄色やオレンジ色に見える月が存在していたそうだ。ノースカロライナ州では火事の煙で厚いカスミがかかっていたことから、月が黄色の点滅する信号と勘違いさせたものと見られている。
ViralHogさんがYouTubeにアップした動画によれば2021年7月22日、同氏がテスラのフルセルフドライビングのサブスクリプションを購入した直後、地元の4車線の高速道路で試験走行していたところ、通常は前走者がいなければ設定速度を完璧に維持するのに、なぜかなにもない場所で速度を落とそうとする挙動を見せたという。
ナビゲーションシステムがの画面にはなぜか黄色の信号が点滅するように表示され、ふとそれを見上げてみると空中には通常よりも少し黄色やオレンジ色に見える月が存在していたそうだ。ノースカロライナ州では火事の煙で厚いカスミがかかっていたことから、月が黄色の点滅する信号と勘違いさせたものと見られている。
フレーム問題 (スコア:3)
フレーム問題 [wikipedia.org]は現実世界に近い環境で機械が判断する状況になるにつれて顕在化するんだろうな
反射的に思い出した話 (スコア:2)
「UFOに追い掛けられてる」と主張してるヤツが指差したモノは……夕暮れ時の空に輝く金星だった、って話を思い出さんでも無し。
でも、マジな話、人間様が車を運転する場合も「一見、車の運転と関係ない『常識』」こそが極めて重要な役割を果たしてるんじゃなかろうか？
「車の自動運転をするAI」みたいな単機能だけど人の命に関わるAIを作ろうとした場合こそ、逆に「人間を丸ごと再現したAI」を作んないといけなくなったりして……。
Re:反射的に思い出した話 (スコア:2)
AI「煽られないように、この車体をDQN好みの外見に改造する事をオススメします」
結局、安全なの？ (スコア:2)
トータルの安全性は、保険会社の保険料が一番性格なのかな？
モノづくり舐めてるでしょ (スコア:1)
テスラだから許されていると言うかは諦められている。
これがもしトヨタとかベンツとかが許す許さない以前にこんなもん出せないレベル。
先進的云々よりもまず安全性の面で出直してこいと叩かれるけど聞く耳もたないだろうな。イーロンマスクの会社だし。
Re:モノづくり舐めてるでしょ (スコア:1)
テスラの商売は、ユーザーに車を売ることではなく、出資者（株主）に「先進的な会社だ」というイメージを売ることなので、トヨタやベンツと比較してはいけない。
安愚楽牧場や円天に比べればガチで頑張ってる良い会社じゃね？
Re: (スコア:0)
これを思い出した。
【MacBook Air分解その5】「外は無駄なし，中身は無駄だらけ」
https://xtech.nikkei.com/dm/article/NEWS/20080217/147537/ [nikkei.com]
Re: (スコア:0)
結局アップルに置いてかれた日本のパソコンメーカーみたいにトヨタも置いてかれると？
Re: (スコア:0)
日本のパソコンメーカーっていつAppleに置いてかれたんですか？
Apple信者の方には受け入れがたい不都合な真実かもしれませんが
天下のApple様は昨年も5.5%とか言う糞みたいなシェアですよ
https://iphone-mania.jp/news-349872/ [iphone-mania.jp]
昔からですが、むしろAppleの方が置いてかれてないですか？
結局、クソ設計するような自称テクノロジーメーカーは、いくら上辺を取り繕っても普及はしない。
ってだけじゃないかと思いますよ。
Re: (スコア:0)
日本のパソコンメーカーってその他にまとめられてるやつだよ。
あとは全部外資傘下だよ。
Re: (スコア:0)
> 「技術的にすごいと感じるところは一つもない。我々ならもっと安く作れる」
じゃあなんで売値はあんなに高いんだよｗ
Re: (スコア:0)
絶対的な出荷数量が少ない安くできないだけ
Re: (スコア:0)
（ねじ止めや切削加工のような）「製造コストをかけている」ことを「無駄」というかどうかは主観評価だと思う。
企業としてはかけたコストを回収できる売価を設定して、それで売れるんなら問題ないことになる。
安物としてしか売れないから必死で見えないところまで全方位的にコストダウンせざるを得ず、
ユーザー目線では得にならないところにリソースを突っ込んでいるところが自分たちの問題なのだというところに気付け。
（っていうか、これはひと昔前に書かれた記事か。あいほんで筐体を切削加工していたのを見たらショック死してるな、この技術者）
Re: (スコア:0)
天下一品（ラーメン屋）と道路標識を区別できないのは日本車じゃないっけと思って検索したけど、
ホンダだったのでトヨタやベンツの許される許されないには影響なしだった…
Re: (スコア:0)
スラドには必死でテスラたたいてる奴要るけど、ガラケーがスマホになぎ払われたように
トヨタさんもテスラにやられまくる未来が待ってるぞ。
Re: (スコア:0)
ガラケーがスマホになぎ払われた
悪貨が良貨を駆逐したと個人的には思っている。
#異論反論は認める！
Re: (スコア:0)
トヨタとかベンツのクオリティでものづくりなめてない扱いになるのか。
お前ものづくりなめてんな。
明るい天体は運行をシミュレーションして消し込むしか無いのか (スコア:1)
オートパイロットって大変だな
Re:明るい天体は運行をシミュレーションして消し込むしか無いのか (スコア:1)
それだと信号機の奥に月がある場合にその信号を無視することになりませんか？
Re: (スコア:0)
環境情報を得るためのカメラが複数台なら結構な場合で大丈夫にできるはず
月が緑色にも光ってくるなら大丈夫じゃない場合に切り替わってしまうが
Re: (スコア:0)
そんな高尚な話ではなく、距離計算をしないテスラが悪い。
LIDAR等の距離を直接測れるセンサで計測するか、画像の視差から距離を計算すればいい。
普通は画像+距離情報から位置とサイズを計算して、画像情報と合わせてそれが何かを判断する。
テスラがなぜそれをやってないのかは、私にはわからない。
Re:明るい天体は運行をシミュレーションして消し込むしか無いのか (スコア:2, 参考になる)
マジレスしますね。結論から言うと、現状の測距センサでは、信号認識に使えるような高解像度な撮影はできません。
前提として、100km/hで走行している車の制動距離は120mとかですので、大体200m程度先から信号認識を行う必要があります。
この時問題となってくるのが、センサの分解能です。例として挙げていただいてるLiDARセンサとステカメの2つで考えてみましょう。
まず、LiDARセンサですが、良く使われているVelodyne社のセンサでも、分解能は0.1degなので、200m先では大体30cm程の分解能にります。https://www.argocorp.com/cam/special/Velodyne/VLS-128.html
これでは信号機が取れたとしても点群としては1点取れるか取れないかですので、ノイズかどうかが判別できません。つまりLiDARは信号認識には使えません。
次に、ステカメです。eye-sightなど一般的な車載向けのステカメのスペックを見てみると、基線長は0.2m-0.35m、解像度1920x1080、水平画角40-50deg辺りが一般的です。
基線長をより長くしたり、水平画角を狭くしたりすれば遠方をより高解像度に撮影できますが、今度は近距離が撮影できなくなるので、バランスを取ってこのくらいのスペックにしているようです。https://ja.wikipedia.org/wiki/EyeSight
このスペックでどのくらいの分解能が出せるかですが、1画素あたりが0.02度の分解能なので、200m先では大体7cm程の解像度になります。信号機のサイズは30cm程ですので、大体5画素程で撮影できるわけです。LiDARよりはマシですね。
ところが、落とし穴があります。ステカメは原理的にノイズが発生しやすいため、撮影後にmedian-filterやspeckle-filterを掛けてノイズを除去するのが一般的です。すると、5画素程度しか撮影されていない信号機は、最終的にこれらのfilterでノイズとして除去されてしまいます。
つまり、LiDARでもステカメでも現状の測距センサで200m先の信号機を、認識に使えるようなまともな分解能では撮影できません。だからテスラはそれが出来ない。そう言うことです。
測距センサの分解能の現実を知らないと、なんでもて来てしまいそうですが、実際には上手く行きません。
Re: (スコア:0)
あなたは極論ばっかり書くのね。
200m先の信号機を距離センサ単体で信号機と認識する必要はないんですよ。
カメラの視差というのも、空間的な物だけでなく時間方向もあります。
自車の走行速度に対して位置と大きさが変化しないものは非常に遠方にあると処理できます。
距離センサと画像センサの出力を総合して、対処必要な物体かどうかを判断するのが一般的です。
Re: (スコア:0)
距離センサ使えば出来るって嘯いたのはあなたじゃないですか(汗
距離センサでは無くて、走行距離と単眼カメラのoptical flowを組み合わせて距離を推定すれば、近くにあるか非常に遠方にある か判断できると言うのは、その通りだと思いますよ。
Re:明るい天体は運行をシミュレーションして消し込むしか無いのか (スコア:1)
横からだが、嬉々として長文読ませてもらって良かったと思ってるぞ俺は
で、出来るかどうかが大事なら、それを理解できるように書いてくれるんたから有難いじゃないか？
動くものを信号と解釈するのか…… (スコア:1)
走っている状態では、月は車と同じ速度で動いているように見えているはず。
にもかかわらず信号と認識するということは、AIの考える信号の定義がおかしいのではないか。
＃この辺がブラックボックスでさわれないのが深層学習AIの大きな弱点だよねぇ……。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
月だけに (スコア:0)
月のせいにすルナ
Re: (スコア:0)
月に代わっておしおきよ！
ＥＶはびこって (スコア:0)
力技悪ハック蔓延るオカン！！
日本だと予告信号とか (スコア:0)
鉄道の信号にどう反応するか興味あるな
Re:日本だと予告信号とか (スコア:1)
鉄道の信号にどう反応するか
それな。道路に並行して、柵ひとつ挟んで鉄道の線路、とかあるとヤバそう。
日本だと更に、鉄道の信号が複雑な場所もある。
［赤］［黄］［青］
だけじゃなく、
［黄］［赤］［黄］［青］
みたいなやつ。（実際には縦配置だけど）
ちなみに動作は、
［ ］［赤］［ ］［ ］ →止まれ
［黄］［ ］［黄］［ ］ →警戒してすごくゆっくり走れ
［ ］［ ］［黄］［ ］ →ゆっくり走れ
［黄］［ ］［ ］［青］ →少しゆっくり走れ
［ ］［ ］［ ］［青］ →普通に走ってOK
みたいな感じ。こんな切り替わり見たらテスラ車、発狂するんじゃね？
Re:日本だと予告信号とか (スコア:1)
これを貼っとけと言われた気がする
https://commons.wikimedia.org/wiki/File:Signal-aspect_pattern.png [wikimedia.org]
その昔 (スコア:0)
いつのまにか普通の街灯の色になってました。
月がとっても青いから (スコア:0)
青かったらどこまでも突き進んでいったのだろうか
ゴーゴーゴー
Re: (スコア:0)
遠回りして帰るんですよ。出勤時でも
Re: (スコア:0)
流石に同時点灯してたら赤の方が優先されるはず。
疑似点灯は海外でもある訳だし。
異常検出機能ないの？ (スコア:0)
ぶっちゃけ今の技術じゃ物体の誤認識なんていくらでもありえるし信用できない。
「普段」と違うパターンを検出するっていうのはよくあるAIなのにそういう機能乗せてないのかな。もちろんその機能自体も信用はできないけど、そういうのの積み重ねで信用性が生まれてくる。
なんらかの異常な事態が起きているのにそれについてアラートを出さないというのはどうかんがえてもおかしいよ。
Re: (スコア:0)
バイオコンピュータの天然知能さんがアラート上げてるやん。
システムとして考えないと。
Re: (スコア:0)
それは「正常」や「普通」が容易に定義できる時の話だろ……。
＞「普段」と違うパターンを検出する
「普段」って一体なんだよ。
「普段どおり」に無限大の可能性がある時には、全てが「普段どおり」に
含まれるので、「異常」は存在しなくなる。
Re: (スコア:0)
普通を定義せずに学習する手段があるんだよ。
AIを作る側はとにかく大量の生データを用意するだけで、そこにどんなパターンがあるかをAIに分類させる。
で、そのパターンに当てはまらないのが来たらそれを異常として出力する。
無限大の可能性を用意したら異常は存在しないけど、自動運転のデータ自体は有限だから異常は存在するんだよ。
自動運転が認識できない可能性ある異常を見つけるのが目的であって、無限の可能性の中から異常を見つけるのが目的ではない。
Re:異常検出機能ないの？ (スコア:1)
＞AIを作る側はとにかく大量の生データを用意するだけで、
おいおい。
世界中の道路に対し、霧雨から集中豪雨、台風や砂嵐、降雪や雹、濃霧などの全ての気象条件に加え、事故車両や道路工事による通行止めなどなど、あらゆる全てのパターンについて大量の生データを過不足亡く準備するのを、「データを用意するだけ」って、随分気楽に言ってくれるものだなあ。
ある程度はVRで学習させたりする話も出てきてるけど、それだけで十分ではないのは、今回の件でも分かるだろ。
Re: (スコア:0)
教師無し学習はわかるのですが、
上記だと走るか止まるかを規定できなくないですか。
「ViralHogさん」じゃない (スコア:0)
すらどさん、ViralHogはWebサイトです。
https://viralhog.com/ [viralhog.com]
吊り下げ式信号機 (スコア:0)
日本人の常識では馬鹿にされるだけだが、米国によくある（？）道路上に張ったワイヤーに吊り下げた形式の信号機と誤認識することはあってもおかしくないのかも.......
Re:月は出ているか? (スコア:1)
20XX年、黄色信号を月と誤認識して、月面の太陽発電基地で発生させたスーパーマイクロウェーブを受信するつもりでリフレクタを展開するテスラXが・・・
Re: (スコア:0)
ティファたんがいるなら車がちょっとゆっくり走るくらいの欠点くらい我慢します!
Re: (スコア:0)
要求して無いのに受電する訳ない。
Re: (スコア:0)
おい、俺が書こうとしたことを、本文も含めて、まったく同じのを先に書きやがって。
そういや、偵察機の天測航行システムのセンサーが格納庫の明かりの漏れに反応していたって話があったな。
Re: (スコア:0)
ModelX売るよ！次はDXやXXが発売かな。
Re:勝手に減速しても (スコア:1)
事故ってから「ツキがなかったですね」とか言い出したりして？