テスラのModel 3のシステム、前走トラックが運搬中の信号機を認識してしまう 101
ストーリー by nagazou
こんなバグ潰しきれない気が 部門より
こんなバグ潰しきれない気が 部門より
米国でテスラ（Tesla）製の電気自動車「Model 3」で走行中、ナビゲーションシステムが前走するトラックの荷台に積載されていた信号機を、一般的な固定された信号機して認識。その結果、トラックの荷台から信号機が飛んでくるかのような面白グラフィックがシステム上に表示されたとして話題になっている（reddit、Sascha氏のツイート、Togetter）。
redditに投稿された内容によれば、高速道路を130kmで走行中にこの現象は起きたそうだ。元の映像を見ると、トラックには3台の信号機が積載されており、この3台が少しタイミングがズレて自車両に飛んでくる様子はまるでシューティングゲームのよう。国内でもこの映像は話題となっており、Takesenさんはツイートで、
「信号は固定されてるもの」っていう前提で画像認識するとこういう現象になるんですね。これ以外にも、電車やエレベーターなど移動する空間の認識って大変。画像と慣性情報の組み合わせでやってても、こういうExtremeな例外まで想定するのは困難。でも自動運転とかだとやっていくんだろうな。
とコメントしている。
関連リンク (スコア:5, おもしろおかしい)
自動車の車載カメラ、「天下一品」の看板を進入禁止の標識と誤認識 [srad.jp]
が入っていると思ったのに
5年後のルパン三世の次回作で (スコア:3, おもしろおかしい)
フィアットから、赤信号がにょきって出てきて、後ろの敵車が止まるシーンまで見えた。
Re:5年後のルパン三世の次回作で (スコア:1)
そっちのほうが面白そう
Re:5年後のルパン三世の次回作で (スコア:1)
w
型が古いのかも
これをなんの問題もなく処理できるって (スコア:2, 興味深い)
人間てすごいんだな
Re:これをなんの問題もなく処理できるって (スコア:2, 興味深い)
そういえば、自動運転車って、手信号も処理出来るんでしょうか。
事故起きた時とか、停電とかで信号使えない時に、ちゃんと警察官の手信号見て、運転出来るんでしょうか。
Re: (スコア:0)
その前に工事中の時とかの警備員の合図にきちんと反応できるのかな。
警備員によっては（人間から見ても）わかりにくい合図する人がいるのに。
Re: (スコア:0)
工事による片側交互規制の際の、旗による通行／停止指示方法って
何かの法規で決まってるんですかね？
白旗進行・赤旗停止を原則として、振り方とかは割とノリでやってる気がしなくもない
Re:これをなんの問題もなく処理できるって (スコア:2, 参考になる)
国家資格(交通誘導警備業務)を持ってれば統一されてる模様。
https://ai-iro-jp.blue/2018/09/23/post-4113/ [ai-iro-jp.blue]
Re: (スコア:0)
従う義務があって現場の標識に優先する警察官や交通巡視員の指示か、ただの親切であってうっかり一時停止などを怠って勧められるままに行ったら違反を取られるガードマンの合図か、制服で精度よく見分けることはできるんだろうか？
Re: (スコア:0)
手書き認識と同じくらいの難易度じゃないかな
手書きだって汚すぎる字が読めないのは知ったこっちゃない
Re: (スコア:0)
自動運転でも想定さえしてれば何も難しくないけど、人間の側は汎用的な物理モデル構築と推論を行ってるからロバストだね。
Re:これをなんの問題もなく処理できるって (スコア:3, すばらしい洞察)
こういう文法的に問題の有るよくわらん文をファジーに理解できるってすごいよね
Re: (スコア:0)
これは文法が間違ってるというより日本語の思考形態に従ってないと言った方が近そう
Re: (スコア:0)
スカイラインのテールランプとかは誤認識しないんですね。
Re: (スコア:0)
ん－すごいことなんだけど、人間が行っている処理は「徹底的」に「必要でない」と「感じたもの」は「視界に入っても」
「無視する事」なんです。
こんぴーたが未だにご認識するのは、全てを「認識」しようとした結果です
Re: (スコア:0)
2度見はするなこれ
一旦車間距離開けるとか妥当な判断だと思う
Re: (スコア:0)
前方を走行する車の荷台にこっち向いた信号機が乗ってても多分まともな人はにどみしない。
Re: (スコア:0, すばらしい洞察)
Re:これをなんの問題もなく処理できるって (スコア:2, すばらしい洞察)
点灯してないし、走行してるトラックに突っ込むとか、車間まず開けなさい。
なんか…… (スコア:2)
この手のモノと人間サマの違いは「一見、その目的(この場合は車の運転)と関係ない事をどれだけ経験して、その『一見、関係ない経験』と『この場合であれば車の運転』とを結び付けられるか??」のような気がしてきた。
Re: (スコア:0)
(運転）業務の整理と明文化ができてないからこうなるのですよ(棒読み)
Re: (スコア:0)
(運転）業務の整理と明文化ができてないからこうなるのですよ(棒読み)
人間の活動全般、明文化なんて無理だろ。
「人混みの中を歩く」とか「メシを食う」とか、そのレベルの日常行為ですら、明文化できるとでも？
Re: (スコア:0)
自動運転というものの、現在は極めて単純化されたモデルに対して、
何も考えずに観測結果を当てはめて、「もしこのモデルの通りだったら
こうなるはず」という計算をする程度のものだからな。
そのモデルが間違ってる場合もあって当然なわけだけど、そうなった
時のことは何も考えずに、当たって砕けるのみ。
石橋を叩いて渡る必用はなくても、壊れそうな橋なら叩いて
みるくらいの用心深さは欲しいもんだよ。
Re:なんか…… (スコア:1)
古来よりその「考える」という言葉の定義こそ人工知能研究いや哲学全体の聖杯な訳で
Re: (スコア:0)
神殿の外に持ち出すとダメ
信号機側でビーコン出すべきだな (スコア:2)
そもそも人間様に搭載されている光学センサ向けの標識や信号で判別しようってのが間違いの元なんじゃないか。それじゃなかなか人間越えられないし、人間並みに事故も起こす。それじゃあだめだろう。
自動運転のための電波ビーコン的な電子機器に優しい検出方式を全世界で標準化して、高速道路とか大都市とかの重要ポイントから順に交通標識を置き換えていく必要があろう。というか、車の側でも何らかの信号出して「次の角で右に曲がる」みたいな情報を周囲の道路標識ハブやら走行車とやりとりして全体最適な運転をする、みたいなのをまず目指すべき。
別にカメラ映像からの自動認識がなくても良いとは言わないが、機械が判断して機械が操作するなら機械マターなやり方でまず始めるべきだ。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:信号機側でビーコン出すべきだな (スコア:2)
全世界で標準化しちゃうと偽物による妨害が出てくるわけで。
自動運転は最新の道路情報をダウンロードしていない地域ではアクティブにできないって方法の方がマシ。最新を確認する仕組みが問題になりそうではあるが。
Re:信号機側でビーコン出すべきだな (スコア:1)
// 信号の設置者は都道府県警なので
Re:信号機側でビーコン出すべきだな (スコア:1)
自動運転車の一群にクラシックカーが紛れ込んだら……
Re: (スコア:0)
で、その電波ビーコンや検知装置がぶっ壊れて交差点を「何も無い直線」と
認識した自動運転車の大群が続々突っ込んで事故を続発する所までがテンプレ
何なら「カメラで見てりゃ分かるのにバカだろちゃんと実装しろ」
って批判が殺到する所までテンプレ
そんでその電子的な手段を盛りに盛った自動運転が何十年経っても一向に進まないから
インフラ対応を必要としないカメラやレーダーやAIによる自動運転が始まって一気に進んだ訳
そんで更にじゃあカメラやAIと電子的な通信を組み合わせたら最強じゃね? って思うだろうけど
電子的な方式からのロールバックでデグレ起こす事は許されないから結局存在意義が無い状態
金も掛かるしね
Re:信号機側でビーコン出すべきだな (スコア:1)
信号機の認識でトラブル起こしてるようじゃ「きちんと走行する」なんて夢のまた夢だろうと思うのだけどその辺りどう考えてますか？
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:信号機側でビーコン出すべきだな (スコア:1)
知ってるからこそ、そっちに注力して進めるべきだろうという話なんだが……。
実際問題として、Woven City計画 [srad.jp]とか発表されてるわけで、構想だけだった段階はそろそろ終わって具体的な実証実験に着手しつつある。
そして、テスラは米国家運輸安全委員会、レーダー非搭載になった北米向けTesla Model 3/Yを安全性技術非搭載扱いにする [srad.jp]なんてことになってる。
この状況で「車をまともに走れるようにするのが先」ってのはさすがに首をかしげざるを得ない。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
これは自動運転システム自身のの認識じゃないのでは (スコア:2)
運転システムがこの通り認識してたらブレーキ踏むだろうさすがに
「点灯していない信号」がある、と言うのが認識システムから出てきて、
表示システムが「信号なら動かないから車速からしてこうだろう」って推測表示する、それがあってないからこうなるんじゃないかね
こう言う表示上の最適化がなくデータそのままだと出たり消えたり振動したりしそうだし
表示上の問題だけじゃないのかな
Re: (スコア:0)
はっはっは。面白い冗談だな。これはテスラの話だぞ？何を期待しているんだ。
対処不要なオブジェクトと認識していたら信号なんてタグつけて表示システムに送ったりはしないし、
瞬間的に3つ以上見えてるからIDが3つ以上発行されてるし、正確にトラッキングできてる可能性は低いよ。
普通なら人命に関わる自動システムが状況認識に失敗したり自動化対象外の状況を認識したら、
安全側に倒して自動処理を止めるのが常識だが、テスラやウーバーは安全側には倒さないんだよ。
レトロゲームの3D版っぽい (スコア:1)
信号取ると点数上がる的な
Re:レトロゲームの3D版っぽい (スコア:1)
スペースハリアーで撃たれた敵が落ちていく様子を思い出しました。
これは信号機屋が杜撰 (スコア:1)
発注した警察かも知らんけど。
日本だったら黄色いカバーかけて置かれるんじゃないのかなあと。
畳み込みニューラルネットワークの欠点なのか？ (スコア:1)
畳み込みで画像から特徴だけ切り出すから、それの位置は重要じゃないっていうけど、それがこれか？
Re:畳み込みニューラルネットワークの欠点なのか？ (スコア:1)
理念的には位置使わないことになってるけど、畳み込みでも実は端からの位置を暗黙に学習して使ってたことが最近分かった。
https://arxiv.org/abs/2001.08248 [arxiv.org]
驚くことは無い (スコア:0)
そう、先進的なAIテクノロジーを手に入れたテスラなら幽霊さえも視える。
テスラを買ってゴーストハントに行こう!!
http://www.kotaro269.com/articles/62505.html [kotaro269.com]
Re: (スコア:0)
驚くのは画像が白黒に見えることだな。
停電 (スコア:0)
走行中
荷台の信号機は当然だが消灯してる
それを固定の信号機として認識したまま走行
これらを踏まえて、停電時に消灯してる固定の信号機に遭遇したら、どんな挙動をするか興味ある
人間なら徐行するけど自動運転なら？
Re:停電 (スコア:1)
信号機滅灯時の通行方法、ちょっと調べてみたけど県警によってまちまちだね…。
一時停止または徐行して侵入し、安全に注意しながら通れ、ってのがほとんだけど、静岡県警だと安全な速度と方法で通行しろとぶん投げたうえで、優先道路と左方優先を説いてる…。
まぁ統一したルールは無いっぽい。
自動運転でどうなるかだけど、位置情報と地図を利用してるから信号機がある交差点は分かる。
そこが滅灯してたり、信号機が検出できなかったら異常と判断されると思うので、少なくとも徐行はするかな。周囲の車が居たらそれに追従するかもしれない。
でも、そもそもで言うならルールを決めなきゃだめな気がする…。
最悪、デッドロック発生して一切動かなくなるよｗ
#そこそこ広めな交差点なら、ラウンドアバウトモードに移行とかあっても良いかもしれない。
Re: (スコア:0)
ルールは決まってる。
交通整理が行なわれていない交差点、警察官の交通整理や信号のない交差点の通り方を説明してるだけ。
Re: (スコア:0)
道交法で従う義務があるのは「信号機の表示する信号」ですので、消灯した信号機があってもそこは初めから信号機が存在しない場所と同じ扱いだったはずです。
ですから、一般例について法的義務のないことを警察があらかじめ命じるようなことにならないよう抑制的な書き方をしようとすれば静岡県警の書き方が正しいんだろうなと思います。
そういえば、供用前の新設の信号機にカバーをかけず注意書きも無く消灯したまま放置してるのを見たこともありました。これも、もし消灯した信号機に特別な扱いが有るなら面倒なことになりますね。
Re: (スコア:0)
「自動運転車は消灯している信号機を尊重して一時停止すべきか、無視すべきか」
という議論において社会がどういうコンセンサスを出すかによる
仮に圧倒的多数が「むしろ見つけたら全力で突っ込んで行くべき」と決定したらそうなる
見込み処理のエラー (スコア:0)
画像認識部分で信号機を検知する。
その信号機を新規オブジェクトとして管理登録。
走行データとオブジェクトデータをリンクさせ”見込み処理”で移動させる。
信号機は走行中は移動する筈だと処理するから信号機が大量に出てくるようになっちゃったんだと思う。
信号機も移動する事はあると例外処理すれば対処可能だけど、弊害が無いなら放置だね。
似たもの探ししかできない人工無脳 (スコア:0)
結局認識した物体がどう言う意味を持つ状態にあるか、それを理解できないうちは自動運転なんて信用できない
Re: (スコア:0)
それは現在の人口知能技術を理解していません。
特定の物体を認識を指示するのも人間だし、その認識した物体の意味を与えるのも人間です。
もし自分で考えろ的な指示しか出せないなら現在の人口知能技術でも何もできません。