テスラ車のAIが馬車を認識出来ずに混乱してしまう　見たこと無い物体に人、車、トラックと誤認 [538181134]

ダサブビル(東京都) **[ﾆﾀﾞ]** · 2022/09/24(土) 18:39:57.08

テスラの車に搭載されているAIが前方を走る馬車を認識出来ないと言う場面に遭遇した。
これはスイスのチューリッヒの高速道路を走っていた際に撮影されたAIシステムで、前方を走っていた馬車を
最初は人だと認識、その後はトラックと認識するも挙動がおかしくなり、今度は正面を向いて逆走しているトラックと認識しはじめた。

テスラの自動走行システムは8つのカメラと精密レーダーにより周囲250メートルの360度を常に監視。
危険な状態になった際は回避するように設計されている。

しかしこのシステムに搭載されているAIが馬車を認識できなかったようだ。

該当車種はテスラの「Model Y」で、おそらく馬車が登録されていなかったために起きた挙動だと推測される。

※動画あり
https://gogotsu.com/archives/68622
https://gogotsu.com/wp-content/uploads/2022/09/tesla_modelY.jpg

ラルテグラビルカリウム(埼玉県) **[US]** · 2022/09/25(日) 00:34:45.21

わからないときは「わからない」と言える子に育てないとダメだぞ

2022/09/25(日) 00:35:58.14

>>80
見たこともないもの見てみたーいなー

オセルタミビルリン(兵庫県) **[US]** · 2022/09/25(日) 00:36:07.66

冬場、ドブから出てる湯気を障害物と認識して急ブレーキかけてたスバルのアイサイトも酷かった

2022/09/25(日) 00:39:54.14

これ、災害起こって道路ぐちゃぐちゃ、瓦礫が散乱とかなってる所急いで逃げないと！の時に「エラー。道を認識できません」とかになって走らなくなるんじゃ？

リルピビリン(茸) **[US]** · 2022/09/25(日) 00:41:48.74

>>4
スイスって書いてるが？

ラルテグラビルカリウム(埼玉県) **[US]** · 2022/09/25(日) 00:43:51.20

>>107
自分で運転するべき状況

ビダラビン(日本のどこかに) **[US]** · 2022/09/25(日) 00:46:18.89

まぁこれを積み重ねれば指数関数的に進歩するから人間は不要になるわな(´・ω・｀)
あと数年でそうなるから

2022/09/25(日) 00:46:24.55

前方に人工衛星やガンダムの部品とかの巨大なパーツを詰んだトラックが走ってたらどうなるんかな

エムトリシタビン(東京都) **[US]** · 2022/09/25(日) 01:16:59.82

リヤカーは軽自動車になるんかな

ピマリシン(長屋) **[US]** · 2022/09/25(日) 01:17:09.66

だからhcaptchaで「歩いてるか走ってる馬」だの「立ってるだけの馬」を識別する問題が出るようになったのかー

エファビレンツ(神奈川県) **[JP]** · 2022/09/25(日) 01:18:33.43

うーんテスラまた1つお利口になっちゃったもんな

アデホビル(光) **[KR]** · 2022/09/25(日) 01:19:50.50

何で高速道路に馬車がいるんだよ？

エルビテグラビル(静岡県) **[US]** · 2022/09/25(日) 01:32:54.20

そもそも月を黄信号と判断して停車しようとするし、横断歩道を渡る自動は全速で跳ね飛ばすしな

ホスフェニトインナトリウム(大阪府) **[US]** · 2022/09/25(日) 01:34:54.10

認識不能って状態がないのは危険
異常を検出できないから回避も停止もできない

リルピビリン(兵庫県) **[CN]** · 2022/09/25(日) 03:37:52.19

>>99
相対速度から当たらんと判断してんだから、急停車するほうがおかしいだろ

ポドフィロトキシン(東京都) **[US]** · 2022/09/25(日) 03:38:30.38

自動運転は結局できないと思います

障害物の全くない空中の飛行機ですが6兆円かかってるからねプログラムに

ポドフィロトキシン(東京都) **[US]** · 2022/09/25(日) 03:38:44.52

障害物の全くない空の飛行機が限界かな

マラビロク(茸) **[UA]** · 2022/09/25(日) 03:59:39.44

日本でも外国からの大使の信任状捧呈式には皇居まで馬車を使うケースもあるから皇居周辺も走れないな。

ガンシクロビル(東京都) **[FR]** · 2022/09/25(日) 08:04:00.88

テスラＡＩがトレーラーの下の空間を
「行ける！」と判断して突っ込んだ事例から
少しも進歩してないじゃん

インターフェロンβ(大阪府) **[US]** · 2022/09/25(日) 08:04:52.75

全裸で高速道路を走る人間はAIには認識できるのかな

レテルモビル(京都府) **[EU]** · 2022/09/25(日) 08:05:17.61

馬車とかまた凄い盲点が来たなw

インターフェロンβ(大阪府) **[US]** · 2022/09/25(日) 08:06:05.15

>>122
ハリウッド映画でよくあるやつだからAIはそれを見たんだろな

テラプレビル(東京都) **[US]** · 2022/09/25(日) 08:18:22.12

なんらかの物体として認識してりゃ問題ないだろ。
軍事用攻撃AIじゃ無いんだし。

パリビズマブ(東京都) **[US]** · 2022/09/25(日) 08:38:53.28

>>118
相対速度見れてるなら逆走トラックなんて判定せんだろ

ソリブジン(埼玉県) **[US]** · 2022/09/25(日) 09:16:30.75

>>55
「学習させろ」派はAIに大量の血と屍を吸わせろと言ってるんでしょ
ヨーロッパがどうかは知らんが、アメリカは上級国民と底辺が住むところが分かれてるからできることだわな

ソリブジン(埼玉県) **[US]** · 2022/09/25(日) 09:17:26.40

>>10
完成までに何リットルの血液といくつの屍が必要なんだ？

ソリブジン(埼玉県) **[US]** · 2022/09/25(日) 09:19:13.06

>>127
逆走トラックがバックギアで走行してると思ったのかも

2022/09/25(日) 09:29:04.06

正面からトレーラー来てることになってて草

インターフェロンα(静岡県) **[PL]** · 2022/09/25(日) 09:32:36.15

ブレードランナーのレプリカントテスト思い出した。

「君は砂漠を歩いている。」
「テストか？」
「そうだ、砂漠を歩いている。」
「どこの?」
「どこかの砂漠にいるんだ。」
「なぜ？」
「理由は何でもかまわない、そこにカメが現われる。」
「カメだって?」
「知ってるね？」
「見たことはないが、分かったよ。」
「君はそのカメを裏返す。」
「その質問は君が作ったのか?」
「・・・。カメは足をばたつかせるが、起き上がれない。だが、君は助けない。」
「おれが？」
「助けないのはなぜか？」

発狂！！！

コビシスタット(神奈川県) **[KR]** · 2022/09/25(日) 09:36:21.48

次の車にテスラが欲しいんだけど

インターフェロンα(栃木県) **[US]** · 2022/09/25(日) 09:44:07.30

>>133
なんで？
アイオニック5かポールスター3がオススメだぞ

ダルナビルエタノール(東京都) **[US]** · 2022/09/25(日) 09:47:22.29

自律学習が出来ないんじゃAiとは呼べねぇな
馬車でこれなら狐やタヌキや鹿や熊、カルガモまで出てくる日本ではどうなるんだ？

マラビロク(東京都) **[CH]** · 2022/09/25(日) 12:43:24.07

今の車についてるオートクルーズすら使いたくねえ

ホスフェニトインナトリウム(光) **[US]** · 2022/09/25(日) 14:35:22.26

>>86
お前何言ってんの？

イノシンプラノベクス(大阪府) **[EU]** · 2022/09/25(日) 14:40:59.56

ガンダムだってAIのお陰で素人のアムロが操れて、途中からアムロの操縦技術を逆に学んでジムに繋がったんだからしゃあない

ダサブビル(大阪府) **[CA]** · 2022/09/25(日) 14:57:24.75

>>118
人体がが数十キロで移動してると認識してんだよなウケる
俺はそんなポンコツAIに命預けたいとは思わないね

ジドブジン(東京都) **[ﾆﾀﾞ]** · 2022/09/25(日) 17:23:01.28

>>138
甲高い、コロ助みたいな声でしゃべるAI・・・・

ダサブビル(茨城県) **[US]** · 2022/09/25(日) 18:35:15.55

アメリカっていまだに騎馬警察とか居るんだな

ビクテグラビルナトリウム(福岡県) **[US]** · 2022/09/25(日) 18:37:23.43

知らんものを認識できんのはしょうがないな
人間でも同じやろ

レムデシビル(東京都) **[US]** · 2022/09/25(日) 18:38:03.27

いつまでも知らないままのテスラのAI

エトラビリン(東京都) **[US]** · 2022/09/25(日) 18:40:43.79

スイスでは高速道路で馬車が走っているということに驚愕

バロキサビルマルボキシル(京都府) **[US]** · 2022/09/25(日) 18:41:14.08

AI「なんなのだこれは！どうすればいいのだ！？」

かわいい

テノホビル(東京都) **[US]** · 2022/09/25(日) 19:01:56.87

所詮分類しか出来んのよAIは。知らんもんは知らん。
まあ人間もそうだけど。

インターフェロンβ(ジパング) **[US]** · 2022/09/25(日) 19:22:01.02

EV
自動運転
宇宙エレベーター
メタンハイドレート
小豆先物取引

アタザナビル(栃木県) **[ﾇｺ]** · 2022/09/25(日) 20:21:48.95

女並みに馬鹿なAIだな

アタザナビル(栃木県) **[ﾇｺ]** · 2022/09/25(日) 20:24:23.05

絵描いてあるトラックとかどうなるんだ

アタザナビル(東京都) **[ﾆﾀﾞ]** · 2022/09/25(日) 20:59:20.23

AIとか馬車とか、ドラクエ4発売前の情報を思い出す

リトナビル(長屋) **[US]** · 2022/09/25(日) 21:39:48.69

リアカーを引く腰の曲がった老人
一輪車を押す小学生
戦車道路を走行する90式

インターフェロンβ(静岡県) **[PL]** · 2022/09/26(月) 11:52:40.60

>>149
自動車専用道路を横切るトレーラーにノーブレーキで突進した事故や停車中のトレーラーに突っ込んだ事故が40件ほどある（今んとこ死者10名）。
https://s.response.jp/article/2017/06/22/296446.html
事故は自動運転モードで走行中、大型トレーラーがモデルSの前方を横切る形で起きた。テスラによると、日差しが強かったために、ドライバーも自動運転機能も白い色のトレーラーを認識できず、ブレーキが作動しないまま、トレーラーの下に潜り込む形で衝突したという。

https://gigazine.net/news/20220713-tesla-crash-into-semi/
NHTSAはすでに、オートパイロットを含む運転支援システムの使用が疑われるテスラ車に関する特別事故調査を36件開始しており、フロリダ州の事故は37件目にあたります。

インターフェロンβ(静岡県) **[PL]** · 2022/09/26(月) 11:55:44.41

>>149
だそうだw
https://president.jp/articles/amp/50728?page=1
2016年以降にオートパイロット稼働中のテスラ車が少なくとも30件の衝突事故を起こし、10人が死亡している。

テスラのCEOのイーロン・マスクは、度重なる衝突事故が発生しているにもかかわらず、オートパイロット稼働中に起きた事故に対し、一度も謝罪していない。

「自動運転」と聞くと完璧なものを期待してしまうが、イーロンは「自動運転は、ある種の確率の問題だ」と主張する。人々は自動運転に完璧を期待するのではなく、「人の運転より安全かどうかで考えなくてはいけないんだ」というイーロンの指摘は現実的だ。

2022/09/26(月) 16:01:27.24

こんなんでAIって言って良いのか？

テスラ車のAIが馬車を認識出来ずに混乱してしまう 見たこと無い物体に人、車、トラックと誤認 [538181134]

テスラ車のAIが馬車を認識出来ずに混乱してしまう　見たこと無い物体に人、車、トラックと誤認 [538181134]