ITエンジニアに必要な今を知れる情報メディア
日本でいよいよ始まるレベル3自動運転--一方、AIの限界で起きている事故も
trend

日本でいよいよ始まるレベル3自動運転--一方、AIの限界で起きている事故も

レベル3の自動運転開始へ、日本は自動運転に積極的に取り組んでいる国のひとつに

日本でも自動運転がいよいよ始まる。改正道路交通法の自動運転関連の規定が今年5月までに施行され、この中でレベル3の自動運転が認められている。また、夏頃からレベル3自動運転機能を備えた乗用車も各メーカーから発売されていく。

レベル3自動運転とは、一定の条件下での自動運転を認めるもの。ただし、運転手はいつでも操縦に介入できるようにしておく必要がある。高速道路などの走行車線を一定速度で走る限り、運転を車任せにして、運転手は操作をする必要はない。追い越しもやってくれる。ただし、いつでも介入できるように、前方を注視しておく必要があり、車任せだからといって眠ったりするのは厳禁だ。

また、万が一事故が起きた場合の責任は、運転手が負う。運転を車に任せるのも、運転手の判断によるものなので、すべては運転手の責任において利用するものという考え方だ。

レベル3の自動運転を公道で認めている国は少なく、日本は自動運転分野では、積極的に取り組んでいる国のひとつになる。

レベル4、レベル5に進むには大きなハードル

しかし、そこから先のレベル4(一定条件下で自動運転。人間の介入不要)、レベル5(完全自動運転。人間の運転手不要=ドライバーレス)に進むには大きなハードルがある。人工知能(AI)が、突発的な事態にも対応しなければならなくなるからだ。

トロリー問題(トロッコ問題)を挙げて、実現は不可能だと主張する人もいる。トロリー問題とは、市電が暴走をして、線路にいる複数人の人が轢かれて死亡することが確実な時に、線路の分岐を切り換えるかどうかという問題だ。ただし、分岐を切り替えると、そこには1人の人がいて、その人が死亡してしまう。つまり、多くの人を救うために少数の命を犠牲にすべきなのか、あるいはどちらにしても犠牲が生じるのであれば何もせずに自然に任せるのかという問題だ。合理的に考えると、1人を犠牲にして、5人を助けるということになるが、その犠牲の1人にしてみればそんな理不尽な話はない。

このような判断は人間にも難しく、人工知能(AI)にも判断ができない。あるいは人工知能(AI)の判断を人間は感情的に受け入れることができない。だから、完全自動運転は不可能だという主張だ。

「人間と人工知能(AI)の理解の違い」が原因でさまざまな事故

それ以前に、人工知能(AI)は人間の感情や行動を理解できないかもしれない。自動運転は各国で公道試験が行われているが、同時にさまざまな事故も起きている。そのいずれもが、「人間と人工知能(AI)の理解の違い」が原因になっている。

最初の有名な自動運転車の事故は、2016年2月14日に、グーグル(現ウェイモー)の自動運転車が起こしたバスとの接触事故だ。

自動運転車は、次の交差点で右折をするために、右車線に車線変更をしたが、その車線に土嚢が置かれているのを発見した。障害物を発見した自動運転車はいったん左車線に車線変更し、障害物を避けて、再び右車線に戻るプランを立て、実行に移した。しかし、左車線には車が流れている。自動運転車は数台の車をやり過ごして、車が途切れたため、車線変更を開始。そこに後ろから走ってきたバスと接触をした。自動運転車の速度は時速3km、バスは時速24kmでの衝突だった。

車線変更時の後方確認を怠った時に起こる、よくあるパターンの事故だ。しかし、監視員はバックミラーで後方を確認し、問題がないとして、手動運転に切り替える必要を感じなかったと証言をしている。

では、なぜ接触事故を起こしてしまったのだろうか。カリフォルニア州自動車局(DMV)の事故報告書がネットに公開されている。記述が短すぎて、詳細まではわからないが、気になるのは、接触は自動運転車が車線変更を開始して3秒後のことだったということだ。自動車を運転している時の3秒というのはかなり長い時間だ。後方確認をしてなく、車線変更事故を起こしたのだったら、普通は車線変更をした途端に接触する。3秒もあれば、アクセルをしっかり踏み込んで、強引に車線変更をしてしまえば、バスの運転手には迷惑であっても、事故は起きなかったのではないだろうか。バスは時速24kmで衝突をしているので、単純計算で衝突3秒前には20m後方にいたことになる。微妙な距離だ。





(カリフォルニア州自動車局の事故報告書。簡単な記述しかないので、詳細はわからないが、「車線変更の3秒後に衝突」というのが気になる。実際の運転環境では、3秒はかなり長い時間になる)

人間なら誰もが無意識に行う微妙な意思表示、人工知能(AI)に理解不能の可能性

ここからはまったく個人的な推測だ。バスの運転手は、前方に車線変更をしたがっている自動運転車を発見した。このような時に、譲るか自分が先にいくかの判断は難しい。往々にして譲らない場合は、速度をあげることでその意思表示をする。あるいは軽くクラクションを鳴らす場合もある。

一方で、自動運転車は後方を確認して、ゆっくりと走るバスの速度と距離を測定し、バスが一定の速度で走行してくるのであれば、3秒で安全に車線変更ができると判断をした。

速度を上げて自分が先に行く意思表示をしたバスは、自動運転車が車線変更をあきらめるだろうと予想していた。しかし、時速3kmという遅い速度で車線に侵入してこようとしている。バスの運転手はブレーキを踏んだが、間に合わず、接触してしまった。

これは個人的な推測なので、本当にこの通りであるかどうかはわからない。関係者もメディアに露出して取材に応えることをしていないので、真実は当事者しかわからない。しかし、かなりありえる推測のひとつではないかと思う。

もし、この推測が正しいのだとすると、人工知能(AI)は、人間が路上で行う微妙な意思表示を理解していないということになる。

このような微妙な意思表示は、誰もが無意識に行なっている。例えば、左車線に車線変更をする時は、速度が落ち、左側に妙に寄ってしまう。後方の車は、その挙動を見て、「この人は車線変更するのではないか」と予測をしている。さまざまな事故して運転をしている。

2018年3月18日には、ウーバーの自動運転車が、路上を横断しようとしていた歩行者をはねて死亡事故を起こした。

自動運転車が時速70kmで走行中、左側から自転車を押した女性が道路を横断しようとした。自動運転車はブレーキを踏むことなく、その女性をはねてしまった。はねた時の速度は時速64kmだったという。

自動運転車が時速70kmで走行中、左側から自転車を押した女性が道路を横断しようとした。自動運転車はブレーキを踏むことなく、その女性をはねてしまった。はねた時の速度は時速64kmだったという。



(ウーバーが起こした事故の車載映像。副次的な要因はいろいろあるが、自転車を押した女性を、未知の障害物としか認識できなかったのが主要因だ。YouTubeより)

米運輸安全委員会(NTSB)の中間報告書によると、自動運転システムは、衝突6秒前にこの女性を認識していたが、歩行者ではなく、未知の障害物と認識をしてしまった。自転車を押しているため、画像解析からは人間だとは判断できなかったのだと思われる。もし、乗り物や歩行者と認識をしていれば、移動予測を行い、衝突を回避できたはずだった。

人間であれば、自転車を押している女性を「自転車を押している女性」として認識しただろう。しかし、人工知能(AI)は、画像解析からその不思議な形の物体を障害物と判断してしまった。



(ウーバーの事故の俯瞰図。当初は未知の障害物としか認識ができず、女性が横断を始めてから自転車だと認識した。しかし、その時にはもはやブレーキをかけても衝突を解することが難しい状態になっていた。米運輸安全委員会の中間報告書より引用)

ルールに厳格で技術力もある日本は"世界で最初に完全自動運転車が走る国"目指せ

報告書には、緊急ブレーキがオフになっていた、監視員がスマホで動画を見ていて前方を見ていなかったなどの問題も指摘されているが、それは副次的な原因で、主原因は「自転車を押している女性」を人間だとも自転車だとも判断できず、未知の障害物としか認識できなかったことだ。

アジア圏の下町に行くと、不思議な形状のバイクや三輪車などが普通に走っている。過積載にもほどがある例や、バイクや自転車の2人乗りではなく、3人乗り、4人乗りをしている例もある。交通ルールを守らないと言えばその通りだが、人間同士の世界ではそれで譲り合って、なんとか秩序を保っている。







(アジア圏の下町には、摩訶不思議な乗り物が走っている。人間同士であれば、互いに譲り合って、なんとなくうまくやっているが、人工知能(AI)はこれを何と判断するだろうか。うまく学習する方法はあるのだろうか)

しかし、そこに人工知能(AI)が入ってくるとそうはいかない。彼は学習したことしか理解できない真面目すぎる性格なので、理解ができないのだ。学習を進めればいいのかもしれないが、今度は過学習の弊害が出て、他のところに別の問題が生じるかもしれない。

乗り物だけでなく、交通標識や車線マークなどの道路環境も、意外とローカルルールが多く、標準化されていない。地方道になるほど独特のローカルルールが増え、私道になればもはや標準化された一般道とは大きく環境が異なっている。

レベル4(特定条件下での自動運転)の実用化はじゅうぶんにイメージできる(高速道路など)が、レベル5の完全自動運転までの道のりは遠い。人工知能(AI)テクノロジーがさらに2つも3つもブレイクスルーを経る必要があるし、人間や道路環境も標準化されなければならない。

それを考えると、ルールを厳格に守り、技術力もある日本は、この分野で世界の最先端を走れるかもしれない。「世界で最初に完全自動運転車が走る国」を目指してもいいのではないかと思う。

原稿:牧野武文(まきの・たけふみ)

テクノロジーと生活の関係を考えるITジャーナリスト。著書に「Macの知恵の実」「ゼロからわかるインドの数学」「Googleの正体」「論語なう」「街角スローガンから見た中国人民の常識」「レトロハッカーズ」「横井軍平伝」など。

この記事はどうでしたか?

おすすめの記事

エンジニア向け求人特集

BACK TO TOP ∧

FOLLOW