自動運転車に要求される安全性の程度とは？

今回は、自動運転車に要求される安全性の程度について考えてみたいと思います。

この点に関して国土交通省は、2018年9月に発表した「自動運転車の安全技術ガイドライン」において、「自動運転車は，それぞれのレベルに応じた走行条件下において、人間のみが運転する場合よりも高度な認知、判断及び操作を行い、ヒューマンエラーに起因する事故が削減されるものでなければならない」という考え方を示しています。

この「システムの性能がドライバーの能力を上まわるべき」という方針は、非常に全うな方針だと思います。

どうやって判断するのか？

ただ、問題はシステムの性能が人間のドライバーの能力を超えたかどうかということを、どうやって判断していくのかということです。

よく挙げられる安全性の指標のひとつは、「どれくらいの走行距離で何件の交通事故が起きるか」というものです。

仮に、この指標に従ってシステムの性能と人間のドライバーの能力を比較すればいいのであれば、話は比較的簡単です。

システムと人間の得意分野・不得意分野の凸凹

しかし、問題はそんなに簡単ではありません。

一番難しい問題は、システムの得意分野・不得意分野と人間の得意分野・苦手分野には凸凹があり、その凸凹が重ならないということです。

運転という作業は、「認知、予測、判断、操作」の４つの要素に分けられます（図１）。

もう少し細分化すると、「認知」は「検知」と狭い意味での「認知」に分けられます。

自動走行システムの得意分野は、「検知」と「操作」です（図２）。

「検知」とは人間でいうと目で見る作用、自動走行システムでいうとセンサーによる作用です。

カメラは人の目より遠くまで見え、赤外線、レーダー、ライダーは人間の目では見えない状態でも見えます。

また、「操作」についても、自動走行システムはブレーキとアクセルの踏み間違い等もなく素早く反応できます。

これに対し、人間の得意分野は「認知」「予測」「判断」です（図３）。

運転という作業を行うには、目やセンサーで「見えた」だけでは意味がなく、見えたものが何なのかを判別すること、つまり「認知」が必要です。

「見えた」ものが人なのか、人の形をした看板なのかというようなことを判別する「認知」は、システムより人のほうが得意です。

また、「予測・判断」、例えば「公園からボールが転がってきたから、子供が飛び出してくるかもしれないから気を付けよう」というような「予測」「判断」も、システムより人のほうが得意です。

このように、システムの得意分野・苦手分野と人間の得意分野・苦手分野には、凸凹があり、その凸凹が重ならないという問題があります。

事故率と「人だったら回避できたのに、システムだから回避できなかった事故」

将来技術がどんどん洗練されていくと、統計的に、事故率において、システムによる事故率が人による事故率を大幅に下まわるようになっていくことが期待されます。

しかし、システムの事故率が人の事故率を大幅に下まわるようなときがきても、それでも「人だったら簡単に回避できたのに、システムだから回避できなかった事故」が一定数は残るということが想定されます。

このような問題は、人工知能が意味を理解するという質的な技術発展が起きるまで残ると思われます。

このように、「システムによる事故率が人による事故率を大幅に下まわっている」にもかかわらず、「人だったら簡単に回避できたのにシステムだったから回避できなかった事故」が起きたとき、その自動走行システムはあるべき安全性を備えていなかったと評価するべきなのか、メーカー関係者の責任が問われるべきなのかという問題に直面することになります。