自転車の前で、自動運転車が止まった。「ちゃんと気づいて、止まってくれたんだな」と思う。次も任せて大丈夫そうだ。
ところが、その理解が間違っていたらどうだろう。
MITとMotionalの研究では、試験車の進路を決めるモデルが自転車を適切に扱わず、危険に近づいたところで別の緊急停止機能が作動していた。外から見れば同じ「停止」でも、安心していい理由は全く違う。MITの研究解説
2026年9月に発表されたCW-Netは、こうした食い違いを、人が見える形へ変える研究だ。「なぜ止まったか」を説明することは、車のおしゃべりを増やす話ではない。次に何が起きるかを、人が正しく予想するための情報を増やす話なのである。
砂漠を走り切る挑戦から、客を乗せるサービスへ
自動運転は、最近の生成AIブームから突然始まったわけではない。象徴的な節目の一つがDARPAの競技だ。2004年は砂漠のコースを完走した車がなく、翌2005年には完走車が現れた。2007年のUrban Challengeでは、合流や交差点など、交通のある環境での行動が課題になった。DARPAの記録／Urban Challenge
そこからセンサー、地図、認識、予測、制御の技術が積み重なり、実際に人を運ぶサービスへ進んだ。Waymoは2026年9月1日、デンバー、サンディエゴ、タンパで一般利用者を迎え始め、完全自動運転の乗車を提供する都市が14になったと発表している。どこでも自由に走れるという意味ではなく、定めた運行範囲でのサービスだ。Waymoの提供地域発表
一方、市販車の運転支援には、人が監視・運転責任を担うものも多い。ロボタクシー、試験車、運転支援を一括りにすると、誰が何を見ている必要があるかを取り違える。
今回のCW-Netでまず検証されたのは、運転者が同乗する試験車での理解だ。普及した全車両の機能ではない。だが、自動化が進んだ今だからこそ、「動けた」だけでなく「どう判断したか」が重要になっている。
車の中では、「見る」と「進路を決める」が分かれている
研究対象の車の仕組みを、大づかみにするとこうなる。
周囲を認識する → 通れる進路を考える → 選んだ進路に沿って車を動かす
人にたとえるなら、目で物が見えていることと、それを避ける判断ができることは別だ。車でも、認識した対象の情報が、進路判断で適切に使われる必要がある。
冒頭の自転車の場面では、認識系が捉えた自転車が、進路計画では考慮されていなかった。最後の安全機構が止めたので、試験者は初め、進路計画も正しく働いていると思ってしまった。Nature掲載論文
止まったという結果だけなら「合格」に見える。しかし、もう少し速度が違ったら。別の場所から近づいたら。結果の裏側を知らないままでは、次の場面で過信する可能性がある。
後から説明を作文するのではなく、判断の途中を読めるようにする
CW-Netの工夫は、「停止車両に近づいている」「自転車に近い」といった、人が理解できる概念を、進路計画の最後の判断へ使わせる点にある。その概念を表示するので、単に別のAIが映像を見て、もっともらしい理由を後付けする方式とは違う。
別の試験では、人は「工事用コーンのせいで止まった」と思っていた。ところがコーンを取り除いても、車は止まる。説明から見えたのは、実際にはない停止車両へ近づいていると、モデルが誤って判断していたことだった。コーンを避ける処理を直しても、この取り違えは解決しない。どこを誤認したかが分かって、初めて修正する場所を探せる。
情報が加わると、問いが具体的になる。「なんとなく怖い車だ」ではなく、「この種類の対象は計画で扱えているか」「停車車両をどう解釈したか」。エンジニアも、直す場所を絞りやすくなる。
安心させる説明より、間違いに気づける説明
同研究では、私有コースでの試験と、走行場面を使ったオンライン実験で、説明があると人が車の動きを予想しやすくなる結果が得られた。ただし、事故件数を減らしたと証明した研究ではない。
ここは期待の置き場所を間違えたくない。きれいな文章で「安全を確認しました」と言われるより、「自転車を理由には止まっていません」と分かるほうが、その場では不安になるかもしれない。それでも、実際の弱点を知れるほうが役に立つ。
説明が十分なら、試験担当者は早めに介入し、開発者は問題を再現し、修正した後に同じ場面で確かめられる。将来の利用者に見せる情報は、それとは別に、運行の役割や注意負荷に合わせて設計する必要がある。乗客へ監視責任を押し戻せばよい、という話ではない。
自分で運転できない人の自由へ、つなげたい
私は、自動運転の進歩に期待している。免許を返納した後も出かけられること。運転を担う人がいなくても、通院や買い物へ行けること。その価値は、車の中でスマートフォンを見られる便利さだけではない。
だからこそ、できているように見えることと、実際にできていることの差を埋める研究は大事だ。失敗を説明できれば、直すための会話が始まる。
「なぜ止まった？」に答えられる車は、「次はどうなる？」を、私たちと一緒に確かめられる車でもある。人を安心させる言葉より先に、安心して任せられる中身へ。その地味で大きな一歩が、今回の研究なのだと思う。
2026年9月7日確認。CW-Netの結果をWaymo等の別システムの性能へ転用していません。運転中の操作手順を案内する記事ではありません。
