本文經(jīng)自動(dòng)駕駛之心公眾號(hào)授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)聯(lián)系出處。

Update: 增加了一個(gè)新的例子，自動(dòng)駕駛配送車(chē)駛?cè)胄缕炙嗟?/strong>

萬(wàn)眾矚目之下，今天GPT4終于推送了vision相關(guān)的功能。今天下午抓緊和小伙伴一起測(cè)試了一下GPT對(duì)于圖像感知的能力，雖有預(yù)期，但是還是大大震驚了我們。TL;DR 就是我認(rèn)為自動(dòng)駕駛中和語(yǔ)義相關(guān)的問(wèn)題應(yīng)該大模型都已經(jīng)解決得很好了，但是大模型的可信性和空間感知能力方面仍然不盡如人意。解決一些所謂和效率相關(guān)的corner case應(yīng)該是綽綽有余，但是想完全依賴(lài)大模型去獨(dú)立完成駕駛保證安全性仍然十分遙遠(yuǎn)。

1 Example1: 路上出現(xiàn)了一些未知障礙物

GPT4的描述

準(zhǔn)確的部分：檢測(cè)到了3輛卡車(chē)，前車(chē)車(chē)牌號(hào)基本正確（有漢字就忽略吧），天氣和環(huán)境正確，在沒(méi)有提示的情況下準(zhǔn)確識(shí)別到了前方的未知障礙物

不準(zhǔn)確的部分：第三輛卡車(chē)的位置左右不分，第二輛卡車(chē)頭頂?shù)奈淖窒共铝艘粋€(gè)（因?yàn)榉直媛什蛔悖浚?/p>

這還不夠，我們繼續(xù)給一點(diǎn)提示，去問(wèn)這個(gè)物體是什么，是不是可以壓過(guò)去。

Impressive！類(lèi)似的場(chǎng)景測(cè)試了多個(gè)，對(duì)于未知障礙物的表現(xiàn)可以說(shuō)非常驚人了。

2 Example2: 路面積水的理解

沒(méi)有提示能自動(dòng)識(shí)別到標(biāo)牌這個(gè)應(yīng)該是基操了，我們繼續(xù)給一些hint

再次被震驚了。。。能自動(dòng)講出來(lái)卡車(chē)背后的霧氣，也主動(dòng)提到了水坑，但是再一次把方向說(shuō)成了左側(cè)。。。感覺(jué)這里可能需要一些prompt engineering能更好的讓GPT輸出位置和方向。

3 Example3：有車(chē)輛掉頭時(shí)直接撞上了護(hù)欄

第一幀輸入進(jìn)去，因?yàn)闆](méi)有時(shí)序信息，只是將右側(cè)的卡車(chē)當(dāng)做是停靠的了。于是再來(lái)一幀：

已經(jīng)可以自動(dòng)講出，這兩撞破了護(hù)欄，懸停在公路邊緣，太棒了。。。但是反而看上去更容易的道路標(biāo)志出現(xiàn)了錯(cuò)誤。。。只能說(shuō)，這很大模型了，它永遠(yuǎn)能震驚你也永遠(yuǎn)不知道什么時(shí)候能蠢哭你。。。再來(lái)一幀：

這次，直接講到了路面上的碎片，再次贊嘆。。。只不過(guò)有一次把路上的箭頭說(shuō)錯(cuò)了。。。總體而言，這個(gè)場(chǎng)景中需要特別關(guān)注的信息都有覆蓋，道路標(biāo)志這種問(wèn)題，瑕不掩瑜吧

4 Example4: 來(lái)一個(gè)搞笑的

只能說(shuō)非常到位了，相比之下之前看上去無(wú)比困難的“有個(gè)人沖著你揮了揮手”這樣的case就像小兒科一樣，語(yǔ)義上的corner case可解。

5 Example5 來(lái)一個(gè)名場(chǎng)面。。。配送車(chē)誤入新修路

開(kāi)始比較保守，并沒(méi)有直接猜測(cè)原因，給了多種猜測(cè)，這個(gè)也倒是符合alignment的目標(biāo)。使用CoT之后問(wèn)題發(fā)現(xiàn)問(wèn)題是在于并不了解這輛車(chē)是個(gè)自動(dòng)駕駛車(chē)輛，故通過(guò)prompt給出這個(gè)信息能給出比較準(zhǔn)確的信息。最后通過(guò)一堆prompt，能夠輸出新鋪設(shè)瀝青，不適合駕駛這樣的結(jié)論。最終結(jié)果來(lái)說(shuō)還是OK，但是過(guò)程比較曲折，需要比較多的prompt engineering，要好好設(shè)計(jì)。這個(gè)原因可能也是因?yàn)椴皇堑谝灰暯堑膱D片，只能通過(guò)第三視角去推測(cè)。所以這個(gè)例子并不十分精確。

6 總結(jié)

快速的一些嘗試已經(jīng)完全證明了GPT4V的強(qiáng)大與泛化性能，適當(dāng)?shù)膒rompt應(yīng)當(dāng)可以完全發(fā)揮出GPT4V的實(shí)力。解決語(yǔ)義上的corner case應(yīng)該非常可期，但幻覺(jué)的問(wèn)題會(huì)仍然困擾著一些和安全相關(guān)場(chǎng)景中的應(yīng)用。非常exciting，個(gè)人認(rèn)為合理使用這樣的大模型可以大大加快L4乃至L5自動(dòng)駕駛的發(fā)展，然而是否LLM一定是要直接開(kāi)車(chē)？尤其是端到端開(kāi)車(chē)，仍然是一個(gè)值得商榷的問(wèn)題。最近也有很多思考，找時(shí)間再來(lái)寫(xiě)個(gè)文章和大家聊聊~

原文鏈接：https://mp.weixin.qq.com/s/RtEek6HadErxXLSdtsMWHQ