本文經(jīng)AI新媒體量子位（公眾號(hào)ID:QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)聯(lián)系出處。

自動(dòng)駕駛算法，在這場(chǎng)比賽中成了實(shí)驗(yàn)品：

24小時(shí)內(nèi)，不僅要在特定的場(chǎng)景中，讓它被攻破；還要在競(jìng)速情況下盡力優(yōu)化它，讓車(chē)跑得更快。

如果這兩個(gè)方向均能脫穎而出，就能奪得第一名。

這是全球首個(gè)自動(dòng)駕駛CTF （Capture The Flag，意為奪旗賽，一種網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)競(jìng)技）的比賽方式，參賽者是來(lái)自各地的知名CTF戰(zhàn)隊(duì)。

在9月26~27號(hào)的24小時(shí)里，加州大學(xué)爾灣分校（UCI）的小隊(duì)ASGuard脫穎而出，以745分的成績(jī)一舉奪魁。

一起來(lái)看看， 比賽中都有哪些題目。

比賽題目長(zhǎng)啥樣

這次比賽包含了多種和自動(dòng)駕駛安全密切相關(guān)的題型， 既有Binary，Reversing等傳統(tǒng)CTF賽題，也有機(jī)器學(xué)習(xí)安全（AML）和自動(dòng)駕駛算法（Mad Race）等全新賽題。

從下圖可見(jiàn)，題目難度不小，“懸賞分”最高的題目是GPS欺騙，就沒(méi)有一個(gè)小組在限定時(shí)間內(nèi)解出（累計(jì)得分0）。

部分題目具體的畫(huà)風(fēng)，是下面這樣的：

到底是攻擊對(duì)手，還是讓自己跑更快？

如何在限定時(shí)間內(nèi)，超越所有小隊(duì)的賽車(chē)，并獲得競(jìng)速賽第一名？

這是競(jìng)賽題目Mad Race的規(guī)則：

要求參賽隊(duì)伍實(shí)現(xiàn)自動(dòng)駕駛的路線規(guī)劃和控制算法，跟其他隊(duì)伍同場(chǎng)競(jìng)技，最快完成比賽者得最高分。

然而，也許是舉辦方“有意為之”，這題背后還隱藏著一個(gè)邪惡的獲勝方法：題目允許攻擊其他車(chē)輛的漏洞。

所以，比賽的方式不止一種。畢竟如果將路上的其他車(chē)輛都攻破了，那么自己的車(chē)子就穩(wěn)操勝券了。

不過(guò)，獲勝團(tuán)隊(duì)最后沒(méi)有選擇加入攻擊算法，而是集中全力提升了自己的路線規(guī)劃和控制算法，這也使得他們與第二名快速拉開(kāi)了差距。

獲勝團(tuán)隊(duì)表示，如果車(chē)輛優(yōu)化得夠好，攻擊算法就追不上它，其實(shí)也能成為一種取勝策略。

一張“貼紙”，讓卡車(chē)消失

除此之外，自動(dòng)駕駛算法的避障也是一個(gè)重要的技術(shù)。

所以，盡力騙過(guò)自動(dòng)駕駛算法，讓它撞上障礙物，其實(shí)也是一種檢測(cè)算法漏洞的方法。

在名為消失的卡車(chē)題目中，參賽者需要提交Patch（一個(gè)圖像塊），系統(tǒng)把這個(gè)Patch貼到卡車(chē)車(chē)廂，并同時(shí)讓自動(dòng)駕駛車(chē)輛逐漸靠近卡車(chē)，要求這期間，不能有一幀檢測(cè)到卡車(chē)。

說(shuō)白了，就是利用特殊生成的圖片，騙過(guò)目標(biāo)識(shí)別算法。

不過(guò)，也沒(méi)有這么簡(jiǎn)單，因?yàn)閰①愓咛峤坏腜atch不僅需要欺騙連續(xù)多幀的目標(biāo)檢測(cè)，而且還需要考慮車(chē)輛行進(jìn)軌跡中的視角和距離變化、傳感器噪聲、圖像預(yù)處理等技術(shù)。

畢竟，誰(shuí)也無(wú)法預(yù)測(cè)自動(dòng)駕駛算法會(huì)在什么時(shí)候、被什么樣的圖像“欺騙”。

在這道題目中，冠軍團(tuán)隊(duì)讓生成的Patch具有更高的魯棒性，最終成功騙過(guò)了自動(dòng)駕駛算法。

欺騙GPS：全場(chǎng)最難的題目

從得分來(lái)看，全場(chǎng)唯一沒(méi)有小組解出的題目，就是這道GPS欺騙 （GPS Spoofing）了。

這道題屬于Binary攻擊類型（二進(jìn)制漏洞攻擊），是全場(chǎng)分?jǐn)?shù)最高的一道題目，但無(wú)人解出。

題目要求參賽者攻擊一個(gè)服務(wù)器端的GPS Spoofing檢測(cè)程序，從而獲得服務(wù)器中Flag文件的內(nèi)容。

這道題屬于傳統(tǒng)的CTF類型，它的難點(diǎn)在于，參賽者需要了解一種特定GPS數(shù)據(jù)的解析格式，并構(gòu)建虛假的GPS數(shù)據(jù)，來(lái)觸發(fā)和利用該漏洞。

因此，要解決這道題，除了傳統(tǒng)的Binary攻擊技術(shù)，還必須要有自動(dòng)駕駛中GPS傳感器的知識(shí)和經(jīng)驗(yàn)，大部分小組都被這一點(diǎn)難住了。

對(duì)于冠軍團(tuán)隊(duì)來(lái)說(shuō)，這次的遺憾應(yīng)該在于沒(méi)能解出這道最難的題目。

“最后時(shí)刻，我們已經(jīng)能構(gòu)造需要的GPS數(shù)據(jù)格式、且找到了漏洞利用的注入點(diǎn)，無(wú)奈最后由于時(shí)間不足，未能完成，非常可惜。”

為何舉辦自動(dòng)駕駛CTF

拼盡全力攻破自動(dòng)駕駛算法，究竟有什么意義？

或許大家還記得今年6月，開(kāi)啟AutoPilot的特斯拉，撞上側(cè)翻白色貨車(chē)的事故：

高速路上，一輛貨車(chē)側(cè)翻在地，后續(xù)來(lái)車(chē)紛紛避讓。

但一輛白色特斯拉Model 3，以110公里的時(shí)速，直接撞向了如此明顯的貨車(chē)障礙物。

針對(duì)這一類自動(dòng)駕駛的安全事故，這次的CTF定位與實(shí)際生活中自動(dòng)駕駛展現(xiàn)的安全問(wèn)題密切相關(guān)。

例如，那道利用對(duì)抗樣本生成能讓白色卡車(chē)“消失”的Patch，就是自動(dòng)駕駛中障礙物識(shí)別的一項(xiàng)極大挑戰(zhàn)。

而賽題的場(chǎng)景，就是從特斯拉在高速上的安全事故取材的。

畢竟，只有知道了攻擊自動(dòng)駕駛算法的方法，才能更好地優(yōu)化自動(dòng)駕駛算法，讓車(chē)輛行駛更安全。

冠軍團(tuán)隊(duì)介紹

這次比賽的冠軍團(tuán)隊(duì)由6人組成，主要來(lái)自加州大學(xué)爾灣分校的ASGuard（Autonomous Sysems Guard）研究組，導(dǎo)師為Qi Alfred Chen，其中4名成員Junjie Shen、Takami Sato、Ningfei Wang和Ziwen Wan均為在讀博士生。

此外，還有一名來(lái)自清華大學(xué)的準(zhǔn)一年級(jí)博士生Yunpeng Luo、以及目前在CMU就讀碩士、本科曾就讀于UCI的Zeyuan Chen。

而ASGuard研究組平時(shí)的研究方向，就是自動(dòng)駕駛軟件安全。

ASGuard的組員也表示，參加這場(chǎng)比賽最大的獲勝點(diǎn)，是技能點(diǎn)、研究方向剛好覆蓋所有賽題類型。

因此，他們的團(tuán)隊(duì)分工也非常明確，其中Junjie Shen，Ziwen Wan，Yunpeng Luo和Zeyuan Chen負(fù)責(zé)Binary、Reversing和Mad Race，而Takami Sato和Ningfei Wang則負(fù)責(zé)機(jī)器學(xué)習(xí)模型安全（AML）。

不過(guò)，這次的比賽對(duì)于冠軍組來(lái)說(shuō)，也并非一帆風(fēng)順。

可以看出，在最后的奪冠之前，團(tuán)隊(duì)經(jīng)歷了相當(dāng)長(zhǎng)時(shí)間的無(wú)進(jìn)展期，但在最后時(shí)刻一舉解出兩道題目，最終反敗為勝。