特斯拉司機輔助駕駛系統中使用的機器學習存在弱點 在限速標志上粘貼電子膠帶誘使其在限速區超速
據外媒報道,計算機安全解決方案供應商McAfee的研究人員日前發現,電動汽車制造商特斯拉的司機輔助駕駛系統存在潛在漏洞。他們通過在限速標志上粘貼電子膠帶,從而誘使特斯拉汽車在限速區超速行駛。
McAfee的技術人員將電子膠帶以水平方式粘貼在時速35公里限速標志上。根據McAfee周三發布的研究顯示,這一變化導致特斯拉車輛讀取的限速數據為每小時137公里,從而促使其巡航控制系統自動加速。
McAfee表示,這個問題對司機來說并不算是個嚴重的風險。沒有人受傷,方向盤后面的研究人員能夠安全地讓汽車減速。
但McAfee高級威脅研究主管史蒂夫·波沃爾尼(Steve Povolny)表示,去年結束的18個月研究結果表明,特斯拉司機輔助駕駛系統中使用的機器學習存在弱點。其他研究表明,物理世界的變化會使這些系統變得混亂。
測試涉及2016年生產的Model S和Model X,它們使用了Mobileye公司提供的攝像頭系統,Mobileye現在是英特爾旗下子公司。多家汽車制造商都在使用Mobileye的系統,盡管特斯拉在2016年停止使用它們。
據McAfee稱,對Mobileye最新攝像系統的測試沒有發現同樣的漏洞,特斯拉的最新車輛顯然不依賴于交通標志識別。特斯拉沒有回復尋求對該研究發表評論的電子郵件。
波沃爾尼表示:“制造商和供應商意識到了這個問題,他們正在從這個問題中吸取教訓,但這并不能改變這個行業存在很多盲點的事實。”
可以肯定的是,今天發生這樣的事件對現實世界的威脅是有限的。首先,自動駕駛汽車仍處于開發階段,大多數汽車正在接受安全司機的測試。現在有先進的司機輔助駕駛系統的車輛仍然需要人類司機保持專心。
McAfee的研究人員只能通過復制特定的序列來欺騙系統,這些序列包括當司機輔助功能打開并遇到改變的限速標志時才會發揮作用。制造商也在將地圖技術集成到反映適當限速的系統中。
波沃爾尼說:“我們不太可能在野外看到這種情況,或者攻擊者會試圖利用這一點,直到我們擁有真正的自動駕駛汽車。不過到那時,我們希望這些類型的缺陷應該已經得到解決。”
Mobileye在一份聲明中表示,人類司機也可能被這樣的修改所愚弄,研究人員測試的系統旨在幫助人類司機,而不是支持自動駕駛。
該公司表示:“自動駕駛汽車技術將不僅僅依賴于傳感器,還將得到其他各種技術和數據的支持,如眾包地圖,以確保從攝像頭傳感器接收到的信息的可靠性,并提供更強大的冗余和安全。”
McAfee的研究緊跟在被稱為對抗性機器學習的類似學術工作之后,這是個相對較新的領域,該研究基于計算機的學習系統如何被操縱。例如,2017年的研究人員發現,在停車標志上的特定位置放置四個黑白貼紙可以“欺騙”計算機視覺系統,讓其無法看到時速72公里的限速標志。
杜克大學機器人學教授、自動駕駛汽車專家米西·卡明斯(Missy Cummings)表示,這個問題并不是特斯拉或Mobileye特有的,而是驅動自動駕駛汽車的先進系統固有的一個更廣泛的弱點。研究人員已經表明,在沒有訪問系統本身的情況下改變物理環境,會導致潛在的嚴重故障。
卡明斯解釋稱:“這就是為什么它是如此危險的原因,因為你不需要進入系統來黑它,你只需要改變我們所在的世界即可。”(騰訊科技審校/金鹿)
相關閱讀
-
助力打造科技創新和產業發展引擎 宜興...
以前我們在無錫的時候就聽說宜興稅務部門的服務態度好,沒想到是如... -
著力完善科技創新體系 全力鍛造科技創...
十三五以來,蘭州石化公司全面推進創新驅動和人才強企戰略,實施科... -
常州經開區入選國家工業互聯網平臺賦能...
9月6日,工信部對國家新型工業化產業示范基地工業互聯網平臺賦能數... -
實施5G基站建設提速工程 促進5G基站建...
記者今天從省工信廳獲悉,截至今年9月中旬,全省累計建成5G基站5 8... -
加快培養復合型人才培訓需求 做好成果...
為進一步推動全行興動力創新創優項目實踐深化,促進各項目小組相互... -
加快稅收征管數字化升級 提升納稅人幸...
這份電子發票的成功開具,標志著國家稅務總局山西省稅務局的晉稅通A...
- 如何培養學生的空間思維能力(如何培養學生2022-11-25
- 十滴水洗澡的功效(十滴水打一字)2022-11-25
- 焦點快播:“外國人講安徽故事·合肥站”宣2022-11-25
- 2022黃山旅游節推出14項主題活動2022-11-25
- 世界微速訊:以群眾口碑檢驗富裕江西幸福江2022-11-25
- 內雙畫眼妝選擇什么樣的眼影?內雙眼妝怎么2022-11-25
- 眼影選購需要注意哪些方面?眼影是不是越貴2022-11-25
- 深邃歐式眼妝教程 歐美上挑眼線怎么畫?-2022-11-25
- 環球觀熱點:中分劉海怎么打理好看?哪些中2022-11-25
- 適合中分發型的臉型有哪些?2022年短發發型2022-11-25
- 全球今熱點:中分發型有哪些優勢?方形臉適2022-11-25
- 中分短發發型有哪些?你更喜歡哪一款?|全2022-11-25
- 中分適合什么臉型?劉海中分怎么處理?2022-11-25
- 劉海分開合不上怎么恢復?去理發店可以嗎?2022-11-25
- 【世界新要聞】圓臉臉型特點是什么?圓臉適2022-11-25
- 不想中分怎么變回來?哪些臉型留中分發型不2022-11-25
- 環球熱推薦:中分劉海留煩了想換發型怎么辦2022-11-25
- 熱點聚焦:劉海中分怎么解決?劉海剪厚了怎2022-11-25
- 如何讓頭發快速生長?剛染完頭發第二天就洗2022-11-25
- 男士中分適合燙大卷還是小卷?男生燙發發型2022-11-25
- 自然卷應該使用什么樣的護發產品?自然卷該2022-11-25
- 月餅分著吃寓意好嗎?為什么說月餅吃多了也2022-11-25
- 月餅能煎著吃嗎?月餅的吃法有哪些?|環球2022-11-25
- 中秋節該怎么送禮?中秋節后天氣會轉涼嗎?2022-11-25
- 月餅烤完很硬怎么回事?月餅的好壞主要看什2022-11-25
- 十八數藏引入新投資方,深度布局產業化2022-11-25
- 地鐵逃生怎么下載(地團網)|要聞速遞2022-11-25
- 女人在床上說的最刻薄的話_世界即時看2022-11-25
- 玉竹可以和什么一起泡酒?玉竹酒做法是什么2022-11-25
- 玉竹能放多久?玉竹食用方法有哪些?-全球2022-11-25