二、自動駕駛中的人工智能安全

實(shí)現(xiàn)自動駕駛離不開人工智能系統(tǒng)。人工智能系統(tǒng)屬于嵌入式系統(tǒng)，就必然有支撐人工智能運(yùn)行的硬件和以人工智能為主的軟件。在自動駕駛中，人工智能系統(tǒng)的硬件和軟件協(xié)同產(chǎn)生感知、決策和控制三種功能。對應(yīng)于所有計(jì)算機(jī)系統(tǒng)的數(shù)據(jù)輸入、數(shù)據(jù)處理和輸據(jù)輸出功能，人工智能系統(tǒng)的感知功能是數(shù)據(jù)輸入、決策功能是數(shù)據(jù)處理、控制功能是數(shù)據(jù)輸出。在自動駕駛的人工智能系統(tǒng)決策功能中，軟件比硬件發(fā)揮著更關(guān)健的作用。業(yè)內(nèi)將人工智能系統(tǒng)決策功能的軟件算法稱為人工智能或人工智能模型。

自動駕駛中的人工智能系統(tǒng)屬于嵌入式系統(tǒng)，對自動駕駛中的不同人工智能系統(tǒng)的水平優(yōu)劣的評定，自然是可以用是否符合對嵌入式系統(tǒng)的水平優(yōu)劣標(biāo)準(zhǔn)做最基本衡量才是。那什么是嵌入式系統(tǒng)呢？

對嵌入式系統(tǒng)的最經(jīng)典的定義是：以應(yīng)用為中心，以現(xiàn)代計(jì)算機(jī)技術(shù)為基礎(chǔ)，能夠根據(jù)用戶需求(功能、可靠性、成本、體積、功耗、環(huán)境等)靈活裁剪軟硬件模塊的專用計(jì)算機(jī)系統(tǒng)。用此對嵌入式系統(tǒng)的定義來衡量某一自動駕駛中的人工智能系統(tǒng)的優(yōu)劣已有了明確的詳細(xì)、具體的基本指標(biāo)，是最客觀公正的。

對自動駕駛，用戶最基本的需求的功能是乘坐自動駕駛汽車能安全準(zhǔn)確地到達(dá)目的地。美國特斯拉公司的FSD是在行駛4億公里收集的路況數(shù)據(jù)時(shí)推出的。有報(bào)道說現(xiàn)在的特斯拉FSD的行駛數(shù)據(jù)已達(dá)12億公里。馬斯克說特斯拉FSD的行駛數(shù)據(jù)達(dá)到60億公里時(shí)，行駛就很安全了。特斯拉FSD需要這么多行駛公里數(shù)的數(shù)據(jù)，就是想將自動駕駛中所有千變?nèi)f化的可能突發(fā)或偶遇的路況和車況都能全收集起來存到特斯拉的行駛數(shù)據(jù)庫中，以便供千千萬萬安裝特斯拉自動駕駛?cè)斯ぶ悄芟到y(tǒng)的車都能快速識別出、并都能及時(shí)做出正確的安全駕駛反應(yīng)。但是，馬斯克有什么理論或通過實(shí)踐能證明特斯拉FSD收集60億公里數(shù)據(jù)后就能包含所有路況和車況的信息呢？事實(shí)將會證明是不可能的！

這種用聳人聽聞的人設(shè)定的巨大數(shù)據(jù)、讓用戶以為非常安全。特斯拉FSD實(shí)際用的還是現(xiàn)有的利用計(jì)算機(jī)能快速計(jì)算的特性在其龐大的數(shù)據(jù)庫中進(jìn)行數(shù)據(jù)比對方式進(jìn)行自動駕駛決策。但不知情的用戶以為特斯拉FSD是通過實(shí)際路況和車況進(jìn)行機(jī)器學(xué)習(xí)產(chǎn)生智慧的準(zhǔn)確思維判斷后，及時(shí)作出安全反應(yīng)的自動駕駛?cè)斯ぶ悄芟到y(tǒng)！不能確保其自動駕駛用戶的安全！

另據(jù)報(bào)道，特斯拉公司已對北美安裝特斯拉FSD自動駕駛系統(tǒng)的170萬汽車用戶的車自動升級了四次新版的特斯拉FSD軟件系統(tǒng)。也就是說，不論用戶是否有需求，特斯拉公司都可主動熱心地為用戶升級FSD版本。我們相信：特斯拉公司是不會對用戶做手腳，有意通過自己的人工智能自動駕駛系統(tǒng)，侵害和利用用戶的隱私數(shù)據(jù)。但是，到目前為止，沒有攻不破的網(wǎng)絡(luò)。如果，特斯拉FSD的自動駕駛?cè)斯は到y(tǒng)網(wǎng)絡(luò)被黑客攻破，肆意竊取用戶數(shù)據(jù)，或讓千千萬萬特斯拉自動駕駛汽車狂奔、急剎車、或有意操控車輛互撞、沖擊某目標(biāo)……，其后果是難以想象的。已有許多國內(nèi)有識之士，對此有論述和擔(dān)憂。

因此，按照對嵌入式系統(tǒng)定義中的滿足用戶需求的功能和可靠性兩項(xiàng)指標(biāo)衡量，特斯拉FSD的自動駕駛?cè)斯ぶ悄芟到y(tǒng)還不夠安全，在人工智能算法上還有待發(fā)展提高。（待續(xù)）