3月29日晚，一輛小米SU7在安徽銅陵的高速路段撞上隔離帶的水泥樁，其后發(fā)生燃燒，車上3名大學(xué)生全部死亡。一樁悲劇，如同滴落水中的一滴墨，瞬間擴(kuò)散在公眾的想象中——“智能汽車”、“新勢(shì)力造車”、“自動(dòng)駕駛”“遙控模式。這些技術(shù)名詞與血肉之軀交匯，背后隱含的，是整個(gè)時(shí)代的一個(gè)重大命題：當(dāng)技術(shù)以“速度”為美、以“智能”為榮，我們是否忘記了最基本的“可控性”和“倫理邊界”？

我們不能僅把這起事件視作一次產(chǎn)品誤用或駕駛員疏忽，而應(yīng)從中透視出更宏大的現(xiàn)實(shí)張力——技術(shù)系統(tǒng)的復(fù)雜化與社會(huì)系統(tǒng)的滯后之間，正在張開一道巨大的鴻溝。這不是一輛車的事故，這是“未來社會(huì)”構(gòu)建過程中的一次斷裂。

技術(shù)幻覺與資本敘事的聯(lián)盟

所有關(guān)于“智能”的敘事，其實(shí)早已不再是單純的工程技術(shù)問題，而是一種資本驅(qū)動(dòng)的“敘事性現(xiàn)實(shí)”。從特斯拉開始，到蔚來、理想、小鵬，再到今天的小米，所有新勢(shì)力造車品牌，都在構(gòu)建一種未來主義敘事——即我們正進(jìn)入一個(gè)“機(jī)器代人”的新時(shí)代，而他們正是引領(lǐng)者。

這不是技術(shù)真相的傳達(dá)，而是一種幻覺制造術(shù)：把不成熟的輔助系統(tǒng)包裝成“智能代駕”；把實(shí)驗(yàn)室中的功能命名為“全場(chǎng)景自動(dòng)泊車”；把人類的幻想變成廣告語言。這種幻覺依賴兩個(gè)條件：公眾的技術(shù)焦慮，以及資本對(duì)“速度+規(guī)模”的偏好。

而小米作為一家科技巨頭，其跨界造車行為本身，就夾雜著極強(qiáng)的“資本信號(hào)”意味：雷軍高調(diào)發(fā)布會(huì)、手機(jī)思維移植到汽車工業(yè)、供應(yīng)鏈的極致壓縮……它更像是一次“工業(yè)+敘事”的聯(lián)姻。

但問題在于，技術(shù)幻想可以虛構(gòu)，生命不能被消費(fèi)。如果我們把汽車的本質(zhì)理解為“生活中的機(jī)器人”，那么它對(duì)人類生活的侵入程度，遠(yuǎn)超手機(jī)、電腦等其他消費(fèi)電子。這要求我們建立一種“延遲滿足的技術(shù)倫理”——即在真正安全可控前，必須壓抑對(duì)“炫酷功能”的沖動(dòng)。但今天，這種倫理已經(jīng)被市場(chǎng)的加速邏輯吞噬。

“人類責(zé)任”的外包困局

小米的車禍?zhǔn)录砸l(fā)巨大反響，還在于它暴露了一個(gè)根本性的張力：人類對(duì)機(jī)器的過度信任，正在逐步卸載自身責(zé)任。

從用戶視角來看，他們被告知“這是一輛智能汽車”，他們看到宣傳視頻中“車能自己開、能自己泊、能自動(dòng)召喚”，自然會(huì)將這種“技術(shù)形象”內(nèi)化為安全承諾。然而當(dāng)事故發(fā)生時(shí)，車企卻退回到冷冰冰的法律免責(zé)聲明中：“所有功能需人監(jiān)督，僅為輔助。”

這就是“責(zé)任外包”的典型機(jī)制：企業(yè)利用技術(shù)模糊性，收割用戶信任，但在出事時(shí)，卻把一切推給“使用不當(dāng)”。換句話說，消費(fèi)者承擔(dān)了系統(tǒng)不成熟的風(fēng)險(xiǎn)，卻沒有任何控制該系統(tǒng)的權(quán)力。

更可怕的是，這種機(jī)制并非偶然，而是整個(gè)AI時(shí)代的普遍特征。我們已經(jīng)看到AI算法在招聘、信貸、醫(yī)療等諸多領(lǐng)域做出關(guān)鍵性決策，但真正“負(fù)責(zé)任”的人是誰？系統(tǒng)出錯(cuò)時(shí)，誰來承擔(dān)后果？這不是一輛車的問題，而是“人類責(zé)任機(jī)制”的整體危機(jī)。

制度真空下的“算法政治”

如果說工業(yè)時(shí)代的權(quán)力是“標(biāo)準(zhǔn)化+制度約束”，那么今天的智能時(shí)代，則是“黑箱化+技術(shù)壟斷”。智能汽車的事故不僅是工程事故，更是制度事故：我們的法律和監(jiān)管體系，尚未為“人機(jī)共治”的新現(xiàn)實(shí)做好準(zhǔn)備。

在美國(guó)，NHTSA（國(guó)家公路交通安全局）已經(jīng)逐步推出對(duì)L2以上自動(dòng)駕駛系統(tǒng)的事故報(bào)告機(jī)制，要求車企上報(bào)所有涉及“高級(jí)輔助駕駛”的交通事故。歐洲也在推動(dòng)“可解釋AI”的法律框架。而在中國(guó)，這方面仍存在巨大制度真空。

最具風(fēng)險(xiǎn)的，不是技術(shù)不成熟，而是監(jiān)管體系對(duì)技術(shù)權(quán)力的“失語”：我們甚至不知道一輛車究竟具備何種自動(dòng)駕駛能力，不知道系統(tǒng)是否記錄駕駛狀態(tài)，不知道功能命名是否被“營(yíng)銷化誤導(dǎo)”……

這其實(shí)已經(jīng)進(jìn)入了“算法政治”的范疇——誰定義“智能”？誰控制數(shù)據(jù)？誰擁有責(zé)任話語權(quán)？在制度缺席的狀態(tài)下，技術(shù)公司就是事實(shí)上的立法者、法官和執(zhí)行者。

這不僅威脅個(gè)體安全，更將侵蝕整個(gè)社會(huì)的公正感與信任機(jī)制。

智能社會(huì)的“認(rèn)知斷裂”

我們正在進(jìn)入一個(gè)深刻的“認(rèn)知斷裂”時(shí)代——系統(tǒng)越來越復(fù)雜，公眾對(duì)其理解卻越來越淺。

大多數(shù)普通用戶對(duì)智能汽車的功能理解，停留在宣傳片與社交媒體的碎片中。他們以為“智能”就意味著“安全”，以為“自動(dòng)”就等于“無憂”。而事實(shí)上，系統(tǒng)設(shè)計(jì)的邊界、風(fēng)險(xiǎn)提示、容錯(cuò)機(jī)制，遠(yuǎn)比一個(gè)廣告復(fù)雜得多。

這種“認(rèn)知斷裂”一旦與生命安全綁定，就會(huì)變成致命的“信任災(zāi)難”。這不僅會(huì)擊穿消費(fèi)者對(duì)某個(gè)品牌的信心，更會(huì)動(dòng)搖整個(gè)技術(shù)社會(huì)的信任基礎(chǔ)——公眾將不再相信“新技術(shù)”，而這種不信任一旦形成，將以極高代價(jià)進(jìn)行反噬。

我們正在靠“模糊宣傳+技術(shù)壓榨”推進(jìn)智能化進(jìn)程，但沒有同步推進(jìn)公眾素養(yǎng)建設(shè)。這是對(duì)未來的極度不負(fù)責(zé)任。

轉(zhuǎn)向“深度人機(jī)共進(jìn)”的文明分水嶺

如果要從這場(chǎng)事故中看到某種希望，那就是：也許它可以成為一次“文明反思的契機(jī)”。我們要從“技術(shù)狂熱”轉(zhuǎn)向“人機(jī)共進(jìn)”，從“工具崇拜”轉(zhuǎn)向“責(zé)任重構(gòu)”。

這不是技術(shù)層面的補(bǔ)丁，而是思維范式的轉(zhuǎn)向：

在設(shè)計(jì)上，應(yīng)推動(dòng)“強(qiáng)約束的可用性”，而非“炫技式自由”；在制度上，應(yīng)構(gòu)建一整套人機(jī)權(quán)責(zé)分離的監(jiān)管體系；在社會(huì)層面，應(yīng)建立針對(duì)AI和智能系統(tǒng)的基礎(chǔ)教育機(jī)制；在倫理上，應(yīng)推動(dòng)一種“算法謙卑主義”——技術(shù)不是萬能，也不應(yīng)裝作萬能。

我們不該再問：“我們還能做出多智能的車？”而應(yīng)開始問：“我們是否準(zhǔn)備好，成為一個(gè)負(fù)責(zé)任的智能社會(huì)？”

下一次，代價(jià)會(huì)更高

這次，是小米SU7。下一次，可能是飛行汽車，可能是無人出租車，可能是AI診療系統(tǒng)。技術(shù)的進(jìn)步從不會(huì)停止，但人類的制度、認(rèn)知與倫理，常常會(huì)落后。

當(dāng)我們?cè)谂d奮地談?wù)摗靶沦|(zhì)生產(chǎn)力”“中國(guó)智造出海”“工業(yè)4.0”時(shí)，也許更該花些時(shí)間問一句：我們是否已經(jīng)建立了足以承載這一切的文明基礎(chǔ)？

技術(shù)不是終點(diǎn)，而是試煉。我們是否能夠從每一次事故中，真正走出“升級(jí)打怪”的思維，轉(zhuǎn)向一場(chǎng)關(guān)于人類自身的深度更新？

如果不能，那么下一次，我們將付出更高的代價(jià)——而且可能，不再有“下一次”。（財(cái)富中文網(wǎng)）

作者王衍行為財(cái)富中文網(wǎng)專欄作家，中國(guó)人民大學(xué)重陽(yáng)金融研究院高級(jí)研究員、中國(guó)銀行業(yè)協(xié)會(huì)前副秘書長(zhǎng)、財(cái)政部?jī)?nèi)部控制標(biāo)準(zhǔn)委員會(huì)咨詢專家

本內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表財(cái)富中文網(wǎng)立場(chǎng)。未經(jīng)允許不得轉(zhuǎn)載。