環(huán)球關(guān)注:潘多拉魔盒?如何給狂飆的AI安上“剎車”
(資料圖片僅供參考)
原標(biāo)題:潘多拉魔盒?如何給狂飆的AI安上“剎車”
從橫空出世到持續(xù)大火,ChatGPT不僅引發(fā)科技圈狂歡,也備受各國(guó)監(jiān)管部門的關(guān)注。
歐洲議會(huì)近日通過(guò)了關(guān)于《AI法案》的談判授權(quán)草案,該項(xiàng)法案光修正案就有一千多項(xiàng)。其中包含了有關(guān)面部識(shí)別、生物識(shí)別監(jiān)控和其他AI應(yīng)用使用的新規(guī)則,并提出嚴(yán)格監(jiān)管ChatGPT等AI工具。無(wú)獨(dú)有偶,作為未來(lái)監(jiān)管的第一步,美國(guó)商務(wù)部上月已就相關(guān)措施正式公開(kāi)征求意見(jiàn),包括新AI模型在發(fā)布前是否應(yīng)經(jīng)過(guò)認(rèn)證程序。
說(shuō)起來(lái),自AI誕生那天起人類就憂慮重重:作為頂尖智慧和技術(shù)的結(jié)晶,AI會(huì)不會(huì)帶來(lái)我們無(wú)法承受的種種風(fēng)險(xiǎn),甚至走向失控?彼時(shí),機(jī)器人之父圖靈如此告誡:盡管人類可以隨時(shí)拔掉機(jī)器人的充電器,但在這種物種面前,我們?nèi)圆坏貌槐3种t卑。以歷史視角觀之,“機(jī)器人三定律”等似乎緩解了一些憂慮,但隨著相關(guān)技術(shù)的發(fā)展和應(yīng)用的擴(kuò)大,人工智能所面臨的法律與倫理沖突的復(fù)雜性遠(yuǎn)不是幾條簡(jiǎn)單甚至“一廂情愿”的定律所能約束的了。尤其在過(guò)去這段時(shí)間里,ChatGPT讓人驚喜不已,但同時(shí)也喚醒并加劇了人類對(duì)其后風(fēng)險(xiǎn)的“原始畏懼”。無(wú)論是全球千余名業(yè)界大佬公開(kāi)簽名呼吁暫停研發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng),還是在業(yè)內(nèi)有“AI教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓因?qū)ι墒紸I感到擔(dān)憂而于本月初離職谷歌,無(wú)不折射出不少人對(duì)AI的心態(tài)已從“相對(duì)警惕”轉(zhuǎn)變?yōu)椤叭缗R大敵”。
理性來(lái)看,“AI末日論”多少有些危言聳聽(tīng),但種種現(xiàn)實(shí)擔(dān)憂也絕非杞人憂天。就眼下來(lái)看,不斷進(jìn)階的AI正催生著多重風(fēng)險(xiǎn)——由于無(wú)法核實(shí)數(shù)據(jù)來(lái)源的真實(shí)性,以及缺乏足夠數(shù)據(jù)進(jìn)行深度學(xué)習(xí),生成式AI常會(huì)“一本正經(jīng)”生成和傳播虛假信息;數(shù)據(jù)挖掘像個(gè)“黑箱”,簡(jiǎn)單快捷、“百無(wú)禁忌”,為學(xué)術(shù)不端大開(kāi)方便之門不說(shuō),還可能侵犯知識(shí)產(chǎn)權(quán),以及泄露個(gè)人數(shù)據(jù)隱私和商業(yè)秘密……試想,當(dāng)網(wǎng)絡(luò)上充斥著越來(lái)越多不知真假的圖片和視頻,當(dāng)AI幾秒鐘就“洗”出一篇像模像樣的稿件,乃至能夠以一鍵換臉、一鍵脫衣等危害公共秩序,我們是否還有信心用好這個(gè)工具?更關(guān)鍵的,人類從來(lái)都是在思考中迸發(fā)靈感、在試錯(cuò)中革新向前,可當(dāng)AI提供了前往正確答案的“直通車”,不僅可能“挖空學(xué)習(xí)資源”,更可能反噬創(chuàng)新。
技術(shù)是把雙刃劍,如何把握好技術(shù)創(chuàng)新與防范風(fēng)險(xiǎn)的平衡向來(lái)是一道難題。在科技倫理上,這通常被稱為“科林格里奇困境”——技術(shù)尚未出現(xiàn),監(jiān)管者無(wú)法提前預(yù)測(cè)其影響并采取行動(dòng);而當(dāng)它已經(jīng)出現(xiàn)時(shí),采取行動(dòng)往往為時(shí)已晚或成本過(guò)高。相對(duì)樂(lè)觀的是,人類又總能通過(guò)不斷適應(yīng)新技術(shù)的發(fā)展而調(diào)整治理手段,一次次從這種困境中走出來(lái)。以汽車為例,在大規(guī)模上市前,人們就為其安裝上了剎車,之后也一直在完善汽車的安全性,甚至在汽車發(fā)明100多年后,我們還在為其安全“打補(bǔ)丁”——加裝安全氣囊。以史為鑒,為狂奔的AI安上“剎車”,同樣勢(shì)在必行。
無(wú)規(guī)矩不成方圓。這一方面歐美在行動(dòng),中國(guó)也在積極探索。一個(gè)月前,網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》,從大模型的數(shù)據(jù)來(lái)源要可靠、對(duì)AI生成的內(nèi)容應(yīng)履行告知義務(wù)、一旦造成損害相關(guān)責(zé)任方需要承擔(dān)責(zé)任等方面給生成式AI的發(fā)展套上了“籠頭”。誠(chéng)如比爾·蓋茨所言,真正在全球范圍內(nèi)暫停人工智能技術(shù)的開(kāi)發(fā),已經(jīng)不太現(xiàn)實(shí)。但確保其被健康地使用,防止打開(kāi)潘多拉魔盒,卻是必要的。換句話說(shuō),除了跟上創(chuàng)新步伐、謀求技術(shù)突破,如何構(gòu)建一套趨利避害的AI治理體系,同樣是一條不可忽視的競(jìng)爭(zhēng)賽道。
“利維坦”“烏托邦”這兩個(gè)詞匯,想必大家都很熟悉。有學(xué)者借此,將“賽先生”的兩個(gè)發(fā)展趨向形容為“賽維坦”(對(duì)科技無(wú)所抗拒又無(wú)能為力)和“賽托邦”(科技最大程度造福社會(huì))。如今重重挑戰(zhàn)在前,我們不必過(guò)分悲觀,也不能盲目樂(lè)觀,堅(jiān)定馴服“賽維坦”的信心,保持實(shí)現(xiàn)“賽托邦”的理想,在遵從科技倫理、人本主義、法治理念的基礎(chǔ)上,不斷完善人工智能相關(guān)法規(guī),力求價(jià)值引領(lǐng)與技術(shù)“糾錯(cuò)”并行、秩序保障與創(chuàng)新提升協(xié)同、權(quán)益維護(hù)與義務(wù)承擔(dān)對(duì)稱,就能最大程度爭(zhēng)取科技向善。(晁星)
標(biāo)簽: