直擊WAIC丨圖靈獎得主Joseph Sifakis：AGI需要新范式，實(shí)現(xiàn)自主性仍然遙遠(yuǎn)
“ICT（信息通信技術(shù)）和AI之間的加速融合正在創(chuàng)造自主系統(tǒng)，這是從弱AI到AGI（通用人工智能）的一大步?！?/p>
7月7日，在2023世界人工智能大會區(qū)塊鏈+WEB3新發(fā)展論壇上，圖靈獎得主、中國科學(xué)院外籍院士Joseph Sifakis也圍繞人工智能帶來諸多前沿技術(shù)的研究和思考。
【資料圖】
他指出自主系統(tǒng)是邁向AGI的重要一步，而要實(shí)現(xiàn)這一步還有很長的路要走，未來前行方向包括設(shè)計(jì)出圍繞可信組件構(gòu)建可信系統(tǒng)的技術(shù)、發(fā)展新的科學(xué)和工程基礎(chǔ)、驗(yàn)證智能系統(tǒng)等。
模型檢查領(lǐng)域作出杰出貢獻(xiàn)
不像同為圖靈獎得主的Yann LeCun，既有一個相當(dāng)中文的名字“楊立昆”，又在Meta這樣為大眾所熟知的科技大廠任首席科學(xué)家，還有一些諸如“深度學(xué)習(xí)之父”等響亮易懂的稱號，Joseph Sifakis則隱秘許多，聊到他，自然離不開他在模型檢查領(lǐng)域所做的杰出工作。
如人們對工程開發(fā)的預(yù)想，在實(shí)際部署之前，為了避免不必要的失敗，包括系統(tǒng)在內(nèi)的所有組成都要嚴(yán)格檢測可能存在的錯誤和缺陷，因?yàn)楹芏鄷r(shí)候，一個小小的bug就會讓全部努力“付諸東流”。例如1996年6月，歐洲12國聯(lián)合研制的Ariane 5型運(yùn)載火箭在首次發(fā)射時(shí)，僅由于一行代碼的溢出錯誤就導(dǎo)致火箭發(fā)射失敗，數(shù)億歐元因此放了“煙花”。
隨著科技的發(fā)展，各種系統(tǒng)也越來越復(fù)雜，如今一臺汽車所涉及的代碼就可以達(dá)到上億行，手動驗(yàn)證系統(tǒng)的安全性與可靠性就是一件幾乎不可能實(shí)現(xiàn)的事情。
在這樣的背景下，Joseph Sifakis在內(nèi)的幾位計(jì)算機(jī)科學(xué)家在1981年提出模型檢查的概念。
在提出模型檢查的概念后，Joseph Sifakis也一直在積極推動模型檢查在嵌入式系統(tǒng)領(lǐng)域的應(yīng)用，直到如今，模型檢查依舊是一個活躍的研究和開發(fā)領(lǐng)域，研究人員努力提高其拓展性、準(zhǔn)確性和可用性。Joseph Sifakis也因其在模型檢驗(yàn)領(lǐng)域的杰出貢獻(xiàn)在2007年共同榮獲了計(jì)算機(jī)領(lǐng)域的最高獎項(xiàng)——圖靈獎。
所謂嵌入式系統(tǒng)，簡單理解即火箭、汽車、手機(jī)等設(shè)備等所搭載的各種控制系統(tǒng)，隨著物聯(lián)網(wǎng)的興起，形形色色的智能化產(chǎn)品也讓嵌入式系統(tǒng)出現(xiàn)在我們?nèi)粘Ｉ畹拿總€角落。
“物聯(lián)網(wǎng)革命的背后是，對互聯(lián)的智能對象提供的資源管理自動化和增強(qiáng)人們生活質(zhì)量需求的日益增長?！弊鳛殚L期深耕行業(yè)的大牛，Joseph Sifakis早前也發(fā)表過許多相關(guān)的見解。
物聯(lián)網(wǎng)之后，大模型掀起一波新的高潮，生成式AI重新點(diǎn)燃了人們對AGI的興趣，而AGI的最終愿景就是機(jī)器代替人類完成各種復(fù)雜的任務(wù)，也就是在各種場景下構(gòu)建可以自主運(yùn)行的系統(tǒng)，Joseph Sifakis指出，構(gòu)建自主系統(tǒng)是從弱人工智能到AGI的重要環(huán)節(jié)。
Joseph Sifakis專門強(qiáng)調(diào)了自動化系統(tǒng)和自主系統(tǒng)之間的區(qū)別，雖然二者都涉及與環(huán)境交互，但區(qū)別在于不同的意識感知和決策機(jī)制。
“自動化系統(tǒng)以恒溫器為例，它只需要從環(huán)境中讀溫度取值，再對溫度進(jìn)行調(diào)節(jié)，這是一種靜態(tài)的控制。而對于自動駕駛來說，事情要復(fù)雜得多，這種自主系統(tǒng)需要更加復(fù)雜的傳感器和驅(qū)動器，并且要對得到的圖像進(jìn)行逐幀分析，識別障礙物，然后輸入運(yùn)動學(xué)的屬性，感知功能相當(dāng)于一個對外部世界的認(rèn)知模型，自主系統(tǒng)基于這個模型進(jìn)行決策，從而完成動態(tài)的目標(biāo)管理?！盝oseph Sifakis表示。
而要彌合自動化和自主性之間的差距，Joseph Sifakis認(rèn)為還有很長的路要走，“這也是我們從自動駕駛中認(rèn)識到的，過渡不是漸進(jìn)的，為了實(shí)現(xiàn)完全自主的愿景，我認(rèn)為需要發(fā)展新的科學(xué)和工程基礎(chǔ)，而這需要一些時(shí)間。”
亟需新范式
“今天，弱Al為我們提供了構(gòu)建智能系統(tǒng)的元素，但我們沒有像建造橋梁房屋一樣總結(jié)建立復(fù)雜智能系統(tǒng)的理論?！盝oseph Sifakis表示。
環(huán)境的不確定性和決策的復(fù)雜性則共同組成了通往AGI路上的絆腳石，而Joseph Sifakis在內(nèi)多位行業(yè)大牛也堅(jiān)定認(rèn)為無法繞開這些挑戰(zhàn)實(shí)現(xiàn)真實(shí)可靠的自主和智能。
在ChatGPT爆火之后，美國斯坦福大學(xué)組織行為學(xué)副教授Michal Kosinski實(shí)驗(yàn)發(fā)現(xiàn)，ChatGPT回答問題的正確率高達(dá)93%，并認(rèn)為其心智理論能力相當(dāng)于9歲的人類兒童。
這也引來諸多AI領(lǐng)域人士的反對聲音，如北京通用人工智能研究院院長朱松純認(rèn)為大語言模型并不符合通用人工智能的要求。
堅(jiān)決反對“AI末日說”的楊立昆也表達(dá)過類似的觀點(diǎn)：GPT等大模型的關(guān)鍵缺陷在于其只學(xué)習(xí)了文本或者其他單一數(shù)據(jù)，對現(xiàn)實(shí)世界的了解十分淺顯，而人類的知識和文明不全是從書本上獲得的，“書呆子”AI未必有多聰明。
“即使GPT能通過類似測試，也只是體現(xiàn)了它具備通過這個心智理論測試的能力，并不能說明它具有心智理論，同時(shí)我們也要反思：用這些傳統(tǒng)測試任務(wù)來驗(yàn)證機(jī)器是否發(fā)展出心智理論的做法是否嚴(yán)謹(jǐn)合法？為何機(jī)器可以不用心智理論就能完成這些任務(wù)？”朱松純表示。
而Joseph Sifakis則認(rèn)為，人類的思維與大語言模型背后的神經(jīng)網(wǎng)絡(luò)之間有著兩個根本區(qū)別：一是人類的思維更加穩(wěn)健，相比之下，神經(jīng)網(wǎng)絡(luò)即使面對細(xì)微的問題變化，也會產(chǎn)生完全不同的答案，二是人類思維基于常識知識，更能避免在答案中產(chǎn)生矛盾。
不過，對于通用人工智能，兩人都呼吁相似的從感知認(rèn)知到?jīng)Q策執(zhí)行的新范式。
Joseph Sifakis指出，傳統(tǒng)構(gòu)建系統(tǒng)工程的方法，雖然能夠應(yīng)用于飛機(jī)制造以及普通生產(chǎn)制造系統(tǒng)，但無法勝任更復(fù)雜的自主系統(tǒng)，而對于自動駕駛領(lǐng)域中另一種試圖繞開環(huán)境感知與復(fù)雜決策的端到端的解決方案，即以行駛過程中由攝像頭采集到的道路場景圖像和人為操作車輛的控制參數(shù)數(shù)據(jù)作為數(shù)據(jù)樣本訓(xùn)練的自動駕駛大模型，Joseph Sifakis也給予了否定。
“由于目前人工智能輸出的方案缺乏可解釋性，其輸出的結(jié)果有時(shí)候未必可靠，系統(tǒng)工程的構(gòu)建是一個突破點(diǎn)，我們需要從小規(guī)模、集中式、環(huán)境變量可被設(shè)定的自動化系統(tǒng)，轉(zhuǎn)向復(fù)雜的、分布式的自主系統(tǒng)?！盝oseph Sifakis說。
“我認(rèn)為我們應(yīng)該承認(rèn)智能系統(tǒng)需要嚴(yán)格的驗(yàn)證方法，誠實(shí)地克服當(dāng)前的限制性，開發(fā)新的基礎(chǔ)，并在必要時(shí)可能修改認(rèn)識和方法要求，但是要小心，要了解我們在做什么。”Joseph Sifakis補(bǔ)充道。
（文章來源：21世紀(jì)經(jīng)濟(jì)報(bào)道）
標(biāo)簽：
