熱議：著名“AI 教父”杰弗里?辛頓宣布從谷歌離職：我為發(fā)展 AI 而后悔
北京時(shí)間 5 月 2 日消息，有“AI 教父”之稱的杰弗里?辛頓 (Geoffrey Hinton) 周一宣布，他已經(jīng)從谷歌公司離職。半個(gè)世紀(jì)以來(lái)，辛頓一直在培養(yǎng) ChatGPT 等聊天機(jī)器人背后的核心技術(shù)。但是現(xiàn)在，他擔(dān)心 AI 會(huì)造成嚴(yán)重危害。
(相關(guān)資料圖)
辛頓是 AI 先鋒。2012 年，辛頓博士和他在多倫多大學(xué)所帶的兩名研究生開發(fā)的技術(shù)，成為了 AI 系統(tǒng)的知識(shí)基礎(chǔ)。如今，科技行業(yè)的巨頭們認(rèn)為，AI 系統(tǒng)是它們未來(lái)發(fā)展的關(guān)鍵。
為發(fā)展 AI 而后悔
然而就在周一，他正式加入了越來(lái)越多的 AI 批評(píng)人士的行列。他們認(rèn)為，這些公司積極開發(fā)基于生成式 AI 的產(chǎn)品，ChatGPT 等熱門聊天機(jī)器人等被快速研發(fā)，這是在奔向危險(xiǎn)。
辛頓說(shuō)，他已經(jīng)辭去了谷歌的工作，以便自己可以自由地談?wù)?AI 的風(fēng)險(xiǎn)。他已經(jīng)在谷歌工作了十多年，成為該領(lǐng)域最受尊敬的人物之一。辛頓表示，他現(xiàn)在對(duì)自己一生從事的工作感到有些后悔。
“我用平常的借口來(lái)安慰自己：就算我沒做，別人也會(huì)做的?！鄙现?，辛頓在多倫多家中的餐廳接受了長(zhǎng)篇采訪時(shí)稱。那里距離他和學(xué)生取得 AI 突破的地方只有幾步之遙。
辛頓從 AI 開拓者到末日預(yù)言者的轉(zhuǎn)變，標(biāo)志著科技行業(yè)在這個(gè)幾十年來(lái)也許最重要的拐點(diǎn)上經(jīng)歷了一個(gè)非凡時(shí)刻。業(yè)界領(lǐng)袖認(rèn)為，新的 AI 系統(tǒng)可能與 20 世紀(jì) 90 年代初推出的網(wǎng)絡(luò)瀏覽器一樣重要，并可能引發(fā)從藥物研究到教育等領(lǐng)域的突破。
但是，令許多業(yè)內(nèi)人士苦惱的是，他們擔(dān)心自己正在向野外釋放一些危險(xiǎn)東西。生成式 AI 已經(jīng)可以成為制造虛假信息的工具。很快，它可能會(huì)對(duì)就業(yè)構(gòu)成威脅?？萍夹袠I(yè)最大的擔(dān)憂者表示，在未來(lái)的某個(gè)時(shí)候，它可能會(huì)對(duì)人類構(gòu)成威脅。
辛頓對(duì)此表示，“很難想象你能如何阻止壞人利用它做壞事”。
自從 OpenAI 在 3 月份發(fā)布了最新版 ChatGPT-4 模型后，包括馬斯克在內(nèi)的上千名科技領(lǐng)袖和高管簽署聯(lián)名信，呼吁暫停開發(fā)比 ChatGPT-4 更先進(jìn)模型 6 個(gè)月時(shí)間，因?yàn)?AI“對(duì)社會(huì)和人類構(gòu)成了深刻風(fēng)險(xiǎn)”。幾天后，有 40 年歷史的學(xué)術(shù)組織人工智能促進(jìn)協(xié)會(huì)的 19 位現(xiàn)任和前任領(lǐng)導(dǎo)人發(fā)表了他們自己的公開信，警告 AI 的風(fēng)險(xiǎn)。該組織包括微軟首席科學(xué)官埃里克?霍維茨 (Eric Horvitz)。微軟已將 OpenAI 的技術(shù)應(yīng)用于一系列產(chǎn)品，包括必應(yīng)搜索引擎。
辛頓沒有在這兩封信上簽名。他說(shuō)，在辭職之前，他不想公開批評(píng)谷歌或其他公司。上個(gè)月，他通知公司他將辭職。周四，他與谷歌母公司 Alphabet CEO 桑達(dá)爾?皮查伊 (Sundar Pichai) 通了電話。他拒絕公開討論與皮查伊談話的細(xì)節(jié)。
谷歌首席科學(xué)家杰夫?迪恩 (Jeff Dean) 在一份聲明中表示：“我們?nèi)匀恢铝τ趯?duì) AI 采取負(fù)責(zé)任的態(tài)度。我們?cè)诓粩鄬W(xué)習(xí)了解新出現(xiàn)的風(fēng)險(xiǎn)的同時(shí)，也在大膽創(chuàng)新?！?/p>
AI 危險(xiǎn)更快到來(lái)
辛頓認(rèn)為，隨著企業(yè)改進(jìn) AI 系統(tǒng)，它們會(huì)變得越來(lái)越危險(xiǎn)。“看看五年前和現(xiàn)在的情況，”他在談到 AI 技術(shù)時(shí)說(shuō)，“接受差異并將其傳播出去。太可怕了?！?/p>
他表示，直到去年，谷歌一直是這項(xiàng)技術(shù)的“適當(dāng)管理者”，小心翼翼地不釋放可能造成傷害的東西。但是現(xiàn)在，微軟用聊天機(jī)器人增強(qiáng)了必應(yīng)搜索引擎，挑戰(zhàn)谷歌的核心業(yè)務(wù)，導(dǎo)致谷歌也在競(jìng)相部署同樣的技術(shù)。辛頓說(shuō)，科技巨頭陷入了一場(chǎng)可能無(wú)法阻止的競(jìng)爭(zhēng)。
他目前最擔(dān)心的是，互聯(lián)網(wǎng)將充斥著虛假照片、視頻和文字，普通人將“無(wú)法再知道什么是真的”。他還擔(dān)心 AI 技術(shù)最終會(huì)顛覆就業(yè)市場(chǎng)。如今，像 ChatGPT 這樣的聊天機(jī)器人往往是對(duì)人類工作者的補(bǔ)充，但它們也可能取代律師助理、個(gè)人助理、翻譯和其他處理機(jī)械化任務(wù)的人?！八∪チ朔敝氐墓ぷ?，但它帶走的可能不止這些?！毙令D稱。
未來(lái)，他擔(dān)心未來(lái)版本的 AI 技術(shù)會(huì)對(duì)人類構(gòu)成威脅，因?yàn)樗鼈兘?jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)意想不到的行為。他說(shuō)，這成了一個(gè)問題，因?yàn)閭€(gè)人和公司不僅允許 AI 系統(tǒng)生成自己的計(jì)算機(jī)代碼，還允許它們自己運(yùn)行這些代碼。他擔(dān)心有一天真正的自主化武器 —— 那些殺人機(jī)器人 —— 會(huì)成為現(xiàn)實(shí)。
“一些人相信，這種東西實(shí)際上會(huì)變得比人更聰明，”他表示，“但大多數(shù)人認(rèn)為這還很遙遠(yuǎn)。我也曾認(rèn)為這還很遙遠(yuǎn)。我認(rèn)為這需要 30 到 50 年甚至更長(zhǎng)的時(shí)間。顯然，我現(xiàn)在不再這么想了?！?/p>
辛頓說(shuō)，當(dāng)人們過去問他如何能研究有潛在危險(xiǎn)的技術(shù)時(shí)，他會(huì)轉(zhuǎn)述美國(guó)“原子彈之父”羅伯特?奧本海默 (Robert Oppenheimer) 的話：“當(dāng)你看到某種從技術(shù)上感覺不錯(cuò)的東西時(shí)，你就會(huì)去做?！?/p>
標(biāo)簽：
