萬億巨頭出手：禁止員工使用ChatGPT類工具！ChatGPT安全性惹爭議 世界觀點
自誕生之日起即炙手可熱的ChatGPT，因安全風險而廣受科技巨頭們審視，這一次出手的是萬億巨頭三星。
據(jù)外媒報道，近期三星電子已在內部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔心會帶來安全風險。
三星的擔心并非空穴來風。據(jù)此前消息顯示，三星電子引入聊天機器人ChatGPT不到20天就發(fā)生了3起涉及ChatGPT的事故。與此同時，目前多家國際投行及科技公司均對ChatGPT持謹慎態(tài)度。
(資料圖片僅供參考)
不過，雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對AI采取封閉式態(tài)度。據(jù)國外科技媒體報道，近日三星向旗下所有的手機以及平板電腦產品推送了微軟BingAI更新，在這一更新完成后，三星用戶可直接通過手機或者平板使用微軟BingAI。
來看詳情——
禁止員工使用生成式AI
違者可能遭解雇
據(jù)外媒周一報道，三星電子已在內部備忘錄告知員工，停止使用ChatGPT和Bard等生成式AI工具，理由是擔心會帶來安全風險。
報道稱，內部備忘錄表示，三星電子擔心傳輸?shù)焦雀鐱ard和微軟Bing等人工智能平臺的數(shù)據(jù)存儲在外部服務器上，難以檢索和刪除，最終可能會泄露給其他用戶。
內部備忘錄顯示，三星電子上個月進行了一項關于內部使用AI工具的調查，其中65%的受訪者認為此類服務存在安全風險。今年4月初，三星工程師將內部源代碼上傳到了ChatGPT，目前還不清楚這些信息包含什么。
與此同時，三星正在開發(fā)自己的內部AI工具，用于翻譯和總結文件以及軟件開發(fā)，還在研究阻止敏感公司信息上傳到外部服務的方法?！翱偛空趯彶榘踩胧?，以創(chuàng)造一個安全的環(huán)境，以安全地使用生成式AI來提高員工的生產力和效率。但是，在準備好這些措施之前，我們暫時限制生成式AI的使用?！?/p>
據(jù)了解，三星電子的新政策禁止在公司自有的電腦、平板電腦和手機以及內部網(wǎng)絡上使用生成式AI系統(tǒng)，不會影響銷售給消費者的設備，例如Android智能手機和Windows筆記本電腦。
另外三星在備忘錄中表示：“我們要求您認真遵守我們的安全指南，否則可能會導致公司信息泄露，違者進行紀律處分，甚至包括解雇?！?/p>
曾出現(xiàn)資料外泄事故
不到20天3起
三星此次采取備忘錄的方式提醒全體員工之舉，并非空穴來風。
據(jù)此前消息顯示，三星電子引入聊天機器人ChatGPT不到20天就發(fā)生了3起涉及ChatGPT的事故。3起事故中，其中2起與半導體設備有關，另一起與內部會議有關。具體為：
案件一，三星設備解決方案部門的職員A在半導體設備測量資料庫下載軟件時，發(fā)現(xiàn)源代碼出現(xiàn)錯誤，便將有問題的部分復制到ChatGPT中尋找解決方案。
案件二同樣發(fā)生在設備解決方案部門，職員B將用于識別產品良率的程序代碼輸入進ChatGPT，要求其優(yōu)化代碼。
案件三是該部門的職員C為了制作會議記錄，將手機上的會議內容轉換為文檔，之后將文檔輸入進ChatGPT。
相關報道稱，前兩起案件已分別導致三星公司的半導體設備測量資料、產品良率等機密內容錄入到ChatGPT的學習資料庫中。
不難發(fā)現(xiàn)，上述三起泄密事件均發(fā)生在三星電子半導體暨裝置解決方案（Device Solutions）部門。此前，三星曾因擔憂內部機密外泄而禁用ChatGPT，但基于半導體是“生成式AI”的建構基礎，三星自3月11日起允許DS部門使用ChatGPT。
對于上述泄密事件，三星方面回應，已加強ChatGPT相關的安全措施，將進一步收緊內部監(jiān)管和員工培訓。公司還特地發(fā)布公告叮囑員工注意使用ChatGPT的方式，如果再次發(fā)生類似事件，內部可能會切斷ChatGPT服務。
三星通過內部公告警示說：“在ChatGPT中輸入內容的瞬間，數(shù)據(jù)就會發(fā)送到外部服務器并存儲，公司無法收回。如果ChatGPT學習相關內容，敏感內容可能會提供給不特定的多數(shù)人。”
已推送微軟Bing AI更新
雖然暫停員工使用ChatGPT類工具，但這并不意味著三星對AI采取封閉式態(tài)度。
據(jù)外媒報道，三星近日向旗下所有的手機以及平板電腦產品推送了微軟Bing AI更新，在這一更新完成后，三星用戶可直接通過手機或者平板使用微軟Bing AI。
據(jù)韓媒今年3月報道，三星電子DX部門負責人韓鐘熙（副會長）21日在首爾舉行的新產品發(fā)表活動中表示，將集中全部力量擴大機器人事業(yè)，把機器人作為新的增長動力，同時加強了外部投資及合作。三星風險投資當天表示，利用從三星電子出資籌集的基金，向無人駕駛機器人初創(chuàng)公司New Bility投資了30億韓元。
作為韓國最大的跨國企業(yè)集團，三星集團包括眾多國際下屬企業(yè)，其中三星電子為三星旗下最大的子公司。數(shù)據(jù)顯示，三星電子總市值達391.02億韓元（約合2.01億人民幣）。
4月27日，三星電子公布了其2023年第一季度的財報。數(shù)據(jù)顯示，2023年第一季度，三星電子實現(xiàn)營業(yè)利潤6402億韓元（約合人民幣33億元），同比下降95%，為14年來的最低水平；凈利潤1.40萬億韓元（約合人民幣72億元）；銷售額63.75萬億韓元（約合人民幣3295億元），同比下降18%。
值得關注的是，三星電子半導體業(yè)務第一季度虧損4.58萬億韓元（約合人民幣236億元），而去年同期該業(yè)務有8.45萬億韓元的利潤。三星電子表示，由于科技行業(yè)的長期低迷嚴重打擊了其存儲芯片業(yè)務，第一季度利潤驟減至金融危機以來所未見。
ChatGPT安全性惹爭議
因安全問題而對ChatGPT采取“禁用”、“暫?！笔侄蔚拇笮凸?，三星不是第一家，也不會是最后一家。
首先對ChatGPT表示“拒絕”的，當屬金融行業(yè)。ChatGPT掀起熱潮不久后，今年2月，JP摩根大通、美國銀行、花旗、富國銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT。這不僅因為ChatGPT屬于第三方應用軟件，不是公司內部系統(tǒng)，更因為與AI共享敏感財務數(shù)據(jù)的潛在監(jiān)管風險。
例如，摩根大通不準員工在辦公室使用ChatGPT，其表示，有關禁令并非源自任何特定事件，而是基于公司對第三方軟件的正常管控。美國銀行例行提醒員工切勿使用未經(jīng)授權軟件時，也特別點名提到ChatGPT。
德意志銀行表明，嚴禁員工在公司內用ChatGPT，并從內部阻斷連接OpenAI網(wǎng)站。而盡管高盛鼓勵編程人員采用AI來輔助編程，但禁止旗下交易員使用ChatGPT。
韓國方面，除三星外，全球第二大存儲芯片巨頭韓國SK海力士稱“除必要時刻外”，幾乎禁止公司內部網(wǎng)使用ChatGPT。韓國液晶面板龍頭公司LG Display通過公司內部帖子和教育、活動等，隨時強調公司內部信息保護和防止泄漏等信息安全認識。
據(jù)日媒報道，日本軟銀集團此前向全體員工通報了禁止在ChatGPT中輸入機密信息等注意事項，該集團還計劃制定了哪些業(yè)務或用途可以使用交互式AI的規(guī)則。瑞穗金融集團、三菱UFJ銀行、三井住友銀行禁止將ChatGPT等交互式AI用于業(yè)務。松下控股旗下松下Connect在制定信息泄露對策后才允許使用交互式AI。富士通設置了“AI倫理治理室”，提醒用戶使用交互式AI時的注意點。
3月23日，OpenAI的首席執(zhí)行官Sam Altman公開承認開源庫中出現(xiàn)錯誤，導致部分用戶與ChatGPT的聊天記錄被泄露。當天他發(fā)布致歉推文，表示已經(jīng)修復了錯誤并完成驗證。
政府方面，此前意大利個人數(shù)據(jù)保護局曾宣布禁止使用ChatGPT，并限制OpenAI公司處理意大利用戶信息。不過據(jù)意媒上周五報道，被勒令下線近一個月后，ChatGPT已經(jīng)在該國恢復服務。
4月30日，七國集團數(shù)字與技術部長會議同意對人工智能采取“基于風險的”監(jiān)管。七國集團的部長在聯(lián)合聲明中表示，此類監(jiān)管也應為人工智能技術的發(fā)展“維護一個開放和有利的環(huán)境”。
另外，近期歐盟提出新的立法草案，要求ChatGPT等人工智能工具的開發(fā)商，披露他們在構建AI系統(tǒng)時使用的版權材料。這一規(guī)則將賦能出版商和內容創(chuàng)作者，使他們在作品被ChatGPT等AI工具用作生成內容的原始材料時，可尋求利潤分成。
（文章來源：中國基金報）
標簽：
