焦點(diǎn)熱訊:定制換臉視頻僅需數(shù)十元？ 謹(jǐn)防詐騙手法披上AI外衣
謹(jǐn)防詐騙手法披上AI外衣（主題）
北京日?qǐng)?bào)記者 袁璐
日前，全國(guó)多地警方發(fā)布了多個(gè)“AI詐騙”的典型案例，案件披露后，“AI詐騙正在全國(guó)爆發(fā)”話題一度沖上熱搜第一，引發(fā)網(wǎng)友熱議。記者調(diào)查發(fā)現(xiàn)，目前有不少人對(duì)外提供定制AI換臉視頻，僅需正面半身照即可，成本低至數(shù)十元。
(資料圖片)
“當(dāng)下AI換臉技術(shù)已相當(dāng)成熟，容易被不法分子利用，但無(wú)需過分恐慌及妖魔化AI換臉的可用范圍?！本W(wǎng)絡(luò)安全專家表示，面對(duì)利用AI技術(shù)的新型騙局，公眾需提高警惕，碰到支付、轉(zhuǎn)賬等，盡量多渠道驗(yàn)證對(duì)方身份。
突然泛濫
多款軟件可快速實(shí)現(xiàn)AI換臉
AI換臉技術(shù)，是一種利用人工智能和計(jì)算機(jī)視覺技術(shù)，將一張人臉圖像的特征和表情轉(zhuǎn)換到另一張人臉圖像上，實(shí)現(xiàn)“換臉”效果?！癆I換臉技術(shù)已相當(dāng)成熟，使用門檻越來越低。”專注云計(jì)算與移動(dòng)終端安全研究的“白帽黑客”陳玉（化名）告訴記者，早在2017年，就有某ID名為“Deepfakes”的用戶首次發(fā)布AI換臉視頻?！霸撚脩糍~號(hào)不久被封殺，但他直接開源了其AI換臉項(xiàng)目的代碼?！?/p>
代碼開源后，AI換臉技術(shù)宛如被打開的“潘多拉魔盒”，迅速席卷全球。“只要具備基礎(chǔ)的電腦知識(shí)，一個(gè)‘小白’也能在一天做出一個(gè)換臉視頻。”陳玉表示，目前市面上有多款軟件可快速實(shí)現(xiàn)AI換臉。除國(guó)外發(fā)布的專業(yè)軟件外，國(guó)內(nèi)部分娛樂APP也內(nèi)嵌了AI換臉功能。
昨天，記者下載了一款名為Face-Play的APP?！耙绘IAI換臉變裝，還原平行宇宙的你！”該APP表示，用戶需要在APP界面內(nèi)拍攝完成一張比較規(guī)范的正面人像，點(diǎn)擊變臉，選擇自己想要的變臉特效即可獲得AI換臉視頻，模板多達(dá)3000多款，含“古風(fēng)漢服”“經(jīng)典角色”“氣質(zhì)美女”“港風(fēng)女神”等。不過該APP采用付費(fèi)制，周會(huì)員為17元，年會(huì)員為398元。此外，微信上還有不少有AI換臉功能的娛樂小程序，用戶無(wú)需下載也可在線使用。
隨便能買
定制AI換臉視頻僅需數(shù)十元
“眾女星換臉女兒國(guó)國(guó)王誰(shuí)更適配？楊超越、迪麗熱巴……”在B站上，這樣的明星換臉視頻播放量往往突破10萬(wàn)次。除明星換臉外，記者注意到，電商平臺(tái)上有商家抓住了人們對(duì)過世親人的思念，推出“AI想念的人”等視頻合成服務(wù)，一條合成視頻收費(fèi)50元，月銷量超40件。
“你只需要提供一張人物正面半身照給我，我就能讓嘴巴眼睛動(dòng)起來。你提供文字，他說出這段話?！痹撎詫毜曛饕贿吔榻B，一邊向記者出示了一條“客片”：“親愛的家人們，我想念你們，我和你們的外公在這邊過得很好，你們工作忙但也要照顧好身體?！痹谠摰曛靼l(fā)來的視頻里，一位頭發(fā)花白的老奶奶盯著鏡頭諄諄叮囑，面部表情自然，甚至帶有方言口音。
此外，還有不少商家以9.9元、19.9元等價(jià)格出售高清AI視頻換臉制作的教程，并提供多套模板和數(shù)字虛擬人面部捕捉工具。但記者發(fā)現(xiàn)，這類商品大多差評(píng)多多。“不要買，沒有用”“騙人的，誰(shuí)買誰(shuí)上當(dāng)”“資料包沒有想象中那么簡(jiǎn)單，也沒有人工售后，全靠自學(xué)”，網(wǎng)友們?cè)u(píng)價(jià)道。
“找人定制AI換臉視頻，看起來成片效果好，但實(shí)際上有很大的安全隱患?！标愑癖硎?，這一過程需要搜集大量的面部識(shí)別信息，而這恰恰是用戶最核心的個(gè)人信息?！皞€(gè)人信息一旦被比對(duì)之后，如果落到不法分子的手里，極易威脅到財(cái)產(chǎn)安全和人身安全。”
加強(qiáng)防范
AI詐騙有待更高層面監(jiān)管
AI換臉技術(shù)的可及性，讓AI詐騙頻發(fā)。近日，包頭市公安局發(fā)布一起使用AI技術(shù)進(jìn)行電信詐騙的案件，受害人郭先生10分鐘內(nèi)被騙430萬(wàn)元。5月25日，4月發(fā)生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經(jīng)開區(qū)發(fā)生的“冒充熟人”詐騙案中，詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”，詐騙金額達(dá)245萬(wàn)元。
基于AI換臉的詐騙手段已發(fā)展到什么地步？對(duì)此，奇安信首席反詐騙專家裴智勇對(duì)記者表示，不法分子在使用AI換臉進(jìn)行詐騙時(shí)，大多以發(fā)送或展示AI換臉視頻片段作為手段?！氨热缱罱教岬降?秒AI換臉視頻，它其實(shí)沒有和受害人發(fā)生真實(shí)交互，由于時(shí)間很短，受害人也很難詳細(xì)分辨?！?/p>
“但我們無(wú)需過分恐慌及妖魔化AI換臉的可用范圍。”裴智勇表示，以目前技術(shù)來看，想要盜取微信賬號(hào)、劫持微信鏡頭并在實(shí)時(shí)視頻聊天中運(yùn)用AI實(shí)時(shí)換臉和變聲技術(shù)，難度和成本都極高?！膀_子通常都是用很低的成本博取很高的收益，不太可能花費(fèi)高昂代價(jià)去批量尋找受害者。”
陳玉表示，普通用戶防范AI詐騙，關(guān)鍵在保護(hù)個(gè)人面部信息，防止被不法分子所獲取?！坝脩舨灰诨ヂ?lián)網(wǎng)上隨意公開發(fā)布包含自己高清正面人臉的照片和視頻，或與不熟悉的人隨意進(jìn)行線上視頻等?！?/p>
“沒有經(jīng)過訓(xùn)練的普通人想要用肉眼識(shí)別視頻是否為AI合成，難度極高。騙子甚至不會(huì)給你詳細(xì)判斷的機(jī)會(huì)，幾秒就掛斷?！迸嶂怯抡J(rèn)為，公眾與其花費(fèi)大量精力分辨騙子發(fā)來視頻的真假，不如在有懷疑時(shí)直接換一種渠道驗(yàn)證對(duì)方身份，業(yè)內(nèi)稱為“雙因子身份驗(yàn)證”?！氨热绾糜岩曨l聊天后要求轉(zhuǎn)賬，你就撥打?qū)Ψ诫娫捥?hào)碼再次確認(rèn)；對(duì)方使用微信談?wù)摻灰?，你就不妨用QQ再找他問問。多渠道驗(yàn)證要比肉眼分辨視頻容易得多，也可靠得多?！?/p>
同時(shí)，業(yè)內(nèi)專家認(rèn)為，AI詐騙亟待更高層面監(jiān)管，比如監(jiān)管部門應(yīng)該建立專門的人工智能安全機(jī)構(gòu)，監(jiān)督AI技術(shù)在不同領(lǐng)域內(nèi)的應(yīng)用。技術(shù)企業(yè)也應(yīng)該加強(qiáng)數(shù)據(jù)合規(guī)建設(shè)，在人工智能設(shè)計(jì)中嵌入個(gè)人信息保護(hù)機(jī)制，并采用技術(shù)措施和管理制度，確保個(gè)人信息安全。
標(biāo)簽：
