雖說(shuō)“眼見(jiàn)為實(shí)”，但虛擬世界里的“眼見(jiàn)為實(shí)”卻不一定真。如今，“AI（人工智能）換臉”圖片和視頻成為熱門現(xiàn)象，AI換臉、擬聲等技術(shù)，定制性強(qiáng)、應(yīng)用場(chǎng)景廣泛，不法分子作案手法多樣，導(dǎo)致AI犯罪不斷衍生升級(jí)。
2月27日，山西晚報(bào)記者從文水縣公安局獲悉，警方破獲一起注冊(cè)虛假空殼公司虛開(kāi)增值稅發(fā)票案，區(qū)別以往類似案件，犯罪分子在此案中竟然利用“AI換臉技術(shù)”完成了相關(guān)業(yè)務(wù)的注冊(cè)工作。
騙子利用AI換臉技術(shù)注冊(cè)虛假公司
“請(qǐng)眨眼、請(qǐng)張嘴”“人臉識(shí)別成功”……人臉識(shí)別驗(yàn)證技術(shù)，為人們的消費(fèi)和生活帶來(lái)了便利，但一些不法人員卻盯上了它。
2024年12月，文水縣公安局經(jīng)偵大隊(duì)聯(lián)合稅務(wù)稽查部門，對(duì)涉稅案件線索深入研判，成功偵破利用AI換臉技術(shù)注冊(cè)虛假空殼公司虛開(kāi)增值稅發(fā)票案，警方共計(jì)挽回稅款42萬(wàn)余元。
目前，犯罪嫌疑人周某已被警方依法采取刑事強(qiáng)制措施，案件也在進(jìn)一步偵辦中。
民警介紹，“近年來(lái)，AI換臉詐騙成了騙子圈里的‘高科技新寵’，此案的偵破有效阻斷虛開(kāi)黑手，也對(duì)虛開(kāi)犯罪形成有力震懾?！薄癆I換臉擬聲”類詐騙是指不法分子以“網(wǎng)店客服”“營(yíng)銷推廣”“招聘兼職”“婚戀交友”等為借口，通過(guò)微信、電話等方式聯(lián)系消費(fèi)者，采集發(fā)音、語(yǔ)句或面部信息。利用“換臉”“擬聲”等技術(shù)合成消費(fèi)者虛假音頻、視頻或圖像，模擬他人聲音或形象騙取信任，以借錢、投資、緊急救助等借口誘導(dǎo)其親友轉(zhuǎn)賬匯款，或提供銀行賬戶密碼等敏感信息，隨后迅速轉(zhuǎn)移資金。此外，不法分子還可能對(duì)明星、專家、執(zhí)法人員等音視頻進(jìn)行人工合成，假借其身份傳播虛假消息，從而實(shí)現(xiàn)詐騙目的。
經(jīng)了解，近期全國(guó)多地警方破獲不少“AI換臉擬聲”類犯罪案件。有人收到親戚的視頻電話借錢，畫(huà)面里對(duì)方連村里的背景都一模一樣，結(jié)果一核實(shí)竟是AI偽造的假臉假聲；還有公司老板被AI合成的“好友”視頻騙走430萬(wàn)元，整個(gè)過(guò)程只用了10分鐘?！斑@些案例聽(tīng)著像電影情節(jié)，但現(xiàn)實(shí)中已多次發(fā)生，而且它就發(fā)生在我們的身邊?！泵窬f(shuō)。
步驟簡(jiǎn)單 普通人幾分鐘便可“換臉”
普通人如果娛樂(lè)休閑或工作需要，使用“換臉”這項(xiàng)技術(shù)的“門檻”有多高？
采訪中，記者向AI提出問(wèn)題，“我想AI換臉，該如何操作？”幾秒鐘后，對(duì)方給出了詳細(xì)的操作步驟。AI“表示”常用的AI換臉工具有：DeepFaceLab，特點(diǎn)為功能強(qiáng)大，適合專業(yè)人士；FaceSwap，特點(diǎn)為開(kāi)源且易用，適合初學(xué)者；Avatarify，特點(diǎn)為實(shí)時(shí)換臉，適合直播或視頻會(huì)議。
在準(zhǔn)備數(shù)據(jù)環(huán)節(jié)，需要準(zhǔn)備源視頻及目標(biāo)視頻。大白話就是，你臉部的視頻，和你打算換臉的視頻。
以DeepFaceLab為例：在解壓下載并安裝軟件后，便可使用軟件從源視頻和目標(biāo)視頻中提取臉部數(shù)據(jù)。隨后，在DeepFaceLab中，運(yùn)行腳本，選擇合適模型，用提取的數(shù)據(jù)訓(xùn)練模型。訓(xùn)練完成后，再運(yùn)行指定腳本，生成換臉后的視頻或圖片。此后的工作便是使用視頻編輯軟件調(diào)整顏色、亮度等，使換臉更自然?？偨Y(jié)一下，AI換臉操作包括選擇工具、準(zhǔn)備數(shù)據(jù)、安裝軟件、提取臉部數(shù)據(jù)、訓(xùn)練模型、換臉和后期處理。如果你電腦性能不錯(cuò)，質(zhì)量較低的“換臉”幾分鐘便可以實(shí)現(xiàn)。
同樣是利用AI，犯罪分子“換臉擬聲”詐騙又是怎么操作的？
簡(jiǎn)單說(shuō)，騙子會(huì)從你的社交平臺(tái)扒照片、視頻，甚至用你發(fā)過(guò)的語(yǔ)音，通過(guò)深度學(xué)習(xí)算法“復(fù)制”出你的臉和聲音。比如你發(fā)過(guò)一條“今天的天氣真不錯(cuò)”的語(yǔ)音，AI工具只需3-4秒就能生成和你音色八成相似的克隆聲。接著，騙子用這些素材合成一段視頻通話：畫(huà)面里，“你”穿著“微信朋友圈”里穿過(guò)的衣服，背景可能是在你家客廳。點(diǎn)擊播放視頻，你神情有點(diǎn)焦急，張口就說(shuō)“我遇到點(diǎn)急事，你先給這個(gè)賬戶打點(diǎn)錢，具體事一會(huì)“說(shuō)”。由于技術(shù)太逼真，不少人直接中招，特別是針對(duì)老年群體的詐騙，詐騙成功率可以說(shuō)是接近100%。
突然問(wèn)點(diǎn)“瑣事”AI最容易“卡殼”
“我們現(xiàn)在都覺(jué)得打視頻電話最穩(wěn)妥，因?yàn)椤垡?jiàn)為實(shí)’么，所以很多人不會(huì)想到視頻中的‘親人’‘朋友’‘領(lǐng)導(dǎo)’是經(jīng)過(guò)AI偽裝的騙子！”根據(jù)警方已經(jīng)破獲的相關(guān)案例來(lái)看，騙子“換臉擬聲”后可能會(huì)冒充親友、領(lǐng)導(dǎo)要求轉(zhuǎn)賬匯款，也可能冒充網(wǎng)紅、富豪等誘導(dǎo)交友戀愛(ài)。最可恨的，他們還冒充公檢法人員威脅恐嚇老百姓。盡管AI騙局更難被識(shí)別，但只要你了解AI詐騙的套路和應(yīng)對(duì)方法，也就不會(huì)上當(dāng)了。
第一招：讓“他”摸臉、捏鼻子，AI立馬露餡
“如果視頻里的人突然找你借錢，先別急著轉(zhuǎn)。你可以要求對(duì)方先摸摸臉或者捏捏鼻子，這個(gè)要求聽(tīng)著好像滑稽，但測(cè)試AI是有效的?！闭嫒说哪槙?huì)被手擋住部分，但AI換臉技術(shù)遇到遮擋物就容易“穿幫”：畫(huà)面可能出現(xiàn)水波紋、面部扭曲，甚至鼻子被捏住后毫無(wú)變形。警方實(shí)測(cè)發(fā)現(xiàn)，多數(shù)AI換臉視頻用睜眼照片合成，假臉幾乎不會(huì)眨眼。你可以故意說(shuō)“你眼睛進(jìn)東西了”，讓對(duì)方頻繁眨眼，真人的眼皮活動(dòng)會(huì)更自然。
第二招：交流中，突然問(wèn)點(diǎn)“瑣事”
當(dāng)騙子使用AI換臉擬聲詐騙時(shí)，不管事先準(zhǔn)備的“話術(shù)”多完善，也架不住你突然問(wèn)個(gè)“瑣事”。這些問(wèn)題越具體越好，最好是僅你們私下知道的事情，比如“上回你請(qǐng)我吃飯，飯店叫什么名字？”“你家孩子的小名叫什么？”最好選沒(méi)在社交平臺(tái)提過(guò)的細(xì)節(jié)。警方表示，騙子能偽造臉和聲音，但復(fù)制不了真實(shí)的人際記憶。
第三招：掛斷再回?fù)?，真假立現(xiàn)
“遇到借錢、轉(zhuǎn)賬等要求，立刻掛斷，再用微信、手機(jī)號(hào)主動(dòng)回?fù)艽_認(rèn)。這個(gè)辦法非常好用，但很多人不知道。”從事多年反詐工作的民警介紹，真正的視頻通話是實(shí)時(shí)雙向畫(huà)面，但AI詐騙常用提前合成的單向視頻，對(duì)方要是微信給你打過(guò)來(lái)的，你就通過(guò)手機(jī)號(hào)給他撥回去，很多騙局當(dāng)場(chǎng)拆穿。需要提醒的是，如果是微信新加的“熟人”，務(wù)必檢查賬號(hào)是否一致——有騙子會(huì)注冊(cè)高仿號(hào)，頭像、昵稱都和原主一模一樣，但仔細(xì)看微信號(hào)差一個(gè)字母。
保持良好習(xí)慣莫讓AI“看透”你
除了上述這三招，大家平時(shí)還要注意“捂緊”個(gè)人信息，莫讓AI“看透”你。
從警方破獲的相關(guān)案例來(lái)看，一些騙子目前已經(jīng)開(kāi)始利用AI，點(diǎn)對(duì)點(diǎn)分析公眾發(fā)布在網(wǎng)上的各類信息。他們會(huì)根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。針對(duì)這個(gè)情況，我們?cè)谙硎蹵I服務(wù)帶來(lái)便利的同時(shí),更應(yīng)提高警惕，千萬(wàn)不能忽視潛在的隱私危機(jī)。
首先，大家在使用手機(jī)時(shí)，建議僅允許APP獲取實(shí)現(xiàn)基本功能所需的必要權(quán)限。從位置信息到通訊錄，從短信內(nèi)容到瀏覽記錄，這些看似無(wú)關(guān)緊要的權(quán)限收集，正編織一張張無(wú)形的隱私“捕撈網(wǎng)”。一旦這些信息被泄露，我們的隱私將面臨巨大風(fēng)險(xiǎn)。不法分子可能借此實(shí)施精準(zhǔn)詐騙，甚至對(duì)人身安全造成威脅。
其次，在常用的APP設(shè)置中，關(guān)閉“興趣推薦”“個(gè)性廣告”，要養(yǎng)成定期清理瀏覽記錄和歷史記錄的習(xí)慣。一些APP看似貼心服務(wù)的背后，是AI算法對(duì)我們的深度挖掘與關(guān)聯(lián)分析，過(guò)多的個(gè)性化推薦更是讓我們深陷“信息繭房”。你認(rèn)為自己只是接觸感興趣的內(nèi)容，殊不知，是逐漸沉迷于AI定制的“舒適圈”。根據(jù)你的習(xí)慣，AI對(duì)你的“畫(huà)像”將異常清晰，當(dāng)這些數(shù)據(jù)被不法分子掌握時(shí)，你的“軟肋”也將全面暴露在對(duì)方面前，而有針對(duì)性的詐騙也將緊隨而來(lái)。
最后，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，在AI高速發(fā)展的今天十分重要，因?yàn)榛ヂ?lián)網(wǎng)是有“記憶”的。正確的做法是，盡量減少在社交平臺(tái)上發(fā)布個(gè)人信息圖片、視頻等內(nèi)容，尤其是高清正臉照、證件照、工牌照。陌生人發(fā)的鏈接別隨便點(diǎn)，防止手機(jī)被植入木馬盜取照片。不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等。如果真遇到可疑情況，立刻撥打110或反詐專線96110。
再次重申，如果有人聲稱是“家人”“朋友”“老師”“領(lǐng)導(dǎo)”通過(guò)社交軟件、短信、電子郵件等以各種方式引導(dǎo)你轉(zhuǎn)賬匯款，請(qǐng)務(wù)必要提高安全意識(shí)，并通過(guò)電話、視頻等多種方式確認(rèn)對(duì)方是否為本人。因?yàn)槎嘁淮未_認(rèn)，關(guān)鍵時(shí)刻真能保住血汗錢。
山西晚報(bào)記者 辛戈
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號(hào) 
