“在商場(chǎng)差點(diǎn)被騙了，一個(gè)50多歲的大姐舉著手機(jī)對(duì)我說：小兄弟，我這卡號(hào)看不清，你幫我讀一下……”

“只要你對(duì)著視頻說出4-6個(gè)數(shù)字，對(duì)方就能同時(shí)盜取你的面部識(shí)別加音頻，生成AI的活體模型，接著破解你的身份證、銀行卡、手機(jī)號(hào)，再用木馬攔截短信驗(yàn)證碼?！?/p>

“全程不超過30分鐘，就能在網(wǎng)貸平臺(tái)瘋狂借款！”

……

近期，“AI換臉網(wǎng)貸”防騙提醒視頻在社交平臺(tái)熱傳，引發(fā)網(wǎng)友熱議。對(duì)著手機(jī)屏幕朗讀數(shù)字，就可能在短時(shí)間內(nèi)背負(fù)高昂的網(wǎng)貸，真有這樣的新騙術(shù)嗎？新民晚報(bào)記者采訪了反詐民警、技術(shù)專家等，他們均表示“可能性不大”。不過，警方仍提醒廣大市民朋友，在日常生活中應(yīng)提高自我防范意識(shí)，避免隨意泄露個(gè)人信息。

“讀數(shù)字即網(wǎng)貸”可能性不大

記者梳理發(fā)現(xiàn)，社交平臺(tái)流傳的相關(guān)視頻，大多采用“親身經(jīng)歷”式敘事，內(nèi)容也高度相似：陌生人街頭巷尾求助“讀數(shù)字”，背后暗藏AI換臉網(wǎng)貸陷阱。其中，有一些視頻更成為了點(diǎn)贊數(shù)、轉(zhuǎn)發(fā)數(shù)都超過10萬的“爆款”。

記者聯(lián)系了上海市公安局刑偵總隊(duì)，負(fù)責(zé)上海市反詐中心接警處置的二支隊(duì)副大隊(duì)長(zhǎng)王燁華告訴記者：“根據(jù)辦案實(shí)際，在上海目前沒有這樣的案例?！?/p>

王燁華分析，從視頻描述看，在極短時(shí)間內(nèi)通過AI換臉在網(wǎng)貸平臺(tái)借款，可能性不大?！皩?duì)著陌生人的手機(jī)朗讀數(shù)字，確實(shí)能獲取聲音和臉部信息，可對(duì)方?jīng)]有你的身份信息、手機(jī)號(hào)、銀行卡等，也沒有通過網(wǎng)貸平臺(tái)，怎么貸款呢？”不過，他仍提醒廣大市民提高防范意識(shí)：“泄露的個(gè)人信息容易被不法分子二次利用，總歸是有安全風(fēng)險(xiǎn)隱患的?！?/p>

浦東公安分局刑偵支隊(duì)副支隊(duì)長(zhǎng)、反詐中心主任傅炯杰同樣表示：“我們沒有接報(bào)此類案件。”

記者又采訪了網(wǎng)絡(luò)信息安全、身份認(rèn)證及數(shù)據(jù)安全領(lǐng)域的專家，上海市信息安全行業(yè)協(xié)會(huì)名譽(yù)會(huì)長(zhǎng)談劍鋒。他認(rèn)為，視頻中描述的情況在現(xiàn)實(shí)生活中實(shí)現(xiàn)的概率很低。

“單從技術(shù)邏輯上來說，如今AI技術(shù)確實(shí)可以生成人臉模型，但效果如何，不能一概而論，也并非視頻里所說的這么簡(jiǎn)單。”談劍鋒說，“我也沒有碰到過這樣的案例。”

“AI換臉”已被用于違法犯罪

盡管視頻中的描述比較夸張，不過記者檢索信息發(fā)現(xiàn)，AI換臉技術(shù)確實(shí)已被一些不法分子用于違法犯罪。

近期，南京市玄武區(qū)人民法院審理了一起案件。被告人符某利用非法獲取的195萬多條公民個(gè)人信息和AI換臉軟件，登錄了23名被害人的金融平臺(tái)支付賬戶。2024年10月，法院以侵犯公民個(gè)人信息罪、信用卡詐騙罪數(shù)罪并罰，判處符某有期徒刑4年6個(gè)月。

本案中的某金融支付平臺(tái)，存在技術(shù)風(fēng)險(xiǎn)——符某利用AI生成的動(dòng)態(tài)視頻，比如左搖頭、右搖頭、張嘴等，就能登錄平臺(tái)，修改支付密碼。對(duì)此，檢察機(jī)關(guān)發(fā)出了法律風(fēng)險(xiǎn)提示函，目前，該金融支付平臺(tái)已完成整改。

上海市公安局刑偵總隊(duì)提醒廣大市民朋友，在日常生活中應(yīng)提高自我防范意識(shí)，避免隨意泄露個(gè)人信息，除了解鎖自己的手機(jī)，或在銀行、隨申辦等官方軟件中驗(yàn)證需要之外，其他場(chǎng)景建議謹(jǐn)慎使用人臉識(shí)別。

此外，業(yè)內(nèi)人士指出，應(yīng)用人臉識(shí)別技術(shù)的單位應(yīng)采取更嚴(yán)格的安全措施，采用防偽鑒別程序等，以免被不法分子鉆了空子。