從輔助撰寫報告到智能理財(cái)、健康咨詢,DeepSeek等國產(chǎn)AI大模型的爆發(fā)式普及,正重塑著普通人的生活。然而,技術(shù)的普惠性也催生了新型犯罪溫床。
據(jù)網(wǎng)絡(luò)安全實(shí)驗(yàn)室統(tǒng)計(jì),僅2024年12月1日至2025年2月期間,就出現(xiàn)了超過2000個仿冒DeepSeek的山寨網(wǎng)站,打著“免費(fèi)內(nèi)測”“AI暴富課”旗號誘導(dǎo)用戶下載惡意軟件,造成個人信息泄露甚至資金被盜。
不久前,網(wǎng)上出現(xiàn)某知名醫(yī)生帶貨的視頻,其售賣一種蛋白。有老人信以為真下單購買。但該醫(yī)生澄清,視頻中的人物并非他本人。經(jīng)過核實(shí),“醫(yī)生帶貨視頻”為AI合成。
此類案件暴露出技術(shù)下沉中的“認(rèn)知鴻溝”——普通用戶對AI技術(shù)的信任,正被黑產(chǎn)精準(zhǔn)收割。
具體到日常生活,AI詐騙已滲透至社交陷阱、消費(fèi)欺詐和信息泄露三大高頻場景。為了量化AI詐騙的社會沖擊,新京報有理數(shù)基于銳研數(shù)據(jù)平臺,抓取103篇主流媒體報道案例(2023年3月1日至2025年3月1日),通過拆解兩年間的多維度數(shù)據(jù),試圖精準(zhǔn)刻畫受騙人群畫像(如高凈值企業(yè)主、老年群體),追蹤騙局場景的迭代路徑(從“視頻仿冒”到“交友陷阱”),并評估其對網(wǎng)絡(luò)應(yīng)用、生產(chǎn)安全乃至社會信任的沖擊。
誰在被AI詐騙精準(zhǔn)圍獵?
傳統(tǒng)電詐中,詐騙分子集中圍獵“一老一少”的情況比較常見,例如中國銀聯(lián)曾發(fā)布的《2023年移動支付安全大調(diào)查報告》顯示,75.7%的大學(xué)生和77.7%的大齡群體收到過詐騙信息。
面對完全可以以假亂真的AI詐騙,老年群體和年輕群體更是沒有招架之力。通過抓取的新聞案例我們發(fā)現(xiàn),2023年至2025年,在AI詐騙案件中,老年人和年輕人各占27%,學(xué)生和職員群體各占10%。
2024年,封面新聞曾對1500多名大學(xué)生做過一個調(diào)研,結(jié)果顯示半數(shù)受訪大學(xué)生本人或身邊的人曾遭遇疑似AI詐騙,超7成大學(xué)生對AI詐騙感到恐慌,坦言“面對AI詐騙防不勝防”,僅有25.1%認(rèn)為“騙不到自己身上”。
與傳統(tǒng)電詐相比,在AI技術(shù)的加持下,詐騙活動不再搞“大水漫灌”,而是“精準(zhǔn)滴灌 ”。詐騙分子不再用傳統(tǒng)的話術(shù)去廣撒網(wǎng),而是利用AI技術(shù)事先篩選,摸清受騙者的詳細(xì)身份信息,量身定制詐騙套路,進(jìn)而進(jìn)行精準(zhǔn)詐騙。如此之下,受害者身份更加廣泛、多元,中年企業(yè)家和寶媽等群體也被盯上。
據(jù)中國青年報報道,2023年,寶媽王枚(化名)在境外求學(xué)期間通過社交平臺結(jié)識偽裝成房東的男性網(wǎng)友,對方利用AI換臉換聲技術(shù)獲取其信任并發(fā)展戀愛關(guān)系。隨后以投資加密貨幣為名誘騙其小額試水獲利,逐步誘導(dǎo)加大投入,致使王枚抵押房產(chǎn)、網(wǎng)貸累計(jì)損失約200萬元,最終提現(xiàn)受阻發(fā)現(xiàn)被騙。
同時數(shù)據(jù)也發(fā)現(xiàn),經(jīng)濟(jì)發(fā)達(dá)地區(qū)更容易成為AI詐騙的高發(fā)地帶。在樣本數(shù)據(jù)匯總中,上海、北京、浙江等省市的案例占比超過45%,海外案例也占到了5%。
一方面,經(jīng)濟(jì)發(fā)達(dá)地區(qū)人口密集,人員流動性大,個人信息更容易被泄露和濫用。另一方面,這些地區(qū)的人們對新技術(shù)的接受度較高,使用AI相關(guān)服務(wù)的頻率也更高,這就給了詐騙分子更多可乘之機(jī)。此外,經(jīng)濟(jì)發(fā)達(dá)地區(qū)的金融活動頻繁,資金流動量大,詐騙分子也更傾向于選擇這些地區(qū)作為目標(biāo)。
騙子為了用AI騙到你,到底有多“努力”
AI技術(shù)普及讓詐騙門檻大幅降低,為“個人獨(dú)狼式”詐騙提供滋生土壤。以往我們在電影《孤注一擲》中看到的大多數(shù)是由成百上千名詐騙分子組成的大型詐騙集團(tuán)充當(dāng)主角,集團(tuán)內(nèi)部分工明確。
而現(xiàn)在在AI技術(shù)的輔助下,一兩名詐騙分子就可以展開個人作案,AI技術(shù)承擔(dān)了從目標(biāo)篩選到身份偽裝,再到實(shí)施詐騙和逃避打擊過往詐騙中的關(guān)鍵工作,并且這種情形已經(jīng)超過六成。
在這場新型犯罪中,AI技術(shù)被“武器化”的程度令人咋舌。
根據(jù)對103篇新聞報道的分析,AI換臉技術(shù)在詐騙案件中的使用率近一半,語音合成技術(shù)約四成。犯罪分子通過非法獲取的人臉照片和語音樣本,利用開源AI工具生成逼真的虛擬形象。
大行其道的AI換臉技術(shù),既是犯罪分子最喜歡的作案工具,也是公安部嚴(yán)厲打擊的重點(diǎn)對象。早在2023年8月,公安部就曾召開新聞發(fā)布會稱,針對“AI換臉”導(dǎo)致群眾被欺詐的問題,公安機(jī)關(guān)發(fā)起專項(xiàng)會戰(zhàn),偵破相關(guān)案件79起,抓獲犯罪嫌疑人515名。
但此類案件一直有抬頭趨勢,據(jù)央視新聞報道,2024年深圳市民吳先生收到陌生彩信,內(nèi)有合成其與陌生女子的不雅照并遭勒索轉(zhuǎn)賬。警方調(diào)查發(fā)現(xiàn)犯罪團(tuán)伙利用AI技術(shù)偽造照片實(shí)施敲詐,最終在多地警方協(xié)作下抓獲以王某為首的十余名嫌疑人。
另一方面,AI技術(shù)的普及使得詐騙手段更加多樣化和難以防范,沒有深厚技術(shù)背景的人也能輕松獲取和使用相關(guān)技術(shù)進(jìn)行詐騙活動,詐騙場景的多樣性超出想象,冒充公檢法機(jī)關(guān)、偽造親友求助、虛擬投資平臺等套路層出不窮。
數(shù)據(jù)顯示,在所有AI詐騙案例中,冒充類詐騙占比高達(dá)62%,其次是金融類和交易類詐騙。內(nèi)蒙古警方破獲的一起AI換臉詐騙案中,福建某科技公司老板郭先生在視頻通話中目睹“好友”面容、親聞其聲,10分鐘內(nèi)被騙轉(zhuǎn)賬430萬元,事后發(fā)現(xiàn)對方竟是AI換臉與擬聲技術(shù)合成的“數(shù)字替身”。
同時,詐騙分子還把AI技術(shù)應(yīng)用到了交友賽道。央視報道,上海劉先生在短視頻平臺結(jié)識 “焦女士”,發(fā)展為網(wǎng)戀后對方以開店、手術(shù)等名義騙取20萬元,警方調(diào)查發(fā)現(xiàn)該團(tuán)伙使用AI生成虛假照片實(shí)施婚戀詐騙,涉案金額超200萬元。
隨著AI技術(shù)的不斷升級,互聯(lián)網(wǎng)詐騙手段不斷更新,甚至逐漸形成了一條分工明確、相互協(xié)作的完整化黑色產(chǎn)業(yè)鏈。上游技術(shù)提供者通過暗網(wǎng)兜售“AI換臉套餐”,價格從幾百元到數(shù)萬元不等。中游推廣者則利用非法獲取的個人信息庫,通過短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉(zhuǎn)移資金。
整個過程中,技術(shù)、數(shù)據(jù)、資金形成了一個完整的閉環(huán)。這條黑色產(chǎn)業(yè)鏈的存在,反映出了監(jiān)管的漏洞和技術(shù)的局限性。隨著AI技術(shù)的不斷發(fā)展,黑色產(chǎn)業(yè)鏈也在不斷升級和演變,這給打擊AI詐騙帶來了更大的挑戰(zhàn)。
AI詐騙中的困局
人身安全亟須法律保護(hù)
AI幻術(shù)肆虐之下,許多受騙人被騙得傾家蕩產(chǎn),甚至背負(fù)巨額債務(wù)。2024年3月,一名中國香港的職員在一場“多人視頻會議”后被騙2億港元,最后發(fā)現(xiàn)這場視頻只有他自己是“真人”,其他人都是AI換臉冒充的。
依據(jù)瑞萊智慧公布的數(shù)據(jù),國內(nèi)AI詐騙案件的涉案金額已經(jīng)從2020年的0.2萬元,增長至2023年的1670萬元,年復(fù)合增長率達(dá)1928.8%。2024年剛過半時,發(fā)生的AI詐騙案件已經(jīng)超過1.85億元,態(tài)勢嚴(yán)峻。
除了財(cái)物損失外,受害人還容易遭到其他涉及人身安全方面權(quán)益的侵害,如信息誤導(dǎo)、隱私泄露、名譽(yù)受損等。
去年7月,河北保定女孩欣欣遭遇AI換臉侵權(quán)。其社交賬號照片被他人盜用,通過Deepfake技術(shù)制作傳播不良視頻,并泄露其姓名、學(xué)校等個人信息。欣欣發(fā)現(xiàn)后立即報警并咨詢律師,固定證據(jù)鏈。經(jīng)警方調(diào)查,涉事者因傳播淫穢物品被依法處以行政拘留十日。
更令人擔(dān)憂的是,詐騙分子的加害對象正在從普通人向知名人士蔓延,危害力可能會進(jìn)一步加大。此前,“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞頻頻出現(xiàn)在熱搜榜單上,已經(jīng)引起今年兩會代表委員的高度關(guān)注,呼吁通過法律手段來加強(qiáng)對AI詐騙的管理和約束。
(全國人大代表、小米集團(tuán)創(chuàng)始人雷軍談對于AI發(fā)展看法)
有研究認(rèn)為,在法律規(guī)制層面,現(xiàn)行制度呈現(xiàn)明顯滯后性和監(jiān)管真空。AI詐騙的實(shí)施基礎(chǔ)是大規(guī)模收集個人隱私信息,當(dāng)詐騙分子非法獲取包含社會關(guān)系、財(cái)務(wù)數(shù)據(jù)、生物特征等敏感信息后,其實(shí)施詐騙的條件即初步具備。現(xiàn)行《數(shù)據(jù)安全法》雖發(fā)揮一定作用,但在技術(shù)標(biāo)準(zhǔn)、保護(hù)范圍及措施方面仍需完善。
《深度合成管理規(guī)定》第16條顯示,深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容,應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。這一表述在實(shí)踐中還不夠清晰,也可能存在歧義,究竟是不遮擋AI生成內(nèi)容的主要部分,還是應(yīng)當(dāng)不為人類肉眼可見容易存在爭議,還需要進(jìn)一步的法律解釋。
與此同時,AI詐騙治理缺乏行業(yè)合力。各個行業(yè)數(shù)據(jù)泄露的情況仍然存在,即便一些用于保護(hù)用戶數(shù)據(jù)的基礎(chǔ)性制度開始實(shí)行,但部分企業(yè)為追求短期利益,通過販賣用戶信息等形式獲利。與此同時,金融機(jī)構(gòu)部分從業(yè)人員在利益驅(qū)使下,違反監(jiān)管制度,對外轉(zhuǎn)賣客戶信息用以非法獲利。
此外,生成式AI模型迭代速度與檢測技術(shù)發(fā)展存在明顯的時間差,容易形成“技術(shù)代差陷阱”,使得新型詐騙手段往往在監(jiān)管響應(yīng)前已造成規(guī)?;:?。
所以,我國現(xiàn)行法律構(gòu)建了AI詐騙的第一道防線,但在技術(shù)標(biāo)準(zhǔn)細(xì)化、責(zé)任主體擴(kuò)展及檢測工具配套化等方面仍需完善。未來還需通過立法明確具體的技術(shù)規(guī)范,將研發(fā)者納入責(zé)任體系,強(qiáng)制要求提供檢測工具,從而提升AI生成內(nèi)容的可識別性,有效遏制AI詐騙的蔓延。
AI技術(shù)本身并無善惡之分,但如何引導(dǎo)其健康發(fā)展,已成為當(dāng)前面臨的課題。正如全國人大代表、中國科學(xué)院大學(xué)講席教授、知識產(chǎn)權(quán)學(xué)院院長馬一德所言:“面對AI深度偽造技術(shù)帶來的新挑戰(zhàn),我們需要在技術(shù)創(chuàng)新與防范風(fēng)險之間尋求平衡?!?/p>
AI理應(yīng)是人類的助手,而非傷害的工具。在這場沒有硝煙的戰(zhàn)爭中,人類與AI的較量才剛剛開始。只有通過技術(shù)創(chuàng)新、法律完善、公眾參與的多維度協(xié)作,我們才能筑牢防線,讓AI真正成為推動社會進(jìn)步的力量。
參考文獻(xiàn)及資料:1、周益 任士英《AI詐騙治理:困境與對策》,人民論壇2024年第13期
2、姚志偉 李卓霖 《AI詐騙的法律規(guī)制》法治論壇2023年第4輯
3、法制日報《有人用AI“說了謊”“變了臉”》
4、央視新聞《雷軍呼吁立法整治AI造假》
5、深圳羅湖檢察《《山寨DeepSeek泛濫,檢察官提醒:警惕網(wǎng)絡(luò)詐騙,保護(hù)個人信息!》
6、封面新聞《防不勝防!半數(shù)受訪大學(xué)生曾接觸過疑似AI詐騙》
7、中國青年報《揭秘“殺豬盤”背后的心理控制術(shù):并非只有“戀愛腦”才會遭遇》
8、央視新聞《防范新型風(fēng)險 守好網(wǎng)絡(luò)空間丨AI換臉擬聲,“熟人”“家人”讓轉(zhuǎn)賬也要留心》
9、新華網(wǎng)《網(wǎng)絡(luò)上“AI名人”泛濫 深度偽造之惡何解?》
10、央視新聞《網(wǎng)戀女友竟是“AI生成” 警方揭秘詐騙流水線》
數(shù)據(jù)新聞編輯:陳華羅 實(shí)習(xí)生何逸銘
新媒體設(shè)計(jì):苗奇卉
校對:李立軍