從輔助撰寫報告到智能理財(cái)、健康咨詢，DeepSeek等國產(chǎn)AI大模型的爆發(fā)式普及，正重塑著普通人的生活。然而，技術(shù)的普惠性也催生了新型犯罪溫床。
據(jù)網(wǎng)絡(luò)安全實(shí)驗(yàn)室統(tǒng)計(jì)，僅2024年12月1日至2025年2月期間，就出現(xiàn)了超過2000個仿冒DeepSeek的山寨網(wǎng)站，打著“免費(fèi)內(nèi)測”“AI暴富課”旗號誘導(dǎo)用戶下載惡意軟件，造成個人信息泄露甚至資金被盜。
不久前，網(wǎng)上出現(xiàn)某知名醫(yī)生帶貨的視頻，其售賣一種蛋白。有老人信以為真下單購買。但該醫(yī)生澄清，視頻中的人物并非他本人。經(jīng)過核實(shí)，“醫(yī)生帶貨視頻”為AI合成。
此類案件暴露出技術(shù)下沉中的“認(rèn)知鴻溝”——普通用戶對AI技術(shù)的信任，正被黑產(chǎn)精準(zhǔn)收割。
具體到日常生活，AI詐騙已滲透至社交陷阱、消費(fèi)欺詐和信息泄露三大高頻場景。為了量化AI詐騙的社會沖擊，新京報有理數(shù)基于銳研數(shù)據(jù)平臺，抓取103篇主流媒體報道案例（2023年3月1日至2025年3月1日），通過拆解兩年間的多維度數(shù)據(jù)，試圖精準(zhǔn)刻畫受騙人群畫像（如高凈值企業(yè)主、老年群體），追蹤騙局場景的迭代路徑（從“視頻仿冒”到“交友陷阱”），并評估其對網(wǎng)絡(luò)應(yīng)用、生產(chǎn)安全乃至社會信任的沖擊。
誰在被AI詐騙精準(zhǔn)圍獵？
傳統(tǒng)電詐中，詐騙分子集中圍獵“一老一少”的情況比較常見，例如中國銀聯(lián)曾發(fā)布的《2023年移動支付安全大調(diào)查報告》顯示，75.7%的大學(xué)生和77.7%的大齡群體收到過詐騙信息。
面對完全可以以假亂真的AI詐騙，老年群體和年輕群體更是沒有招架之力。通過抓取的新聞案例我們發(fā)現(xiàn)，2023年至2025年，在AI詐騙案件中，老年人和年輕人各占27%，學(xué)生和職員群體各占10%。
2024年，封面新聞曾對1500多名大學(xué)生做過一個調(diào)研，結(jié)果顯示半數(shù)受訪大學(xué)生本人或身邊的人曾遭遇疑似AI詐騙，超7成大學(xué)生對AI詐騙感到恐慌，坦言“面對AI詐騙防不勝防”，僅有25.1%認(rèn)為“騙不到自己身上”。
與傳統(tǒng)電詐相比，在AI技術(shù)的加持下，詐騙活動不再搞“大水漫灌”，而是“精準(zhǔn)滴灌 ”。詐騙分子不再用傳統(tǒng)的話術(shù)去廣撒網(wǎng)，而是利用AI技術(shù)事先篩選，摸清受騙者的詳細(xì)身份信息，量身定制詐騙套路，進(jìn)而進(jìn)行精準(zhǔn)詐騙。如此之下，受害者身份更加廣泛、多元，中年企業(yè)家和寶媽等群體也被盯上。
據(jù)中國青年報報道，2023年，寶媽王枚（化名）在境外求學(xué)期間通過社交平臺結(jié)識偽裝成房東的男性網(wǎng)友，對方利用AI換臉換聲技術(shù)獲取其信任并發(fā)展戀愛關(guān)系。隨后以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導(dǎo)加大投入，致使王枚抵押房產(chǎn)、網(wǎng)貸累計(jì)損失約200萬元，最終提現(xiàn)受阻發(fā)現(xiàn)被騙。
同時數(shù)據(jù)也發(fā)現(xiàn)，經(jīng)濟(jì)發(fā)達(dá)地區(qū)更容易成為AI詐騙的高發(fā)地帶。在樣本數(shù)據(jù)匯總中，上海、北京、浙江等省市的案例占比超過45%，海外案例也占到了5%。
一方面，經(jīng)濟(jì)發(fā)達(dá)地區(qū)人口密集，人員流動性大，個人信息更容易被泄露和濫用。另一方面，這些地區(qū)的人們對新技術(shù)的接受度較高，使用AI相關(guān)服務(wù)的頻率也更高，這就給了詐騙分子更多可乘之機(jī)。此外，經(jīng)濟(jì)發(fā)達(dá)地區(qū)的金融活動頻繁，資金流動量大，詐騙分子也更傾向于選擇這些地區(qū)作為目標(biāo)。
騙子為了用AI騙到你，到底有多“努力”
AI技術(shù)普及讓詐騙門檻大幅降低，為“個人獨(dú)狼式”詐騙提供滋生土壤。以往我們在電影《孤注一擲》中看到的大多數(shù)是由成百上千名詐騙分子組成的大型詐騙集團(tuán)充當(dāng)主角，集團(tuán)內(nèi)部分工明確。
而現(xiàn)在在AI技術(shù)的輔助下，一兩名詐騙分子就可以展開個人作案，AI技術(shù)承擔(dān)了從目標(biāo)篩選到身份偽裝，再到實(shí)施詐騙和逃避打擊過往詐騙中的關(guān)鍵工作，并且這種情形已經(jīng)超過六成。
在這場新型犯罪中，AI技術(shù)被“武器化”的程度令人咋舌。
根據(jù)對103篇新聞報道的分析，AI換臉技術(shù)在詐騙案件中的使用率近一半，語音合成技術(shù)約四成。犯罪分子通過非法獲取的人臉照片和語音樣本，利用開源AI工具生成逼真的虛擬形象。
大行其道的AI換臉技術(shù)，既是犯罪分子最喜歡的作案工具，也是公安部嚴(yán)厲打擊的重點(diǎn)對象。早在2023年8月，公安部就曾召開新聞發(fā)布會稱，針對“AI換臉”導(dǎo)致群眾被欺詐的問題，公安機(jī)關(guān)發(fā)起專項(xiàng)會戰(zhàn)，偵破相關(guān)案件79起，抓獲犯罪嫌疑人515名。
但此類案件一直有抬頭趨勢，據(jù)央視新聞報道，2024年深圳市民吳先生收到陌生彩信，內(nèi)有合成其與陌生女子的不雅照并遭勒索轉(zhuǎn)賬。警方調(diào)查發(fā)現(xiàn)犯罪團(tuán)伙利用AI技術(shù)偽造照片實(shí)施敲詐，最終在多地警方協(xié)作下抓獲以王某為首的十余名嫌疑人。
另一方面，AI技術(shù)的普及使得詐騙手段更加多樣化和難以防范，沒有深厚技術(shù)背景的人也能輕松獲取和使用相關(guān)技術(shù)進(jìn)行詐騙活動，詐騙場景的多樣性超出想象，冒充公檢法機(jī)關(guān)、偽造親友求助、虛擬投資平臺等套路層出不窮。
數(shù)據(jù)顯示，在所有AI詐騙案例中，冒充類詐騙占比高達(dá)62%，其次是金融類和交易類詐騙。內(nèi)蒙古警方破獲的一起AI換臉詐騙案中，福建某科技公司老板郭先生在視頻通話中目睹“好友”面容、親聞其聲，10分鐘內(nèi)被騙轉(zhuǎn)賬430萬元，事后發(fā)現(xiàn)對方竟是AI換臉與擬聲技術(shù)合成的“數(shù)字替身”。
同時，詐騙分子還把AI技術(shù)應(yīng)用到了交友賽道。央視報道，上海劉先生在短視頻平臺結(jié)識 “焦女士”，發(fā)展為網(wǎng)戀后對方以開店、手術(shù)等名義騙取20萬元，警方調(diào)查發(fā)現(xiàn)該團(tuán)伙使用AI生成虛假照片實(shí)施婚戀詐騙，涉案金額超200萬元。
隨著AI技術(shù)的不斷升級，互聯(lián)網(wǎng)詐騙手段不斷更新，甚至逐漸形成了一條分工明確、相互協(xié)作的完整化黑色產(chǎn)業(yè)鏈。上游技術(shù)提供者通過暗網(wǎng)兜售“AI換臉套餐”，價格從幾百元到數(shù)萬元不等。中游推廣者則利用非法獲取的個人信息庫，通過短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉(zhuǎn)移資金。
整個過程中，技術(shù)、數(shù)據(jù)、資金形成了一個完整的閉環(huán)。這條黑色產(chǎn)業(yè)鏈的存在，反映出了監(jiān)管的漏洞和技術(shù)的局限性。隨著AI技術(shù)的不斷發(fā)展，黑色產(chǎn)業(yè)鏈也在不斷升級和演變，這給打擊AI詐騙帶來了更大的挑戰(zhàn)。
AI詐騙中的困局
人身安全亟須法律保護(hù)
AI幻術(shù)肆虐之下，許多受騙人被騙得傾家蕩產(chǎn)，甚至背負(fù)巨額債務(wù)。2024年3月，一名中國香港的職員在一場“多人視頻會議”后被騙2億港元，最后發(fā)現(xiàn)這場視頻只有他自己是“真人”，其他人都是AI換臉冒充的。
依據(jù)瑞萊智慧公布的數(shù)據(jù)，國內(nèi)AI詐騙案件的涉案金額已經(jīng)從2020年的0.2萬元，增長至2023年的1670萬元，年復(fù)合增長率達(dá)1928.8%。2024年剛過半時，發(fā)生的AI詐騙案件已經(jīng)超過1.85億元，態(tài)勢嚴(yán)峻。
除了財(cái)物損失外，受害人還容易遭到其他涉及人身安全方面權(quán)益的侵害，如信息誤導(dǎo)、隱私泄露、名譽(yù)受損等。
去年7月，河北保定女孩欣欣遭遇AI換臉侵權(quán)。其社交賬號照片被他人盜用，通過Deepfake技術(shù)制作傳播不良視頻，并泄露其姓名、學(xué)校等個人信息。欣欣發(fā)現(xiàn)后立即報警并咨詢律師，固定證據(jù)鏈。經(jīng)警方調(diào)查，涉事者因傳播淫穢物品被依法處以行政拘留十日。
更令人擔(dān)憂的是，詐騙分子的加害對象正在從普通人向知名人士蔓延，危害力可能會進(jìn)一步加大。此前，“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞頻頻出現(xiàn)在熱搜榜單上，已經(jīng)引起今年兩會代表委員的高度關(guān)注，呼吁通過法律手段來加強(qiáng)對AI詐騙的管理和約束。
（全國人大代表、小米集團(tuán)創(chuàng)始人雷軍談對于AI發(fā)展看法）
有研究認(rèn)為，在法律規(guī)制層面，現(xiàn)行制度呈現(xiàn)明顯滯后性和監(jiān)管真空。AI詐騙的實(shí)施基礎(chǔ)是大規(guī)模收集個人隱私信息，當(dāng)詐騙分子非法獲取包含社會關(guān)系、財(cái)務(wù)數(shù)據(jù)、生物特征等敏感信息后，其實(shí)施詐騙的條件即初步具備。現(xiàn)行《數(shù)據(jù)安全法》雖發(fā)揮一定作用，但在技術(shù)標(biāo)準(zhǔn)、保護(hù)范圍及措施方面仍需完善。
《深度合成管理規(guī)定》第16條顯示，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。這一表述在實(shí)踐中還不夠清晰，也可能存在歧義，究竟是不遮擋AI生成內(nèi)容的主要部分，還是應(yīng)當(dāng)不為人類肉眼可見容易存在爭議，還需要進(jìn)一步的法律解釋。
與此同時，AI詐騙治理缺乏行業(yè)合力。各個行業(yè)數(shù)據(jù)泄露的情況仍然存在，即便一些用于保護(hù)用戶數(shù)據(jù)的基礎(chǔ)性制度開始實(shí)行，但部分企業(yè)為追求短期利益，通過販賣用戶信息等形式獲利。與此同時，金融機(jī)構(gòu)部分從業(yè)人員在利益驅(qū)使下，違反監(jiān)管制度，對外轉(zhuǎn)賣客戶信息用以非法獲利。
此外，生成式AI模型迭代速度與檢測技術(shù)發(fā)展存在明顯的時間差，容易形成“技術(shù)代差陷阱”，使得新型詐騙手段往往在監(jiān)管響應(yīng)前已造成規(guī)?；：?。
所以，我國現(xiàn)行法律構(gòu)建了AI詐騙的第一道防線，但在技術(shù)標(biāo)準(zhǔn)細(xì)化、責(zé)任主體擴(kuò)展及檢測工具配套化等方面仍需完善。未來還需通過立法明確具體的技術(shù)規(guī)范，將研發(fā)者納入責(zé)任體系，強(qiáng)制要求提供檢測工具，從而提升AI生成內(nèi)容的可識別性，有效遏制AI詐騙的蔓延。
AI技術(shù)本身并無善惡之分，但如何引導(dǎo)其健康發(fā)展，已成為當(dāng)前面臨的課題。正如全國人大代表、中國科學(xué)院大學(xué)講席教授、知識產(chǎn)權(quán)學(xué)院院長馬一德所言：“面對AI深度偽造技術(shù)帶來的新挑戰(zhàn)，我們需要在技術(shù)創(chuàng)新與防范風(fēng)險之間尋求平衡?！?/p>
AI理應(yīng)是人類的助手，而非傷害的工具。在這場沒有硝煙的戰(zhàn)爭中，人類與AI的較量才剛剛開始。只有通過技術(shù)創(chuàng)新、法律完善、公眾參與的多維度協(xié)作，我們才能筑牢防線，讓AI真正成為推動社會進(jìn)步的力量。
參考文獻(xiàn)及資料：1、周益 任士英《AI詐騙治理：困境與對策》，人民論壇2024年第13期
2、姚志偉 李卓霖 《AI詐騙的法律規(guī)制》法治論壇2023年第4輯
3、法制日報《有人用AI“說了謊”“變了臉”》
4、央視新聞《雷軍呼吁立法整治AI造假》
5、深圳羅湖檢察《《山寨DeepSeek泛濫，檢察官提醒：警惕網(wǎng)絡(luò)詐騙，保護(hù)個人信息！》
6、封面新聞《防不勝防！半數(shù)受訪大學(xué)生曾接觸過疑似AI詐騙》
7、中國青年報《揭秘“殺豬盤”背后的心理控制術(shù)：并非只有“戀愛腦”才會遭遇》
8、央視新聞《防范新型風(fēng)險 守好網(wǎng)絡(luò)空間丨AI換臉擬聲，“熟人”“家人”讓轉(zhuǎn)賬也要留心》
9、新華網(wǎng)《網(wǎng)絡(luò)上“AI名人”泛濫 深度偽造之惡何解？》
10、央視新聞《網(wǎng)戀女友竟是“AI生成” 警方揭秘詐騙流水線》
數(shù)據(jù)新聞編輯：陳華羅 實(shí)習(xí)生何逸銘
新媒體設(shè)計(jì)：苗奇卉
校對：李立軍
