▲新京報刊發(fā)報道揭露AI濫用亂象。新京報資料圖

據(jù)新京報調(diào)查，隨著AI的迅猛發(fā)展，各類與之相關(guān)的騙局也隨之出現(xiàn)。如，有的AI數(shù)字人批量上線圍獵老年人，通過養(yǎng)生直播引流，誘導(dǎo)老人高價買“神藥”；有的AI篡改短視頻，克隆名人聲音帶貨，“移花接木”設(shè)置消費陷阱；有的通過“AI薦號”圍獵彩民，騙取彩民“注資”。這些亂象引發(fā)廣泛關(guān)注。

各類AI應(yīng)用正在加速進入人們的日常生活，這讓很多事情變得更加便利，同時也讓一些心術(shù)不正者看到了機會?？傮w而言，無論是批量化的AI數(shù)字人圍獵老人，還是利用AI克隆名人聲音帶貨，抑或是衍生出如“AI薦號”等新騙術(shù)，都提醒著AI技術(shù)被濫用帶來的現(xiàn)實風(fēng)險。

對此，首先全社會還是要從意識上對于AI技術(shù)被濫用的程度建立客觀認(rèn)知。一個值得注意的現(xiàn)象是，今年全國兩會上，呼吁規(guī)范AI應(yīng)用已成為代表委員們的熱點議題。

如“靳東兩會建議AI換臉立法”登上熱搜，雷軍接受采訪時表示，“我本人也是主要的受害者，呼吁盡快立法重點整治”，并提交關(guān)于加強“AI換臉擬聲”等違法侵權(quán)重災(zāi)區(qū)治理的建議。這一幕在過去是沒有的。而其也真實地表明，AI濫用的風(fēng)險已到了必須正視的地步，并且蔓延速度非常快，針對性的治理和監(jiān)管迫在眉睫。

認(rèn)識到了問題所在，下一步就是要對癥施策。其實，相關(guān)的制度建設(shè)和規(guī)則引導(dǎo)早就在進行之中。如2022年，相關(guān)部門發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就明確，深度合成服務(wù)提供者提供的深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識，向公眾提示深度合成情況。

但從現(xiàn)實來看，該規(guī)定顯然并沒有得到足夠執(zhí)行。究其原因，到底是平臺重視不足，還是技術(shù)條件限制，或是規(guī)則本身的效力和位階不足，抑或是兼而有之，相關(guān)部門有必要牽頭做好綜合性調(diào)查評估。并在此基礎(chǔ)上，給予精準(zhǔn)“補缺”。

一個積極信號是，今年的全國人大常委會工作報告已提出，將圍繞AI等新興領(lǐng)域加強立法研究。最高人民法院工作報告也指出，要依法妥善審理涉AI糾紛案件，既要支持AI技術(shù)的合法應(yīng)用，又要懲治利用AI實施的侵權(quán)行為。

規(guī)則完善之外，有效遏制AI技術(shù)濫用風(fēng)險，也應(yīng)重視“以魔法打敗魔法”，跳出傳統(tǒng)思維和技術(shù)限制，積極用好AI技術(shù)在防范技術(shù)濫用上的優(yōu)勢。

如對平臺來說，針對一些未標(biāo)注AI提示信息的合成內(nèi)容，以及篡改的短視頻，是否可以建立新的AI模型來提升檢測識別能力，以實施精準(zhǔn)監(jiān)測和干預(yù)？這方面，政策上也不妨鼓勵和引導(dǎo)更多用于互聯(lián)網(wǎng)治理的AI技術(shù)創(chuàng)新，用AI來倒逼AI向善。

還要注意的一點是，大量與AI相關(guān)的騙局，不少只是一些傳統(tǒng)騙局的“變種”。如AI數(shù)字人向老年人兜售聲稱可以治糖尿病的“神藥”，早就因為無效、虛假宣傳被投訴；而借數(shù)字人直播引流的同時，“通過給老人科普養(yǎng)生常識、送土特產(chǎn)、電話推銷等方式進行洗腦式營銷”，也是早就有之的老套路。

可以說，AI技術(shù)只是給這些騙局提供了幫助，但“病灶”并不是AI本身。對此，繼續(xù)加大一些非技術(shù)性亂象的綜合治理，才能真正對一些領(lǐng)域AI濫用風(fēng)險釜底抽薪。如那些靠生產(chǎn)效果存疑的“神藥”發(fā)家的企業(yè)卻能長期存在，就需要有其他層面的治理強化。

說到底，遏制AI技術(shù)濫用風(fēng)險，是一道綜合考題。既要適時填補法律規(guī)則漏洞，也要壓實平臺責(zé)任，既要協(xié)同推進一些“傳統(tǒng)”灰色地帶的治理，也離不開AI時代相關(guān)公眾教育的跟進，以提升全民對AI濫用風(fēng)險的警惕性和鑒別力。

撰稿 / 吳振（媒體人）

編輯 / 馬小龍

校對 / 李立軍