“上當受騙了！沒想到視頻切片里‘專家推薦說辭’居然是AI造假。”00后小高憤怒地將購買的減肥產(chǎn)品扔進垃圾桶。
小高告訴新京報貝殼財經(jīng)記者，自己之所以心動，源于看見《國醫(yī)少年志》視頻切片里推薦了這款減肥產(chǎn)品，結(jié)果未見效果反而被包裝營銷暗算?！霸詾橛袑＜冶硶纳唐凡粫?，結(jié)果發(fā)現(xiàn)這些說辭居然是AI工具模仿語音篡改形成，專家根本就沒說過這些話?！?/p>
隨著《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目出圈，減肥、養(yǎng)生成為話題，但是短視頻平臺上不少節(jié)目切片卻開始“變味”，借著類似節(jié)目的噱頭暗中推薦保健商品，甚至宣稱“絕對有效”。
實際上，這些視頻切片大多為移花接木，內(nèi)容看似是節(jié)目片段，但專家話術(shù)、字幕等細節(jié)卻是商家以AI技術(shù)進行篡改，進而植入品牌和帶貨。
“部分商家和視頻主抓住消費者追求健康的心態(tài)，借以‘權(quán)威’‘專業(yè)’噱頭讓消費者信以為真，繼而陷入其所設(shè)下的陷阱。”從事電商工作多年的蔣凌告訴新京報貝殼財經(jīng)記者，如今短視頻平臺中確實充斥大量類似切片，甚至不乏修改名人語音進行商品帶貨的現(xiàn)象，“受此影響，不但多位名人和節(jié)目IP被造假，消費者權(quán)益也在不知情中受到傷害，而唯一獲利的只有惡意植入的品牌商?！?/p>
短視頻中的切片內(nèi)容，同一片段被植入品牌。截圖
加句臺詞，綜藝切片包裝出“明星代言”
因為肥胖，小高經(jīng)常上網(wǎng)尋找各種減肥方法和藥物。一次瀏覽短視頻時，他無意中看到視頻切片介紹一檔名為《國醫(yī)少年志》的綜藝節(jié)目，其中，中醫(yī)專家介紹如何有效減小肚子贅肉時，除了介紹白蘿卜、山楂干、紅棗等食材用以煮水飲用能控制體重外，還特意推銷一款名為“蔻敘堂丁香膏”的減肥產(chǎn)品。
“資深中醫(yī)在視頻里肯定表示‘早晚各一次，一個多月肚子就平了’，加上節(jié)目IP和多位藝人的背書，效果應(yīng)該差不了。”心動的小高當即根據(jù)品牌名在電商平臺搜索并花費20多元下了一單。幾天體驗后，小高發(fā)現(xiàn)減肥效果遠沒有視頻宣傳般明顯，體重沒有絲毫變化。
和小高有著類似經(jīng)歷的，還有00后女孩張伊。她告訴貝殼財經(jīng)記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的一款商品“種草”，但真正體驗后發(fā)現(xiàn)沒有任何效果。
貝殼財經(jīng)記者調(diào)查發(fā)現(xiàn)，類似視頻切片在短視頻平臺中比比皆是，但是眼見并非為實。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費者所追捧，也讓他們成為部分商家收割的對象。
貝殼財經(jīng)記者在短視頻平臺上搜索發(fā)現(xiàn)，不少非節(jié)目官方所發(fā)布的切片里夾藏大量“私貨”，視頻主通過AI技術(shù)更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經(jīng)過包裝成功實現(xiàn)“名人帶貨”。
以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了“資藥堂（的赤菊膏）就很不錯”的短短一句話。
移花接木的招數(shù)也出現(xiàn)在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為“詩諾千君貼”的商品被植入，并在字幕中顯示“提高代謝水平”“年輕人可以試試”，同樣實現(xiàn)明星帶貨的效果。
劉曉慶在聚餐時吃魚的片段，被一款名為“詩諾千君貼”的商品植入。截圖
AI悄然篡改視頻內(nèi)容，模糊了視頻真假的邊界，也迷惑了不少消費者。貝殼財經(jīng)記者注意到，上當?shù)木W(wǎng)友在社交平臺上吐槽“純智商稅”“節(jié)目組推銷劣質(zhì)商品”等，質(zhì)疑產(chǎn)品的同時也將矛頭直指節(jié)目組。
對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實施產(chǎn)品推廣行為，歪曲了節(jié)目內(nèi)容。節(jié)目組從未授權(quán)任何第三方賬號利用節(jié)目內(nèi)容宣傳相關(guān)的任何產(chǎn)品，“任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關(guān)產(chǎn)品的信息均為虛假信息?！?/p>
AI變聲“零門檻”，僅需幾元可隨意模仿
一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。
“這些商品利用人們對身體健康的關(guān)注心態(tài)，通過AI篡改臺詞和字幕，以‘專業(yè)’‘權(quán)威’的噱頭讓消費者信以為真，進而陷入銷售陷阱?！彪娚虖臉I(yè)者蔣凌說。
近日，貝殼財經(jīng)記者在短視頻平臺以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)大量涉及AI合成聲音的視頻，一條“10秒鐘克隆任何聲音”的視頻講解顯示，AI技術(shù)可將聲音調(diào)整為孫悟空、曹操、哪吒等多個角色。
隨著人工智能技術(shù)普及，AI模擬聲音的門檻也大幅降低，甚至軟件都能隨處下載。通過一些開源軟件和平臺，普通用戶即使沒有專業(yè)知識以及成本就能輕松操作。
貝殼財經(jīng)記者在社交平臺上搜索發(fā)現(xiàn)多個AI合成聲音軟件的廣告和下載渠道，價格也僅需幾元到數(shù)十元。不少廣告更是標榜“可隨意模仿明星語音”“通過一句話就可以克隆出任何聲音”等噱頭。
為調(diào)查所需，貝殼財經(jīng)記者下載了一款在GitHub上開源的聲音克隆軟件。體驗過程中，貝殼財經(jīng)記者上傳了一段由本人播報的3分鐘錄音，在經(jīng)過AI模型訓(xùn)練后，成功得到了這一聲音的模型文件。此后只需輸入任意文字，軟件即可實現(xiàn)這一聲音的口播內(nèi)容。
貝殼財經(jīng)記者發(fā)現(xiàn)，AI生成的語音模型連錄制者在發(fā)音時的吐字習(xí)慣也能模仿。對于一些較短的語句，很難識別出這是機器合成的語音。相比之下，生成長語句時，則會出現(xiàn)瑕疵。盡管如此，只要多次生成，再從中挑選合成效果較好的語句，也能以假亂真。
社交平臺上不少公眾人物的聲音已被AI克隆，其中“如何模仿雷軍說話”“讓明星給你播新聞”的視頻軟件教學(xué)和推廣并不難尋。
貝殼財經(jīng)記者注意到，這些軟件操作流程頗為簡單，使用者僅需對著鏡頭錄制一段話，數(shù)秒鐘后這些話通過AI技術(shù)就能變成某位名人的聲音。值得注意的是，類似軟件錄入名人聲音時沒有任何授權(quán)證明，這意味著這些人根本不知道自己的聲音已被冒用。
實際上，早前就有利用軟件修改的明星靳東聲音與“粉絲”互動，詐騙老年人近百萬元。另外利用AI模仿國家傳染病醫(yī)學(xué)中心主任張文宏的聲音吐槽熱門話題，也曾引發(fā)關(guān)注。
一位AI領(lǐng)域從業(yè)者告訴貝殼財經(jīng)記者，AI能夠克隆聲音源于其能通過深度學(xué)習(xí)算法，從采集的聲音樣本中提取頻率、音色、聲調(diào)等關(guān)鍵特征，再將這些特征記錄進行合成，“《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中所出現(xiàn)的品牌植入，正是通過類似手段。”
“無論網(wǎng)友將AI模擬人聲用于惡搞以追逐流量，還是克隆名人聲音用以帶貨，都對聲音‘原主’和消費者帶來不良影響。發(fā)布者除了獲得流量曝光和廣告收入外，不乏假借身份傳播虛假消息，從而實現(xiàn)詐騙目的。”上述人士表示。
圍獵中老年，“AI換臉擬聲”亟待治理
隱形的賣貨方式以及真真假假的劇情，讓不熟悉AI技術(shù)的中老年人很難辨別，也就成了被圍獵的對象。
多位電商從業(yè)者接受采訪時坦言，此類商家的目標群體主要為追求身體健康的人群，其中又以中老年人群體為主。通過打造權(quán)威專家人設(shè)發(fā)布“時事點評”“健康養(yǎng)生”等內(nèi)容，以吸引銷售目標的關(guān)注，最終再以視頻流量分成和櫥窗帶貨的模式變現(xiàn)。
“父母聽信‘專家視頻’買回一堆保健品，甚至還到處推薦身邊朋友購買?！币晃痪W(wǎng)友吐槽稱，家中長輩對于AI不了解，認為視頻內(nèi)容和說辭都是真的，甚至當家里人再三解釋視頻是偽造時，也會固執(zhí)地堅信沒有上當，“根本勸不住，AI語音騙局對老年人簡直就是降維打擊?！?/p>
值得注意的是，類似商品不乏資質(zhì)存疑、廠商成謎的情況。貝殼財經(jīng)記者搜索一款同樣由AI語音植入的益生菌品牌時注意到，產(chǎn)品鏈接跳轉(zhuǎn)至商城頁面后出現(xiàn)多款宣傳封面、產(chǎn)品包裝、文案說辭幾乎一樣的商品，生產(chǎn)廠商卻并不相同，很難讓人判斷出真?zhèn)巍?/p>
“消費者在觀看視頻時下單往往屬于沖動消費，其本質(zhì)更多出于對藝人和專業(yè)人士背書的信任。然而，對商品真實效果、品質(zhì)優(yōu)劣、是否適用于自身等情況并不清楚?！笔Y凌告訴貝殼財經(jīng)記者，商家選擇類似傳播渠道無疑比花錢打廣告效果更好，成本也更加低廉，“當消費者反應(yīng)過來時，商家已完成了快速傳播、收割變現(xiàn)，甚至注銷跑路的營銷閉環(huán)?！?/p>
無論對于中老年人還是年輕網(wǎng)友而言，AI合成語音比早前的AI換臉視頻更難辨別，稍不注意就容易中招。
2024年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，明確認定在具備可識別性的前提下，自然人聲音權(quán)益的保護范圍可及于AI生成聲音。法院認為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。
今年兩會期間，全國人大代表、小米集團創(chuàng)始人雷軍建議“加強‘AI換臉擬聲’違法侵權(quán)治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
貝殼財經(jīng)記者了解到，早前短視頻平臺上曾出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，雷軍兩會期間回應(yīng)，“一開始我還覺得這是網(wǎng)民喜聞樂見的一種方式，但是隨著內(nèi)容越來越多，網(wǎng)友們也都在投訴。”為此，他呼吁盡快出臺相關(guān)治理措施。
同樣，全國政協(xié)委員靳東也回應(yīng)了AI換臉導(dǎo)致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣，希望能建立更好的規(guī)則?！?/p>
河南澤槿律師事務(wù)所主任付建告訴貝殼財經(jīng)記者，通過AI技術(shù)冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國民法典》，對自然人聲音的保護參照適用肖像權(quán)保護的有關(guān)規(guī)定。而商家利用AI篡改專家說辭進行直播賣貨既侵犯了專家有關(guān)聲音的人格權(quán)益，也可能損害了專家的名譽權(quán)以及肖像權(quán)。同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構(gòu)成消費者欺詐，違反了《反不正當競爭法》和《消費者權(quán)益保護法》有關(guān)規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責任以及相應(yīng)的民事賠償責任，情節(jié)嚴重的還涉及刑事犯罪。
“平臺有權(quán)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《電子商務(wù)法》以及平臺規(guī)則履行監(jiān)管義務(wù)，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導(dǎo)致?lián)p害擴大的，對擴大部分與不法商家承擔連帶責任?！备督ㄕf。
新京報貝殼財經(jīng)記者 覃澈 編輯 王進雨 校對 付春愔
