充斥直播間帶貨的AI張文宏,，氣得真人張文宏想報(bào)警,。不少網(wǎng)友反映，疑似知名醫(yī)生張文宏在直播間售賣(mài)一種蛋白棒，家中老人信以為真,、大量下單。就AI合成的帶貨視頻,，張文宏本人回應(yīng)：除了向平臺(tái)方投訴,，也曾考慮報(bào)案，但對(duì)方賬號(hào)不斷變化,，只能寄希望于相關(guān)部門(mén)加強(qiáng)監(jiān)管,。

在AI的操控下，偽造這樣一個(gè)能說(shuō)會(huì)道的張文宏很簡(jiǎn)單,。有業(yè)內(nèi)團(tuán)隊(duì)介紹,，只要提供一段約1分鐘的當(dāng)事人相關(guān)視頻，就能做到面部特征抓取及音色模仿學(xué)習(xí),，生成相似度較高,、質(zhì)量較好的模型。依靠換臉技術(shù),，素人主播搖身一變成了張文宏,；借助張文宏醫(yī)生的知名度，原本不好賣(mài)的食品,、保健品,、垃圾產(chǎn)品頓時(shí)銷(xiāo)量大增。

消費(fèi)者因?yàn)樾艔埼暮赆t(yī)生而買(mǎi),，張文宏醫(yī)生的形象和公信力卻被“AI張”賣(mài)了,。張文宏依法維權(quán)，漫長(zhǎng)的時(shí)間,、巨大的精力,，對(duì)忙著爭(zhēng)分奪秒治病救人的大夫而言簡(jiǎn)直不可能。此外,，換臉名人帶貨還嚴(yán)重侵犯消費(fèi)者知情權(quán),，涉嫌虛假宣傳和詐騙。

在假?gòu)埼暮旮罹虏耸录l(fā)關(guān)注前,，還有假靳東迷倒一眾大媽,、假馬云推薦情商圖書(shū)、假雷軍辣評(píng)世間百態(tài),、假于東來(lái)一邊自夸一邊帶貨……有數(shù)據(jù)顯示,，2023年基于AI的深度偽造欺詐增長(zhǎng)了3000％。究竟有多少人因不能鑒別真假,，被實(shí)實(shí)在在地騙走了時(shí)間,、精力、情感,、金錢(qián),，恐怕已經(jīng)無(wú)從統(tǒng)計(jì),。換臉名人的網(wǎng)絡(luò)“蝗災(zāi)”泛濫至此，監(jiān)管的“殺蟲(chóng)劑”可不能再舍不得噴灑了,。

技術(shù)本身沒(méi)有好壞,，是使用技術(shù)的人有好有壞。近年來(lái),，我國(guó)頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī),，就是為了嚴(yán)格監(jiān)管AI的規(guī)范使用。然而,，隨著AI技術(shù)發(fā)展及其應(yīng)用場(chǎng)景日益廣泛,，變臉名人的賬號(hào)多而分散，虛假直播時(shí)間并不固定,，運(yùn)營(yíng)者尋找著網(wǎng)絡(luò)平臺(tái)的隱蔽角落,、打一槍換一個(gè)地方，無(wú)不給監(jiān)管帶來(lái)了難度,。不法分子能用AI仿冒名人來(lái)騙人,，難道各平臺(tái)就不能用AI來(lái)監(jiān)測(cè)防范？是不愿,，還是不能,？監(jiān)管部門(mén)要進(jìn)一步明確界定AI合成的責(zé)任歸屬，督促網(wǎng)絡(luò)平臺(tái)的落實(shí)管理義務(wù),，同時(shí)不斷提高技術(shù)識(shí)別能力,、監(jiān)管打擊水平，實(shí)現(xiàn)對(duì)AI技術(shù)的指引,。

據(jù)《北京晚報(bào)》

責(zé)任編輯：王旭偉