《甄嬛傳》變身“槍戰(zhàn)片”,、《紅樓夢(mèng)》改成“武打戲”,、孫悟空騎著摩托車揚(yáng)長(zhǎng)而去……據(jù)報(bào)道,，廣電總局網(wǎng)絡(luò)視聽司日前發(fā)布《管理提示（AI魔改）》,，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā),，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理AI“魔改”影視劇的短視頻,，限期反饋工作情況；嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求,，舉一反三,，對(duì)各自平臺(tái)開發(fā)的大模型或AI特效功能等進(jìn)行自查，對(duì)在平臺(tái)上使用,、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看,，對(duì)AI生成內(nèi)容作出顯著提示。

對(duì)此,，有評(píng)論指出：表面是“魔改”,，其實(shí)就是“去經(jīng)典化”“去原著化”，把一個(gè)完整的作品分拆為一個(gè)個(gè)形象,、一個(gè)個(gè)片段,，并將之還原為某種“模塊”“物料”“字符”，加以二次組裝,、胡亂拼接,。這整個(gè)過程，我們感受到的是“娛樂整活”之于“嚴(yán)肅表達(dá)”的凌駕,，是AI暴力對(duì)于文化敘事的強(qiáng)拆。

其實(shí),，從“AI換臉特效”“AI復(fù)活親人”到“AI愛人”,，對(duì)AI技術(shù)使用邊界的討論始終不曾停止。特別是用“換臉”“換聲”假扮熟人的AI惡搞乃至詐騙,、傳播淫穢內(nèi)容的AI色情騙局,、批量化生成的AI造謠等新型違法犯罪花樣翻新、層出不窮,?！?024年人工智能安全報(bào)告》顯示，基于AI的深度偽造欺詐在2023年激增30倍,，對(duì)網(wǎng)絡(luò)安全和社會(huì)安全構(gòu)成了較為嚴(yán)重的威脅,。前不久，浙江省杭州市公安機(jī)關(guān)偵破一起利用AI技術(shù)偽造活體視頻,，突破部分網(wǎng)絡(luò)平臺(tái)登錄認(rèn)證,，竊取用戶信息的案件。這些不法分子在登錄他人賬號(hào)竊取用戶敏感信息后,，將其出售獲利,。這不僅侵害了用戶的個(gè)人信息權(quán)益,，也給整個(gè)網(wǎng)絡(luò)安全帶來(lái)了嚴(yán)重威脅。

應(yīng)該說,，AI技術(shù)只是工具,，如何運(yùn)用取決于人。技術(shù)本身并無(wú)善惡,，但技術(shù)的發(fā)展與應(yīng)用必須合乎人類主流價(jià)值規(guī)則體系,。換句話說，AI技術(shù)是一把“雙刃劍”,，其既可成為人類的幫手,，幫助人們提升工作效能、改善服務(wù)體驗(yàn),，也有可能成為不法分子的幫兇,，給公眾生活帶來(lái)難以防范的安全隱患。

目前,，我國(guó)已頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī),，但面對(duì)高速發(fā)展的AI技術(shù)及其日益廣泛的應(yīng)用場(chǎng)景，相關(guān)法律法規(guī)仍需進(jìn)一步深化,、細(xì)化,，立法、執(zhí)法,、司法等相關(guān)各方仍待進(jìn)一步形成合力,。

小馬飛刀以為，只有在引導(dǎo)鼓勵(lì)人工智能創(chuàng)新發(fā)展的同時(shí),，對(duì)AI技術(shù)濫用可能引發(fā)的安全風(fēng)險(xiǎn)予以依法防范化解,，讓相關(guān)各方清晰認(rèn)知并守住使用AI技術(shù)的法律邊界，才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展,。

AI技術(shù)發(fā)展到哪里,，法律法規(guī)空白就要填補(bǔ)到哪里。

小馬飛刀

責(zé)任編輯：王旭偉