過去人們常說,，有圖有真相。現(xiàn)在,，人們會說,，有視頻,、音頻為證。但是,，小馬飛刀告訴大家,，很多時候，偽造的視頻已經(jīng)做到了肉眼無法分辨的程度,，“換臉術(shù)”“變聲術(shù)”早已不是什么新鮮事了,。

為什么要和大家聊聊這個話題呢？先來看一則新聞：國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部近日聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，強調(diào)不得利用深度合成服務(wù)從事法律,、行政法規(guī)禁止的活動,，要求深度合成服務(wù)提供者落實信息安全主體責(zé)任，規(guī)定將于2023年1月10日起施行,。

什么是深度合成技術(shù),？簡單地說，就是指利用以深度學(xué)習(xí),、虛擬現(xiàn)實為代表的生成合成類算法制作文本,、圖像、音頻,、視頻,、虛擬場景等信息的技術(shù),，包括文本轉(zhuǎn)語音、音樂生成,、場景聲編輯,、人臉生成、人臉替換,、圖像增強等技術(shù),。深度合成技術(shù)最大的特點之一是“以假亂真”，其通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)具有極佳的視覺,、聽覺等效果,，能夠使人難辨真假?？梢哉f,，深度合成技術(shù)豐富了網(wǎng)絡(luò)內(nèi)容形式，進(jìn)一步釋放新技術(shù)新應(yīng)用發(fā)展活力,。當(dāng)前,，深度合成技術(shù)已經(jīng)在音樂、影視,、綜合娛樂,、社交等多個行業(yè)的場景中被實際推廣應(yīng)用。

但是,，部分深度合成技術(shù)應(yīng)用缺乏規(guī)范,，對國家安全、社會穩(wěn)定和公民合法權(quán)益帶來風(fēng)險挑戰(zhàn),。特別是深度合成內(nèi)容制作的技術(shù)門檻越來越低,，普通人僅需少量的圖像、視頻,、音頻等樣本數(shù)據(jù),，利用簡便易用的合成工具，就能模糊真實和虛擬的邊界,，甚至利用深度合成技術(shù)制造虛假視頻,、虛假音頻進(jìn)行誣陷、誹謗,、詐騙,、勒索等違法行為。

面對深度合成這把雙刃劍,，如何規(guī)范深度合成技術(shù)應(yīng)用,，最大限度地趨利避害？小馬飛刀以為,，深度合成技術(shù)真正危險的是其對社會信任關(guān)系的嚴(yán)重破壞,。信任關(guān)系的存在,，對于任何個體,、社群來說都是無比重要的,。要知道，信任是自古以來人類社會存在的基礎(chǔ)之一,。此次發(fā)布的規(guī)定通過相關(guān)制度設(shè)計,，科學(xué)精準(zhǔn)地回應(yīng)了深度合成服務(wù)應(yīng)用發(fā)展對國家、社會及個人帶來的風(fēng)險挑戰(zhàn),，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例,。尤其是規(guī)定中一系列具有針對性和實效性的要求，劃出清晰紅線,，體現(xiàn)規(guī)制亂象的決心,，有助于維護清朗的網(wǎng)絡(luò)生態(tài)。

小馬飛刀

責(zé)任編輯：王旭偉