日前,，包頭警方發(fā)布一起利用人工智能實(shí)施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元,。

據(jù)披露,，騙子通過智能AI換臉和擬聲技術(shù),，佯裝好友對郭先生實(shí)施了詐騙。騙子并沒有使用仿真的好友微信添加郭先生,，而是直接用好友微信發(fā)起視頻聊天求助,。幸運(yùn)的是，接到報警后,，福州,、包頭兩地警銀迅速啟動止付機(jī)制，成功止付攔截336.84萬元,，但仍有93.16萬元被轉(zhuǎn)移,，目前正在全力追繳中。

當(dāng)前,，隨著人工智能逐步走向通用型的發(fā)展新階段,，出現(xiàn)了諸多不容忽視的問題。比如廣州一女子在地鐵上拍攝了一張衣著正常的照片,，別有用心之人看到后用 AI軟件“一鍵脫衣”,，給當(dāng)事人帶來嚴(yán)重影響；有人用chatgpt寫了一條“杭州市政府將取消機(jī)動車尾號限行政策”的假新聞,，讓不少人信以為真,。再比如，AI實(shí)時換臉已從最初的娛樂“整活”,，向直播等多個應(yīng)用場景發(fā)展,。一些直播間,，紛紛采用了AI換臉明星的方式進(jìn)行直播帶貨，楊冪,、迪麗熱巴,、angelababy等當(dāng)紅女星，成為了AI換臉的重點(diǎn)對象,。

小馬飛刀以為,，人工智能技術(shù)本身并沒有善惡，但是,，當(dāng)有心之人,、惡意之徒將其作為作惡工具，那么,，如何讓技術(shù)向善,，就成為全行業(yè)、全社會都需共同關(guān)注的重要議題,。而且隨著技術(shù)的進(jìn)步,，必然會有更多眼花繚亂的應(yīng)用給法律、監(jiān)管甚至倫理出難題,，這就要求法治和監(jiān)管及時跟進(jìn),、創(chuàng)新思路，與時俱進(jìn)構(gòu)建起嚴(yán)密,、高效的監(jiān)督治理體系,。中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長張鈸就認(rèn)為,，以深度學(xué)習(xí)為代表的算法爆發(fā)拉開了人工智能浪潮序幕,，在計(jì)算機(jī)視覺、智能語音,、自然語言處理等眾多領(lǐng)域取得長足發(fā)展,。但以數(shù)據(jù)驅(qū)動的第二代人工智能在可解釋性、穩(wěn)健性方面的缺陷也逐漸暴露出來,，導(dǎo)致安全事件頻發(fā),。如何實(shí)現(xiàn)高質(zhì)量發(fā)展和高水平安全良性互動，是當(dāng)前人工智能產(chǎn)業(yè)面臨的最為重要命題,。中國信息通信研究院發(fā)布的《人工智能白皮書（2022年）》同樣指出,，隨著人工智能應(yīng)用暴露出各種風(fēng)險和挑戰(zhàn)，以及人們對人工智能認(rèn)識的不斷深入,，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議題,，對可信安全的呼聲不斷增多。

上個月,，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》指出,，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息,。提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)尊重知識產(chǎn)權(quán),、商業(yè)道德，不得利用算法,、數(shù)據(jù),、平臺等優(yōu)勢實(shí)施不公平競爭，等等,。其中提到,，提供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關(guān)主管部門按照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律,、行政法規(guī)的規(guī)定予以處罰,。法律、行政法規(guī)沒有規(guī)定的,，由網(wǎng)信部門和有關(guān)主管部門依據(jù)職責(zé)給予警告,、通報批評，責(zé)令限期改正,；拒不改正或者情節(jié)嚴(yán)重的,，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù),，并處一萬元以上十萬元以下罰款,。構(gòu)成違反治安管理行為的，依法給予治安管理處罰,；構(gòu)成犯罪的,，依法追究刑事責(zé)任。

AI由人創(chuàng)造而來,，AI的風(fēng)險不在AI,，而在于人。只有通過法律保障和行業(yè)監(jiān)管,，給AI技術(shù)立下規(guī)矩,，方能引導(dǎo)人工智能真正“向善”。

小馬飛刀

責(zé)任編輯：王旭偉