近日,內(nèi)蒙古包頭警方公布一起利用人工智能換臉技術(shù)實(shí)施詐騙的案件。相較于傳統(tǒng)電信詐騙,此類詐騙利用AI換臉技術(shù)繞過(guò)面容核驗(yàn)等防范措施,更具欺騙性。為AI換臉技術(shù)加裝安全網(wǎng)尤為必要。
人工智能技術(shù)在促進(jìn)社會(huì)經(jīng)濟(jì)發(fā)展的同時(shí),也暴露出一定風(fēng)險(xiǎn)。以AI換臉技術(shù)為例,普通用戶獲取教程并不難。除被用作電信詐騙,AI換臉還被用于冒充名人直播帶貨,合成視頻販賣營(yíng)利,甚至誹謗、敲詐勒索他人等。
AI換臉技術(shù)打破了眼見(jiàn)為實(shí)的傳統(tǒng)認(rèn)知,如不加干預(yù),隨著技術(shù)迭代升級(jí),AI換臉或?qū)⒂l(fā)逼真,反詐防騙難度進(jìn)一步加大,因驗(yàn)證身份帶來(lái)的交易成本也將提升。技術(shù)研發(fā)者、平臺(tái)運(yùn)營(yíng)方以及監(jiān)管部門(mén)等有責(zé)任堵住漏洞,防范AI換臉野蠻生長(zhǎng)。
要為AI換臉技術(shù)劃定紅線。目前,對(duì)生成式人工智能的治理,已告別無(wú)法可依。生成式人工智能技術(shù)的使用原則、規(guī)則得以確立,各方權(quán)利、義務(wù)與責(zé)任基本明確,有利于AI技術(shù)濫用的源頭治理。各類科技企業(yè)、開(kāi)發(fā)者也應(yīng)主動(dòng)開(kāi)展合規(guī)自查,引導(dǎo)技術(shù)向善。
要從根源鏟除AI換臉詐騙賴以生存的土壤。人臉的深度偽造,離不開(kāi)對(duì)目標(biāo)人臉的模型學(xué)習(xí)與面容合成、通信協(xié)議破解技術(shù)的配合。公安、網(wǎng)信等部門(mén)應(yīng)形成合力,從數(shù)據(jù)安全、技術(shù)研發(fā)、圖像傳播等方面全鏈條打擊AI技術(shù)濫用行為。各平臺(tái)也應(yīng)對(duì)用戶上傳的圖像進(jìn)行技術(shù)處理。
要以科技賦能提升用戶反詐能力。AI換臉雖可暫時(shí)蒙騙人眼,但在技術(shù)層面的留痕卻難以被掩蓋。要加快推動(dòng)AI生成圖像識(shí)別、鑒真技術(shù)的應(yīng)用,短視頻平臺(tái)、社交軟件等要對(duì)合成圖像進(jìn)行顯著標(biāo)注,幫助用戶辨別真?zhèn)?,讓詐騙無(wú)處遁形。(史書(shū)一)
北疆新聞:內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團(tuán)新華報(bào)業(yè)中心旗下國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站(客戶端)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來(lái)源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來(lái)源:北疆新聞”,并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書(shū)面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245