11月5日至6日，2024“國(guó)是論壇”在京舉辦。國(guó)務(wù)院參事、中國(guó)工程院院士、中國(guó)人工智能學(xué)會(huì)理事長(zhǎng)戴瓊海在接受人民網(wǎng)記者采訪時(shí)表示，人工智能技術(shù)在開放通用場(chǎng)景中仍存在一些安全風(fēng)險(xiǎn)。規(guī)避技術(shù)安全隱憂，才能促進(jìn)人工智能持續(xù)發(fā)展。
“人工智能技術(shù)發(fā)展至今仍有多重安全風(fēng)險(xiǎn)值得注意，例如黑箱數(shù)據(jù)訓(xùn)練安全風(fēng)險(xiǎn)，黑箱依靠數(shù)據(jù)訓(xùn)練來(lái)支撐大模型對(duì)未來(lái)的推算，如果有人偷換數(shù)據(jù)，而后訓(xùn)練出來(lái)的人工智能模型可能成為敵人?！贝鳝偤Ｅe例說(shuō)，“又如醫(yī)療數(shù)據(jù)安全風(fēng)險(xiǎn)，如果病例數(shù)據(jù)標(biāo)注過(guò)程中存在錯(cuò)誤，即便大部分?jǐn)?shù)據(jù)判斷正確，但涉及標(biāo)注錯(cuò)誤的區(qū)域時(shí)，人工智能的判斷依然會(huì)給人類帶來(lái)災(zāi)難?！?/p>
此外，開放場(chǎng)景中的人工智能仍存在問(wèn)題。“好比模式固化的自動(dòng)駕駛無(wú)法規(guī)避所有事故，分析數(shù)據(jù)的系統(tǒng)無(wú)法結(jié)合自我認(rèn)知生成結(jié)果?！贝鳝偤１硎?，“因此，進(jìn)行顛覆性創(chuàng)新，從技術(shù)上要做到具有可解釋性的人工智能模型或算法；要規(guī)避安全技術(shù)隱憂，保證數(shù)據(jù)的安全是人工智能最主要的安全；盡量開放場(chǎng)景，切忌降低維度，可以先將人工智能放到封閉場(chǎng)景，逐漸擴(kuò)圈，最后使場(chǎng)景變?yōu)橥耆_放式?！保▽?shí)習(xí)生王一惟對(duì)本文亦有貢獻(xiàn)）
北疆新聞：內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站（客戶端），內(nèi)蒙古出版集團(tuán)新華報(bào)業(yè)中心旗下國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站（客戶端）。
北疆新聞版權(quán)與免責(zé)聲明：
一、凡本站中注明“來(lái)源：北疆新聞”的所有文字、圖片和音視頻，版權(quán)均屬北疆新聞所有，轉(zhuǎn)載時(shí)必須注明“來(lái)源：北疆新聞”，并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的，請(qǐng)?jiān)谝娋W(wǎng)后30日內(nèi)進(jìn)行，聯(lián)系郵箱：bjwmaster@163.com。
版權(quán)聲明：北疆新聞版權(quán)所有，未經(jīng)書面授權(quán)，不得轉(zhuǎn)載或建立鏡像，違者依法必究。 本站違法和不良信息舉報(bào)電話：15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證：15120200009-1蒙公網(wǎng)安備：15010502001245
