2025年04月14日 星期一
11月5日至6日，2024“國是論壇”在京舉辦。國務院參事、中國工程院院士、中國人工智能學會理事長戴瓊海在接受人民網(wǎng)記者采訪時表示，人工智能技術在開放通用場景中仍存在一些安全風險。規(guī)避技術安全隱憂，才能促進人工智能持續(xù)發(fā)展。
“人工智能技術發(fā)展至今仍有多重安全風險值得注意，例如黑箱數(shù)據(jù)訓練安全風險，黑箱依靠數(shù)據(jù)訓練來支撐大模型對未來的推算，如果有人偷換數(shù)據(jù)，而后訓練出來的人工智能模型可能成為敵人?！贝鳝偤Ｅe例說，“又如醫(yī)療數(shù)據(jù)安全風險，如果病例數(shù)據(jù)標注過程中存在錯誤，即便大部分數(shù)據(jù)判斷正確，但涉及標注錯誤的區(qū)域時，人工智能的判斷依然會給人類帶來災難。”
此外，開放場景中的人工智能仍存在問題?！昂帽饶Ｊ焦袒淖詣玉{駛無法規(guī)避所有事故，分析數(shù)據(jù)的系統(tǒng)無法結合自我認知生成結果?！贝鳝偤１硎荆耙虼?，進行顛覆性創(chuàng)新，從技術上要做到具有可解釋性的人工智能模型或算法；要規(guī)避安全技術隱憂，保證數(shù)據(jù)的安全是人工智能最主要的安全；盡量開放場景，切忌降低維度，可以先將人工智能放到封閉場景，逐漸擴圈，最后使場景變?yōu)橥耆_放式?！保▽嵙暽跻晃Ρ疚囊嘤胸暙I）
北疆新聞：內蒙古自治區(qū)重點新聞網(wǎng)站（客戶端），內蒙古出版集團新華報業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務一類資質網(wǎng)站（客戶端）。
北疆新聞版權與免責聲明：
一、凡本站中注明“來源：北疆新聞”的所有文字、圖片和音視頻，版權均屬北疆新聞所有，轉載時必須注明“來源：北疆新聞”，并附上原文鏈接。
二、凡來源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點。
如因作品內容、版權和其它問題需要同本網(wǎng)聯(lián)系的，請在見網(wǎng)后30日內進行，聯(lián)系郵箱：bjwmaster@163.com。
版權聲明：北疆新聞版權所有，未經書面授權，不得轉載或建立鏡像，違者依法必究。 本站違法和不良信息舉報電話：15648148811蒙ICP備16001043號-1
Copyright © 2016-2025 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務許可證：15120200009-1蒙公網(wǎng)安備：15010502001245
