北疆新聞 立足北疆 傳播中國(guó)
人民網(wǎng)北京2月24日電 （記者趙竹青）2月23日，清華大學(xué)計(jì)算機(jī)系相關(guān)研究團(tuán)隊(duì)宣布推出大語言模型RealSafe-R1。該模型基于DeepSeek R1進(jìn)行深度優(yōu)化與后訓(xùn)練，在確保性能穩(wěn)定的基礎(chǔ)上，顯著提升了安全性，為開源大模型的安全發(fā)展與風(fēng)險(xiǎn)治理提供了創(chuàng)新性解決方案。
近日來，國(guó)產(chǎn)開源大模型DeepSeek在自然語言處理和多任務(wù)推理方面展現(xiàn)了強(qiáng)大的技術(shù)實(shí)力，但在面對(duì)越獄攻擊等安全性挑戰(zhàn)時(shí)仍存在一定局限性。為此，清華團(tuán)隊(duì)提出了基于模型自我提升的安全對(duì)齊方式，將安全對(duì)齊與內(nèi)省推理相結(jié)合，使大語言模型能夠通過具有安全意識(shí)的思維鏈分析來檢查潛在風(fēng)險(xiǎn)，實(shí)現(xiàn)基礎(chǔ)模型自身能力的自主進(jìn)化。
基于該方法，團(tuán)隊(duì)對(duì)DeepSeek-R1系列模型進(jìn)行后訓(xùn)練，正式推出RealSafe-R1系列大模型。實(shí)驗(yàn)數(shù)據(jù)表明，RealSafe-R1安全性提升顯著，在多個(gè)基準(zhǔn)測(cè)試中有效增強(qiáng)了對(duì)各種越獄攻擊的抵抗力，并減輕了安全與性能之間的“蹺蹺板”現(xiàn)象。
據(jù)悉，RealSafe-R1各尺寸模型及數(shù)據(jù)集將于近期向全球開發(fā)者開源。
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái)，內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。
北疆新聞版權(quán)與免責(zé)聲明：
一、凡本站中注明“來源：北疆新聞”的所有文字、圖片和音視頻，版權(quán)均屬北疆新聞所有，轉(zhuǎn)載時(shí)必須注明“來源：北疆新聞”，并附上原文鏈接。
二、凡來源非北疆新聞的新聞（作品）只代表本網(wǎng)傳播該消息，并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的，請(qǐng)?jiān)谝娋W(wǎng)后30日內(nèi)進(jìn)行，聯(lián)系郵箱：bjwmaster@163.com。
版權(quán)聲明：北疆新聞版權(quán)所有，未經(jīng)書面授權(quán)，不得轉(zhuǎn)載或建立鏡像，違者依法必究。 本站違法和不良信息舉報(bào)電話：15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證：15120200009-1蒙公網(wǎng)安備：15010502001245
