色综合天天干,日韩人妻无码一区av免费,国产成人综合日韩精品婷婷九月,国产98色在线,欧美一级a在线作爱免费观看,亚洲精品美女网站在线观看,99久久亚洲综合精品网站

客戶端
官方微信
官方微博
今日頭條
北疆觀察
數(shù)字報(bào)刊
北疆新聞 > 經(jīng)濟(jì) > 正文
百度CTO王海峰:知識(shí)增強(qiáng)大語(yǔ)言模型具備人工智能的四項(xiàng)基礎(chǔ)能力
2023年09月23日 09:07 來(lái)源:環(huán)球網(wǎng) 關(guān)燈

9月21日,由科學(xué)技術(shù)部、中國(guó)工程院、清華大學(xué)共同發(fā)起主辦的長(zhǎng)城工程科技會(huì)議“人工智能賦能高質(zhì)量發(fā)展”主題大會(huì)在清華大學(xué)召開(kāi)??萍疾奎h組書(shū)記、部長(zhǎng)王志剛、清華大學(xué)黨委書(shū)記邱勇致辭,中國(guó)工程院潘云鶴院士、中國(guó)科學(xué)院張鈸院士等多位學(xué)術(shù)界、產(chǎn)業(yè)界專家圍繞人工智能技術(shù)前沿與產(chǎn)業(yè)發(fā)展分享了真知灼見(jiàn)。百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任王海峰以《人工智能技術(shù)生態(tài)與產(chǎn)業(yè)模式》為題作主旨報(bào)告。會(huì)上,王海峰表示,人工智能具有多種典型能力,理解、生成、邏輯、記憶是其中的核心基礎(chǔ)能力,這四項(xiàng)能力越強(qiáng),越接近通用人工智能,而大語(yǔ)言模型具備了這四項(xiàng)能力,為發(fā)展通用人工智能帶來(lái)曙光。

早在2019年,王海峰就曾提出,深度學(xué)習(xí)具有很強(qiáng)的通用性,并具備標(biāo)準(zhǔn)化、自動(dòng)化和模塊化的工業(yè)大生產(chǎn)特征,推動(dòng)人工智能進(jìn)入工業(yè)大生產(chǎn)階段。四年來(lái),深度學(xué)習(xí)技術(shù)和應(yīng)用的發(fā)展充分驗(yàn)證了這一觀點(diǎn)。深度學(xué)習(xí)技術(shù)的通用性越來(lái)越強(qiáng),深度學(xué)習(xí) 平臺(tái)的標(biāo)準(zhǔn)化、自動(dòng)化和模塊化特征越來(lái)越顯著,而預(yù)訓(xùn)練大模型的興起,使得人工智能應(yīng)用的深度和廣度進(jìn)一步拓展,技術(shù)生態(tài)更加完善。人工智能已進(jìn)入工業(yè)大生產(chǎn)階段。

標(biāo)準(zhǔn)化方面,框架和模型聯(lián)合優(yōu)化,多硬件統(tǒng)一適配,應(yīng)用模式簡(jiǎn)潔高效,大幅降低人工智能應(yīng)用門檻;自動(dòng)化方面,從訓(xùn)練、適配,到推理部署,提升人工智能研發(fā)全流程效率;模塊化方面,豐富的產(chǎn)業(yè)級(jí)模型庫(kù),支撐人工智能在廣泛場(chǎng)景的便捷應(yīng)用。

據(jù)了解,得益于飛槳產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開(kāi)源開(kāi)放平臺(tái)和文心大模型的互相促進(jìn),貫通了深度學(xué)習(xí)全產(chǎn)業(yè)鏈,飛槳生態(tài)愈加繁榮,已凝聚800萬(wàn)開(kāi)發(fā)者,服務(wù)22萬(wàn)家企事業(yè)單位,基于飛槳?jiǎng)?chuàng)建了80萬(wàn)個(gè)模型。伴隨大模型的發(fā)展,百度推出了星河大模型社區(qū),寓意“文心加飛槳,翩然赴星河”,與開(kāi)發(fā)者共享共創(chuàng)大模型生態(tài)。

王海峰表示,人工智能具有多種典型能力,理解、生成、邏輯、記憶是其中的核心基礎(chǔ)能力,這四項(xiàng)能力越強(qiáng),越接近通用人工智能,而大語(yǔ)言模型具備了這四項(xiàng)能力,為發(fā)展通用人工智能帶來(lái)曙光。

具體而言,人工智能的典型能力如創(chuàng)作、編程、解題、規(guī)劃等都依賴于理解、生成、邏輯、記憶等核心基礎(chǔ)能力,依賴程度有所不同。以解題為例,從讀懂題目、解答題目到最后寫(xiě)出答案,需要理解、記憶、邏輯及生成能力的綜合運(yùn)用。

知識(shí)增強(qiáng)大語(yǔ)言模型文心一言充分驗(yàn)證了這一點(diǎn)。在訓(xùn)練數(shù)據(jù)規(guī)模和參數(shù)規(guī)模相同的情況下,純中文模型比多語(yǔ)言模型生成能力強(qiáng),理解和邏輯能力弱。文心一言首先從數(shù)萬(wàn)億數(shù)據(jù)和數(shù)千億知識(shí)中融合學(xué)習(xí)得到預(yù)訓(xùn)練大模型,在此基礎(chǔ)上采用有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)和提示等技術(shù),并具備知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)等技術(shù)優(yōu)勢(shì)。在檢索增強(qiáng)和知識(shí)增強(qiáng)的基礎(chǔ)上,通過(guò)知識(shí)點(diǎn)增強(qiáng),提升對(duì)世界知識(shí)的掌握和運(yùn)用;通過(guò)邏輯數(shù)據(jù)構(gòu)建、邏輯知識(shí)建模、多粒度語(yǔ)義知識(shí)組合以及符號(hào)神經(jīng)網(wǎng)絡(luò),提升邏輯推理能力。進(jìn)一步地,通過(guò)多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布、基礎(chǔ)模型長(zhǎng)文建模、多類型多階段有監(jiān)督精調(diào)、多任務(wù)自適應(yīng)有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型等技術(shù)創(chuàng)新,全面提升基礎(chǔ)通用能力。

效率方面,通過(guò)飛槳端到端自適應(yīng)混合并行訓(xùn)練技術(shù)以及壓縮、推理、服務(wù)部署的協(xié)同優(yōu)化,文心大模型訓(xùn)練速度達(dá)到原來(lái)的3倍,推理速度達(dá)到原來(lái)的30多倍。根據(jù)人民數(shù)據(jù)、新華網(wǎng)等多個(gè)公開(kāi)測(cè)評(píng),文心大模型3.5支持下的文心一言綜合能力超過(guò)ChatGPT,遙遙領(lǐng)先于國(guó)內(nèi)其他大模型。IDC《AI大模型技術(shù)能力評(píng)估報(bào)告,2023》顯示,文心大模型3.5拿下12項(xiàng)指標(biāo)的7個(gè)滿分,得到“綜合評(píng)分第一,算法模型第一,行業(yè)覆蓋第一”三個(gè)絕對(duì)第一。

應(yīng)用方面,通過(guò)數(shù)據(jù)驅(qū)動(dòng)、提示構(gòu)建,以及插件增強(qiáng)進(jìn)行場(chǎng)景適配,協(xié)同優(yōu)化。文心一言已上線百度搜索、覽卷文檔、E言易圖、說(shuō)圖解畫(huà)、一鏡流影等原生插件,使模型具備生成實(shí)時(shí)準(zhǔn)確信息、長(zhǎng)文本摘要和問(wèn)答、數(shù)據(jù)洞察和圖表制作、基于圖片的創(chuàng)作和問(wèn)答、文生視頻等能力。插件機(jī)制擴(kuò)展了大模型能力邊界,更適應(yīng)場(chǎng)景需要。

數(shù)據(jù)顯示,文心一言在8月31日率先面向全社會(huì)開(kāi)放服務(wù),首日回答了網(wǎng)友3342萬(wàn)個(gè)問(wèn)題,細(xì)分應(yīng)用場(chǎng)景豐富,包括文案創(chuàng)意、教育咨詢、代碼生成等,目前已有15萬(wàn)企業(yè)和2萬(wàn)多插件開(kāi)發(fā)者申請(qǐng)接入。

面對(duì)大模型產(chǎn)業(yè)化的挑戰(zhàn),王海峰表示,類似芯片代工廠,可以采用“集約化生產(chǎn),平臺(tái)化應(yīng)用”的模式,即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)將模型生產(chǎn)的復(fù)雜過(guò)程封裝起來(lái),通過(guò)低門檻、高效率的生產(chǎn)平臺(tái),為千行百業(yè)提供大模型服務(wù)。這一產(chǎn)業(yè)化路徑已在文心大模型產(chǎn)業(yè)實(shí)踐中得到驗(yàn)證,百度與各行業(yè)頭部企業(yè)、機(jī)構(gòu)共建了包括能源、金融、航天、制造、傳媒、城市、社科以及影視等行業(yè)大模型。以文心一言等大語(yǔ)言模型為代表的人工智能正在深入千行百業(yè),加速產(chǎn)業(yè)升級(jí)和經(jīng)濟(jì)增長(zhǎng)。

北疆新聞:內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團(tuán)新華報(bào)業(yè)中心旗下國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站(客戶端)。

編輯:方琳
75

北疆新聞版權(quán)與免責(zé)聲明:

一、凡本站中注明“來(lái)源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來(lái)源:北疆新聞”,并附上原文鏈接。

二、凡來(lái)源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。

如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。

察哈爾火山群雪景如畫(huà)

版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書(shū)面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號(hào)-1

Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245