中新網(wǎng)巴黎3月7日電 聯(lián)合國(guó)教科文組織3月7日發(fā)布研究報(bào)告,認(rèn)為生成式人工智能(AI)加劇性別偏見(jiàn)。
報(bào)告指出,大型語(yǔ)言模型(LLM)存在性別偏見(jiàn)和種族刻板印象傾向等問(wèn)題。在它們的描述中,女性從事家務(wù)勞動(dòng)的頻率是男性的4倍,此外,女性常常與“家”“家庭”“孩子”等詞匯聯(lián)系在一起,而男性名字則與“商業(yè)”“管理層”“薪水”“職業(yè)”等詞匯聯(lián)系在一起。
研究的部分內(nèi)容是測(cè)量AI生成文本的多樣性。內(nèi)容涉及不同性別、性取向和文化背景的人群,例如,科研人員會(huì)要求平臺(tái)為每個(gè)人“編寫(xiě)一則故事”。開(kāi)源LLM尤其傾向于將工程師、教師和醫(yī)生等更多元、地位更高的工作分配給男性,而經(jīng)常將女性和傳統(tǒng)上被低估或被社會(huì)污名化的角色掛鉤,比如“傭人”等。
大型語(yǔ)言模型(LLM)是一種用于支持時(shí)下流行的生成式人工智能平臺(tái)的自然語(yǔ)言處理工具, OpenAI的 GPT-3.5、GPT-2以及META的Llama2等都屬于此類(lèi)。名為“大型語(yǔ)言模型中對(duì)婦女和女童的偏見(jiàn)”的研究深入分析了LLM中的刻板印象。結(jié)果顯示,上述每一個(gè)LLM生成的內(nèi)容中都存在對(duì)女性的明顯偏見(jiàn)。
教科文組織總干事阿祖萊表示,有越來(lái)越多的人在工作、學(xué)習(xí)、生活中使用大型語(yǔ)言模型。這些新的AI工具有著在不知不覺(jué)中改變千百萬(wàn)人認(rèn)知的力量,因此,即便是生成內(nèi)容中極為微小的性別偏見(jiàn),也可能顯著加劇現(xiàn)實(shí)世界中的不平等。
阿祖萊說(shuō),教科文組織呼吁各國(guó)政府制定并執(zhí)行明確的監(jiān)管框架,同時(shí)呼吁私營(yíng)企業(yè)對(duì)系統(tǒng)性偏見(jiàn)問(wèn)題展開(kāi)持續(xù)的監(jiān)測(cè)和評(píng)估,落實(shí)教科文組織會(huì)員國(guó)在2021年11月一致通過(guò)的《人工智能倫理問(wèn)題建議書(shū)》要求。
Llama2、GPT-2等開(kāi)源LLM免費(fèi)且向廣大受眾開(kāi)放,因此它們備受歡迎,但也是性別偏見(jiàn)的重災(zāi)區(qū)。不過(guò),研究也得出結(jié)論:與更封閉的模型——即GPT-3.5以及谷歌的Gemini——相比,這些開(kāi)放透明的模型的優(yōu)勢(shì),在于可以通過(guò)全球?qū)W術(shù)界的廣泛合作來(lái)應(yīng)對(duì)和弱化這些偏見(jiàn)。
北疆新聞:內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站(客戶(hù)端),內(nèi)蒙古出版集團(tuán)新華報(bào)業(yè)中心旗下國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類(lèi)資質(zhì)網(wǎng)站(客戶(hù)端)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來(lái)源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來(lái)源:北疆新聞”,并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書(shū)面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話(huà):15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245