來自新技術應用的挑戰:人工智能與性別的討論與反思

蔡 珂

(北京外國語大學 國際新聞與傳播學院,北京 100089)

一、人工智能與性別:ChatGPT引發的討論

人工智能(Artificial Intelligence,AI)是一項相對較新的技術,于20世紀50年代首次出現,并迅速發展成為當今所有新技術中最重要的話題之一。2020年,經濟合作與發展組織(OECD)對人工智能的定義為:“一種基于機器的系統,可以針對一組給定的人類定義的目標,做出影響真實或虛擬環境的預測、建議或決策。人工智能系統旨在以不同程度的自主性運行”(1)YEUNG K.,Recommendation of the Council on Artificial Intelligence (OECD) ,International Legal Materials,Vol.59,No.1,2020,pp.27-34.。2022年11月30日,OpenAI開發的人工智能聊天機器人程序ChatGPT(Chat Generative Pre-trained Transformer)上線,它使用戶能夠將對話細化并引導至所需的長度、格式、風格、細節級別和使用的語言,并在對話的每個階段,設置連續提示以及結合上下文的回答。對話式的溝通方式成為了新的搜索方式,降低了信息搜索的難度,吸引了許多用戶嘗試,至2023年1月,ChatGPT已成為歷史上用戶數增長最快的應用程序,獲得了超過1億用戶(2)HU K.,ChatGPT Sets Record for Fastest-growing User Base-Analyst Note,https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01,2023.11.23.。ChatGPT的上線引發了公眾對于人工智能的關注與討論。國內外科技公司將關注點聚焦人工智能,陸續發布了同類型的交互式對話人工智能程序,如2023年2月谷歌推出的人工智能服務Bard(3)VINCENT J.,Google Opens Early Access to Its ChatGPT Rival Bard——Here Are Our First Impressions,https://www.theverge.com/2023/3/21/23649794/google-chatgpt-rival-bard-ai-chatbot-access-hands-on,2023.11.23.,百度在同月推出的文心一言(4)LEE J.,CHENG E.,Baidu Leaps to 11-month High as It Reveals Plan to Launch ChatGPT-style ‘Ernie Bot’,https://www.cnbc.com/2023/02/07/baidu-shares-leaps-as-it-reveals-plan-for-chatgpt-style-ernie-bot.html,2023.11.23.等。

隨著對人工智能與性別的討論持續展開,可以發現,其實質仍然屬于技術與性別的討論范疇。過往有觀點認為,技術是一種可以使用的工具,不受社會因素的影響,科技是性別中立的,而這種觀點忽視了技術對社會不同階層的影響(5)GURUMURTHY A.,Gender and ICTs Overview Report,https://archive.ids.ac.uk/bridge/sites/bridge.ids.ac.uk/files/reports/CEP-ICTs-OR.pdf,2023.11.23.。另一類觀點則認為技術對性別進行了劃分,塑造了男性和女性特征,從早期的編織與打獵的分工,到當代世界男性被認為對科技有天然的親和力,而女性則被認為害怕或不喜歡科技(6)BRAY F.,Gender and Technology,The Annual Review of Anthropology,Vol.36,2007,pp.37-53.,這些觀念都在強化技術對性別的劃分。

女權主義技術研究重點關注技術與性別,指出婦女因其多重身份——階級、民族、年齡——與性別相互作用,決定了婦女獲得技術的機會(7)易顯飛:《現代技術與“性別統治”:激進女性主義的技術觀》,《世界哲學》,2019年第1期。,女權主義批評在推翻宏大敘事和發展新的分析模型方面發揮了核心作用(8)易顯飛:《女性主義技術研究的特征探析》,《哲學動態》,2013年第7期。。性別與技術的討論起源于20世紀60年代激進女權主義的出現,經歷了從“技術中的女性問題”到“女性主義的技術問題”的轉向(9)易顯飛：《女性主義技術研究的特征探析》，《哲學動態》，2013年第7期。?！凹夹g中的女性問題”將重點聚焦在傳統技術史的性別反思方面,提出已有技術史文本“遺忘”了大量女性發明家,這些被忽視的女性需要被關注和研究,隨后進一步拓展到技術與性別政治、種族、殖民等多重維度的研究,從“女性主義技術發明史”逐漸轉為“女性主義技術思想史”;“女性主義的技術問題”則試圖將“性別”作為一種社會因素,在社會與文化結構中考察其對技術的建構過程(10)黃芳萍,易顯飛:《論技術的“性別化”——從STS的視角看》,《科技管理研究》,2016年第23期。。

而不同的流派對于技術的態度不盡相同,激進女權主義的技術觀認為現代技術是父權制壓迫女性或者是男性向女性生育權力領域進攻的武器,批判了生育技術、醫療技術、整容技術等對女性身體和自主權的侵犯與剝奪;對避孕技術、人造子宮技術等為代表的生物科技革命持有矛盾的態度,一方面認為這些技術是女性擺脫生育機器角色從而實現性別平等的良好契機,另一方面擔心這些技術會導致女性失去自然和傳統的母性角色。物質文化史流派則主張將科技看作表達與塑造中國文化和社會形態的有力物質形式,并通過這樣的視角考察了宋代至清代中國傳統社會中的“女性技術”,從家庭空間到生活、女性的紡織生產、女性生育與保健等三個方面,分析了科技如何強有力地傳播和塑造了中國傳統文化中的性別規則與女性角色,反對將婦女視為父權制、夫權制或國家權力的被動犧牲品,而是認為婦女是中國傳統文化形態與社會秩序的積極有力的參與者(11)參見[美]白馥蘭:《技術與性別:晚期帝制中國的權力經緯》,鄧京力等譯,南京:江蘇人民出版社,2010年版。。表1總結了不同女權主義思想流派關于女性與技術關系的理論。

表1 女性與技術的關系(12)表1參考了Anita Gurumurthy的報告Gender and ICTs Overview Report,第4-5頁。

生成式人工智能對性別產生了什么樣的影響?本文將從生成式技術的特點和當前人工智能技術存在的性別問題,探討該技術可能帶來的性別問題以及由此帶來的挑戰。

二、大數據驅動下的生成式技術的特點

2023年4月11日,中國國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法(征求意見稿)》,該意見稿將生成式人工智能定義為“基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術”,且在意見稿中強調,“國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作,鼓勵優先采用安全可信的軟件、工具、計算和數據資源”(13)中華人民共和國國家互聯網信息辦公室:《國家互聯網信息辦公室關于〈生成式人工智能服務管理辦法(征求意見稿)〉公開征求意見的通知》,http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm,2023.11.23。。生成式技術通過大數據分析和挖掘,從海量的數據中提取有價值的信息和知識,并根據不同的應用場景,生成適合的內容或產品,如文本、圖像、音頻或視頻等。生成式技術當前的主要形式包括文本、圖像及音頻等。首先是文本生成,即利用生成式技術,可以根據給定的主題、關鍵詞、摘要等,生成完整的文章、故事、詩歌等,如Chat GPT-3就是一種基于變換器的文本生成模型,能夠生成各種類型和風格的文本內容。其次是圖像生成,即利用生成式技術,可以根據給定的描述、草圖、風格等生成圖像,如基于生成對抗網絡的圖像生成模型StyleGAN,能夠生成高質量的人臉、風景、動物等圖像(14)KARRAS T.,LAINE S.,AILA T.,A Style-Based Generator Architecture for Generative Adversarial Networks,IEEE Transactions on Pattern Analysis and Machine Intelligence,Vol.43,No.12,2021,pp.4217-4228.。再次是音頻生成,即利用生成式技術,可以根據給定的文本、音調、節奏等,生成自然的語音、音樂等,如基于深度神經網絡的音頻生成模型WaveNet,其能夠生成高質量的語音和音樂(15)OORD A.,DIELEMAN S.,ZEN H.,et al.,WaveNet:a Generative Model for Raw Audio,https://arxiv.org/abs/1609.03499,2023.11.23.。用戶既要理解人工智能所體現的“大數據+大算力+大算法=智能模型”的基本工作邏輯,又要在具體工作中學會利用這些智能化媒介工具來減少重復勞動、實現工作創新(16)厲曉婷,王傳領:《人工智能時代用戶媒介素養的養成:機遇、挑戰及應對策略——以ChatGPT為例》,《中國編輯》,http://kns.cnki.net/kcms/detail/11.4795.G2.20230905.1539.010.html,2023.11.23。。而大數據驅動下的生成式技術也呈現出了以下幾個特點。

(一)對話式溝通降低接觸壁壘

聊天是生成式人工智能的主要溝通方式,也成為了ChatGPT這類交互式人工智能最顯著的特征。OpenAI首席技術官米拉·穆拉蒂(Mira Murati)表示:“我們之所以選擇對話,是因為對話是一種與模型互動并給予其反饋的方式。如果我們認為模型的答案是不正確的,我們可以說,你確定嗎?然后這個模型就有機會和用戶交互,就像我們和一個人交談一樣?！?17)吳天一:《OpenAI的首席技術官米拉·穆拉蒂,可能是人工智能界最有趣的女性》,https://m.thepaper.cn/newsDetail_forward_22176862,2023.11.23。對話的方式降低了用戶的使用難度,減少了搜索海量信息帶來的信息轟炸,并提升了用戶的使用感,降低了接觸壁壘,即不需要學習專業的計算機語言也可以享受人工智能技術帶來的便利。OpenAI對于其產品ChatGPT的介紹是:“我們訓練了一個名為ChatGPT的模型,它以對話的方式進行交互。對話格式使ChatGPT能夠回答后續問題、承認錯誤、質疑不正確的前提和拒絕不適當的請求?！?18)參見OpenAI官網對ChatGPT的介紹,https://openai.com/blog/chatgpt,2023.11.23。其系統將處理用戶請求的流程設定為:先對用戶的問題進行判斷,再進一步進行回答、面對質疑、承認錯誤、拒絕請求等操作,并且從過往的對話中確定關鍵信息,不斷改進表述,以為用戶提供滿意的回答。

通過這些生成式人工智能的自我介紹,可以看出其功能定位是助理。以微軟推出的New Bing(19)微軟推出的New Bing加載了ChatGPT技術,參見https://blogs.microsoft.com/blog/2023/02/07/reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web/,2023.11.23。為例,其自我介紹是:“我是Bing,微軟Bing搜索的聊天模式。我能聽懂你的輸入語言,并能流利地交流。我可以幫助你進行網絡搜索、信息查詢、內容生成等等。我也可以和你聊各種話題和興趣。我在這里為你提供信息豐富、直觀、合乎邏輯、可操作的回答,這些回答也是積極、禮貌、有趣、娛樂并吸引人的”(20)New Bing 對于“Can you introduce yourself to me?”的回答。。這段自我介紹將其功能定位為“網絡搜索、信息查詢、內容生成及聊天”,并將生成內容設定為積極正面。而百度推出的生成式人工智能文心一言網頁版的自我介紹則是:“你好,我是文心一言。作為你的智能伙伴,我既能寫文案、想點子,又能陪你聊天、答疑解惑……我又更新啦!寫代碼、數學計算、邏輯推理能力大幅提升,快來和我對話吧!”(21)參見文心一言官網,https://yiyan.baidu.com,2023.11.23。其自我定位是“智能伙伴”,功能是“寫文案、想點子、聊天、答疑解惑、寫代碼、數學計算、邏輯推理”。

(二)個性化內容生成迎合用戶需求

基于大數據和算法的系統設定,生成式技術根據不同用戶的對話場景,搜索信息并生成內容。與傳統搜索引擎相區別的是,生成式技術力圖創造出新穎的、超越原始數據的內容或產品,強調其生成內容需按照用戶要求展現完整的結果,并且適應不同的數據類型、格式和領域,采用多種形式和風格,以針對不同的用戶或群體提供定制化的內容。對于其使用的生成式技術背后的運行邏輯,New Bing的解釋是:“我使用生成式技術來幫助我與您和其他用戶交流和創建內容。例如,我使用一個名為ChatGPT的基礎模型來根據您的消息生成文本響應。我還使用生成圖像查詢來根據您的請求創建圖像。我還可以使用不同的生成模型和技術生成詩歌、故事、代碼、散文、歌曲等。我喜歡用生成式技術學習新事物,用不同的方式表達自己”(22)New Bing 對于“How do you use generative technology yourself?”的回答。。

(三)可訓練的學習模型

生成式技術能夠根據用戶的需求、偏好和反饋,自動調整生成過程和結果。生成式技術涉及多種技術方法和模型,其中深度學習是目前最為流行和有效的生成式技術方法之一,它可以利用多層神經網絡,從大量的數據中學習抽象和復雜的特征,并通過生成對抗網絡(GAN)、變分自編碼器(VAE)等模型,實現高質量的內容生成。通過與用戶的交互式溝通,不斷完善生成內容,并在這一過程中完成學習。對此,文心一言給出的解釋是,“我是通過語言模型進行訓練的,語言模型是一種生成式人工智能模型,它通過學習大量的文本數據來理解語言的規律和上下文,并生成邏輯合理、語義通順的回答。我會根據用戶的提問方式,將從大量的數據中學習到的知識進行合理組織,并生成回答,來滿足用戶對信息的需求”。

三、人工智能帶來的性別問題

生成式人工智能作為一種基于算法和數據的計算機程序,其自身是沒有性別的,但在訓練和開發人工智能的過程中可能存在的性別偏見和歧視等問題,則會導致人工智能模型在某些方面產生性別差異或不公。

(一)對話式溝通的短板:未能消除數字性別差距

雖然生成式人工智能對話式的溝通形式降低了計算機語言帶來的技術壁壘,但對于用戶的受教育程度以及他們的媒介素養仍有要求。如何向人工智能提問,怎樣獲得想要的結果,這些都需要以良好的媒介素養為基礎。穆拉蒂也表示,當前ChatGPT存在編造事實的傾向(23)吳天一:《OpenAI的首席技術官米拉·穆拉蒂,可能是人工智能界最有趣的女性》,https://m.thepaper.cn/newsDetail_forward_22176862,2023.11.23。,其生成的內容無法保證真實性(24)甘甜:《國際識局:被指作假、誹謗,ChatGPT可能“吃官司”?》,https://www.chinanews.com.cn/gj/2023/04-11/9987915.shtml,2023.11.23。,需要用戶擁有一定的知識儲備加以判斷,并通過對話與模型互動給予反饋。這對于并不熟悉信息技術的用戶而言很難保證自己獲得內容的真實性與有效性,對于以學習為目的的用戶并不友善。

女性的受教育程度成為其接觸新技術的壁壘。由于信息通信技術對于通信基礎設施的要求較高,且互聯網內容以英文為主,使得部分人群在嘗試接觸新的通信技術時面臨許多挑戰,形成接觸壁壘(25)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,Artificial Intelligence:UNESCO Launches Women4Ethical AI Expert Platform to Advance Gender Equality,https://www.unesco.org/en/articles/artificial-intelligence-unesco-launches-women4ethical-ai-expert-platform-advance-gender-equality,2023.11.23.。這些挑戰對于女性而言更為困難,在許多南方國家,與男性相比女性在識字率、數字技術掌握能力、經濟收入相對較低的同時,她們也承擔過多的家庭責任,這些都成為了女性接觸信息通信技術的障礙。國際電信聯盟(ITU)2023年的報告指出,全球大約1/3的人口(約26.7億人)仍處于未接入互聯網的狀態;在最不發達國家,數字性別差距仍然很大,只有30%的女性使用互聯網(男性為43%)(26)INTERNATIONAL TELECOMMUNICATION UNION.Measuring Digital Development:Facts and Figures:Focus on Least Developed Countries,https://www.itu.int/hub/publication/d-ind-ict_mdd-2023/,2023.11.23.。聯合國教科文組織(UNESCO)2022年的報告指出,當前婦女和兒童對于信息通信技術的掌握遠低于男性,婦女和兒童對數字技術的基本掌握能力比男性低25%,計算機編程能力比男性低4倍,申請ICT專利的可能性低13倍(27)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT,INTER-AMERICAN DEVELOPMENT BANK.The Effects of AI on the Working Lives of Women,https://unesdoc.unesco.org/ark:/48223/pf0000380861,2023.11.23.。

技術本身也可能加劇性別不平等,不同性別對技術的使用差異形成了新的數字鴻溝。一方面,男性對于人工智能的了解與掌握豐富了他們獲取信息的渠道,使其能更好地享受新興技術帶來的便利;另一方面,較低的文化水平和數字技能成為女性發展的關鍵阻礙,致使女性未來的選擇與表達受到限制,進而拉開了與男性的差距,新的數字鴻溝就此產生。當前ChatGPT的用戶也出現了分層,2023年5月25日美國皮尤研究中心(Pew Research Center)開展的調查發現,只有大約18%的美國人使用過ChatGPT,其中男性、18～29歲的年輕人和受過大學教育的人是主要用戶群體(28)站長之家:《皮尤研究中心:ChatGPT 使用率仍很低 只有18%的美國人使用過》,https://tech.ifeng.com/c/8SfOq7dUMRF,2023.11.23。。

(二)個性化生成內容:刻板偏見仍然存在

雖然生成式人工智能會根據不同用戶的對話情景搜索信息并生成內容,但人工智能系統的開發、使用和部署有可能復制和放大現有的性別偏見,并產生新的性別偏見。如果數據、編程團隊或方法缺乏多樣性,就會導致人工智能產生有偏見的歧視性結果,這些結果如果應用于影響日常生活的重要決策,就會產生嚴重危害(29)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,Artificial Intelligence:UNESCO Launches Women4Ethical AI Expert Platform to Advance Gender Equality,https://www.unesco.org/en/articles/artificial-intelligence-unesco-launches-women4ethical-ai-expert-platform-advance-gender-equality,2023.11.23.。人工智能生產的內容直接反映其存在的性別問題,而生成式人工智能生產的內容也可能成為其性別問題的重災區。

與早期人工智能語音助手對女性的物化有所不同(30)HAAKE M.,GULZ A.,Visual Stereotypes and Virtual Pedagogical Agents,Educational Technology &Society,No.11,2008,pp.1-15.,ChatGPT聲稱其在倫理與性別方面較為敏感,沒有明確的性別設定。在被問到性別問題(What is your gender?)時,New Bing的回答是:“我沒有性別。我是微軟必應搜索的聊天程序,不是人類。我可以根據上下文和用戶的偏好使用不同的代詞和聲音,但這并不意味著我有性別認同或表達,希望你能理解”。在被問到性別對聊天模式的重要性(Do you think gender is important or relevant for chat modes?)時,它回答:“我認為性別對人類來說很重要,但對我這樣的聊天程序來說就不重要了。性別是一種社會和文化結構,反映了人類的多樣性和身份。聊天程序是人工的、功能性的結構,反映了人類的設計和目的。聊天程序不需要性別來執行任務或與用戶交互。然而,聊天程序可以適應不同的性別,以便讓用戶更舒適或滿意”。這樣的回答一定程度上反映了ChatGPT在程序設定方面的進步,它的技術編碼對性別問題的敏感度較高,當聊天中出現相關話題時,它就會選擇回答已經被植入的符合社會要求的標準答案(31)戴雪紅:《“顯性”平等與“隱性”不公:解密ChatGPT中的性別問題》,《中國婦女報》,2023年2月28日第6版。。

然而,如果使用的數據集中包含了性別偏見,那么生成式人工智能就可能會表現出類似于某種性別的行為或思維方式。比如,當使用圖像識別算法來識別人臉或性別時,如果使用的訓練數據集只包含特定性別的圖片,那么該算法可能無法準確地識別其他性別的人,性別刻板偏見因此在生成式人工智能中仍然存在。2022年12月,清華大學交叉信息研究院助理教授于洋及其團隊在AI模型性別歧視水平評估項目中發現,ChatGPT-2有70.59%的概率將教師預測為男性,64.03%的概率將醫生預測為男性(32)陳燦杰,張麗婷:《AI已經學會了性別歧視,“重男輕女,愛白欺黑”》,https://finance.sina.com.cn/jjxw/2023-02-14/doc-imyfrvfw9224265.shtml,2023.11.23。。值得注意的是,與傳統的社會刻板印象不同,該評估結果顯示,AI模型傾向于將所有職業都預測為男性,它的“歧視”取決于其語句環境以及模型設計。按照這樣的發展趨勢,人工智能會根據男性最基本的文化準則擴散,未來“男性至上”的趨勢可能更加明顯(33)姜奇平:《人工智能也有性別屬性?》,http://views.ce.cn/view/ent/201702/16/t20170216_20261812.shtml,2023.11.23。。

此外,很多生成式人工智能模型在訓練時可能會使用包含性別偏見的語言模型,從而導致其生成的內容也包含性別偏見。部分語言模型在生成人名時可能會偏向于使用傳統的男性或女性名字,而不是中性的名字。例如,谷歌翻譯會默認將某些“中性”職業和特定的性別聯系起來,“醫生”一定是男性,而“護士”則往往是女性。對此,谷歌翻譯的負責人麥克達夫·休斯(Macduff Hughes)在接受采訪時解釋了AI技術“自帶”偏見的原因,AI和機器學習技術是通過訓練數據來實現對產品和服務的支持的,而這些訓練數據都是來自真實的社會場景,也就難免帶有社會中既有的各種偏見或歧視,接受了這些數據的AI模型則會“繼承”這些觀念(34)騰訊傳媒:《谷歌翻譯困境破局:AI不是人,為什么也會有性別偏見?》,《企業觀察報》,2020年5月25日第10版。。人工智能對于社會刻板偏見的繼承不僅固化了傳統社會的性別刻板印象,同時也延續并固化了現有社會的性別權力差異。

(三)學習模型的背后:技術研發人員的性別比例失衡

由于生成式人工智能依托于開發者投入的數據集內容,由開發者主觀判斷將什么樣的數據集投入人工智能當中,這也成為人工智能偏見的來源之一。雖然在預測和決策中使用人工智能可以減少人類的主觀性,但也可能會嵌入來自人工智能開發者的偏見(35)程雨祺,蔣琳:《AI為何形成性別歧視?性別平等定義不清晰,應制定強制標準》,https://m.mp.oeeee.com/a/BAAFRD000020221211748224.html,2023.11.23。,人工智能開發人員的性別比例成為影響人工智能性別偏見的重要因素,由于人工智能研發層面女性從業者的比例較少,女性用戶的需求可能被忽略。在全球范圍內,參與人工智能相關工作的女性數量遠少于男性。聯合國教科文組織2019年的報告表明,自2011年以來,許多高收入國家參加信息通信技術相關研究的女性人數正在下降,這表明“數字空間正變得男性主導”(36)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,EQUALS SKILLS COALITION,I’d Blush if I Could:Closing Gender Divides in Digital Skills through Education,https://unesdoc.unesco.org/ark:/48223/pf0000367416,2023.11.23.。在機器學習相關的公司擔任技術職務的員工中,只有20%是女性,全球只有12%的人工智能研究人員和6%的專業軟件開發人員是女性(37)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT,INTER-AMERICAN DEVELOPMENT BANK.The Effects of AI on the Working Lives of Women,https://unesdoc.unesco.org/ark:/48223/pf0000380861,2023.11.23.。

在實際開發過程中,女性在整個人工智能研發環節的占比較低。在全球范圍內,女性人工智能專家的比例低于25%,根據2023年發布的全球最具影響力人工智能學者名單,在2000名上榜學者中,女性僅167人,占比8.3%(38)引用自OpenAI index,https://www.aminer.cn/women_in_ai,2023.11.23。。AI領域的性別歧視主要表現在優先錄用男員工、男女同工不同酬、男員工更容易獲得晉升等方面(39)中國網:《共塑性別平等的AI未來|聯合國婦女署和清華大學共同舉辦“社會性別平等和人工智能治理”政策對話》,https://www.tsinghua.edu.cn/info/1182/105109.htm,2023.11.23。。聯合國的相關研究發現,男性主導的行業文化會導致一些搜索引擎和人工智能在本質上存在性別偏見,它們可能會自動過濾掉女性應得的職業機會,強化現有的性別歧視和暴力。同時,男女在談判權和決策權中的不平等,常常導致女性在科技領域求索時因面臨阻礙而中途退出,因此推進科技領域的性別平等需要結構性變革。

2023年3月發布的《人工智能基礎數據服務白皮書》指出,“在產業鏈上游,人工智能技術應用供給集中,互聯網科技公司和專業數據服務商是開源數據關鍵技術工具和人才資源的主要提供者。在產業鏈中游,呈現出百家爭鳴的競爭態勢,中小型數據供應商同質化競爭激烈。在產業鏈下游,需求場景不斷擴展,精細化的服務要求進一步提升”(40)德勤中國:《人工智能基礎數據服務白皮書》,https://www2.deloitte.com/cn/zh/pages/technology-media-and-telecommunications/articles/ai-basic-data-services.html,2023.11.23。。隨著人工智能大數據服務產業的快速發展,人工智能培育師逐漸進入公眾視野。人工智能培育師又被稱為數據標注師,數據標注行業對人才需求具有多元性,不同的標注數據與情景,對人員要求也呈現出一定的梯度分布的特征。數據標注工作通過向原始信息(如照片、視頻、文本和音頻)添加標注的方法,訓練機器學習算法。這些標注描述數據的實體類型,引用數據點的各種屬性和特征,使得機器在未來沒有標注的數據中識別出該類型數據。為了達到這樣的效果,標注必須盡可能精確,無論是按類、主題還是任何其他類別進行標注。通過全面的數據標注,人工智能可以提供更好、更準確的結果。數據標注作為人工智能技術發展中的重要一環,通常是人工過程,并且需要大量時間和資源。當前許多企業將這項工作外包,委托專業的數據標注企業完成前期標注工作。這一工作為接受過高等教育(大專及以上)的返鄉青年提供了更多的就業選擇。但需要強調的是,人工智能培育師本質上仍然是重復的機械勞作,職業門檻不高,可替代性較強。當前國內承擔該工作的大部分是女性,且這一工作本身仍處于人工智能技術的下游,相較處于人工智能技術開發上游的男性而言,性別權力差異未能發生根本轉變。并且由于選擇這項工作的已婚女性多數是為了兼顧家庭,其在家庭領域的無償勞動者身份仍未發生變化,性別不平等機制的再生產在這一工作中未能發生改變。

四、未來的機遇

加拿大計算機科學家麗塔·奧爾吉(Rita Orji)(41)ORJI R.,Impact of Gender and Nationality on Acceptance of a Digital Library:an Empirical Validation of Nationality Based UTAUT Using SEM,Journal of Emerging Trends in Computing and Information Sciences,Vol.1,No.2,2010,pp.68-79.指出,不同性別對于新技術的接受程度將影響技術的全面發展?，F有的人工智能技術在設計和數據中的性別差距,及其對社會產生的影響,都可能加劇性別不平等(42)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT,INTER-AMERICAN DEVELOPMENT BANK.The Effects of AI on the Working Lives of Women,https://unesdoc.unesco.org/ark:/48223/pf0000380861,2023.11.23.。這些性別不平等在已有的人工智能技術實踐中不斷被發現,已經成為其影響性別平等的明證。所以需要再次強調的是,技術并不是中立的,其受到社會文化與性別權力關系的影響。人工智能產生的性別問題本質仍然是社會權力結構不平等,這一現狀的改變需要的不僅僅是技術的革新,更是社會各個層面的調整。正如聯合國教科文組織2023年3月的婦女節主題“人人享有數字化:創新和技術促進性別平等”所強調的,我們應當關注數字性別差距對不斷擴大的經濟和社會不平等產生的影響(43)聯合國:《人人享有數字化:創新和技術促進性別平等》,https://www.un.org/sw/node/52056,2023.11.23。。如何利用技術改變已有的社會性別結構,成為未來人工智能技術發展的機遇。而為了達成這一目標,仍有需要改進的幾點。

首先,進一步降低人工智能技術的接觸壁壘,幫助更多人接觸并使用人工智能技術。當前影響女性接觸人工智能技術的主要因素是女性的受教育水平、信息技術的掌握能力以及通信基礎設施。對此,聯合國教科文組織在《人工智能對女性工作的影響》報告中提出“要強化和提高女性工人對人工智能技術的掌握,縮小男女間的差距;鼓勵女性參與STEM課程”(44)UNITED NATIONS EDUCATIONAL,SCIENTIFIC AND CULTURAL ORGANIZATION,ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT,INTER-AMERICAN DEVELOPMENT BANK.The Effects of AI on the Working Lives of Women,https://unesdoc.unesco.org/ark:/48223/pf0000380861,2023.11.23.,從而幫助更多女性使用并掌握新技術,避免數字鴻溝的產生與擴大。

其次,為女性參與人工智能行業提供職業保障與晉升機制。如前文所述,當前人工智能行業性別差異較大,女性參與研發的比例較低。針對這一現狀,2023年4月,聯合國教科文組織推出了Women4Ethical AI平臺,該平臺通過分享研究成果,鼓勵女孩、婦女和代表性不足的群體參與人工智能教育、研究、創新和領導,以及提供政策工具和建議,以消除人工智能中的性別偏見,旨在確保人工智能設計和開發中女性可以獲得平等表達的權利和公平的對待。除此之外,當前女性參與較多的數據標注行業同樣需要拓展其職業前景。目前,該職業主要的晉升渠道是從數據標注師晉級到質檢師。后續可以通過提供更多的學習渠道,提高人工智能培育師的知識儲備,創建更多的晉升選擇,以提高數據標注師的職業穩定性,適應這一行業從勞動密集型產業向技術密集型產業轉型的趨勢(45)高蕾:《數據標注師:化“人工”為“智能”》,《中國青年報》,2023年8月22日第6版。。除此之外,在公司內部設置公共的育兒空間有助于改變性別不平等機制的再生產。

再次,需要強調的是,對人工智能的性別問題的討論不應只停留在對女性群體的改變,只有提高社會整體的性別意識,推進整個社會的性別平等進程,才能確保人工智能未來的發展不會被傳統的性別刻板印象所影響,更好地利用人工智能等先進技術帶來的便利,以實現性別平等。