全文共4481字,預(yù)計(jì)學(xué)習(xí)時(shí)長9分鐘
可以說,目前使用最廣泛的人工智能形式就是數(shù)字語音代理(DVAs)。據(jù)2017年皮尤研究中心估計(jì),超過一半的美國人主要通過智能手機(jī)使用DVAs,其次是個(gè)人電腦和家庭揚(yáng)聲器。
所有四款領(lǐng)先的DVAs(蘋果的Siri、微軟的Cortana、亞馬遜的Alexa和谷歌Assistant)都使用了強(qiáng)烈的人性化特征——無論是性別、聲音、名字(谷歌Assistant除外)還是個(gè)性。而在默認(rèn)情況下,在大多數(shù)市場它們都是女性化的,并也被大多數(shù)用戶視為女性形象。根據(jù)2018年LivePerson的一項(xiàng)研究,大多數(shù)超過24歲的用戶都沒怎么思考過這其中的原因。
2011年就在iPhone上推出的Siri是第一個(gè)大眾市場,也是當(dāng)今應(yīng)用最廣泛的數(shù)字語音代理。近十年來,很多用戶已經(jīng)習(xí)慣了這一功能,只需說嘿,Siri,他們就能獲得許多有用的回答。然而,可能令美國iPhone用戶感到驚訝的事實(shí)是,Siri在英國、法國和德國一直是一個(gè)默認(rèn)的男聲。如今,在語言設(shè)置里,用戶可以選擇Siri的聲音,并可將其更改為男性或女性。對(duì)于某些語言,如英語,用戶也可以從各種口音(如英國口音、澳大利亞口音或美國口音)中進(jìn)行選擇,盡管目前僅限于某些英美口音。
那么,為什么DVAs被設(shè)計(jì)成具有人性化特征(姓名、聲音,甚至人格)呢,而且為什么它們大部分是女性的?Clifford Nass是一位人類對(duì)機(jī)器反應(yīng)領(lǐng)域的杰出研究者,他和他的同事們通過研究得出,人們普遍傾向于喜歡女性的聲音,但還有一項(xiàng)因素是性別一致性:即男性傾向于喜歡男性的聲音(合成的或人類的),女性同理。
人類大腦傾向于喜歡女性的聲音是一個(gè)公認(rèn)的現(xiàn)象。—Clifford Nass
性別一致性這一點(diǎn)與社會(huì)認(rèn)同理論是一致的,但似乎又有悖常理,因?yàn)镈VAs通常都是用女性的聲音編程的。因此,Nass和 Brave揭示了語境的重要性,以及發(fā)現(xiàn)顯著的性別刻板印象會(huì)影響人們的偏好。Nass和 Brave的研究中發(fā)現(xiàn)的一個(gè)性別刻板印象是,女性的聲音往往比男性受到的關(guān)注少,受到的重視程度也低(例如,她們的聲音很容易被忽視)。在DVAs中,考慮到其主要目的都是執(zhí)行一些非關(guān)鍵任務(wù),如通過基本信息提供幫助、播放音樂和報(bào)告用戶的日程安排等,所以盡管是性別歧視,這似乎也符合研究結(jié)果。但是,之前在德國,寶馬汽車拒絕了使用女性語音,原因則是他們對(duì)接受女性的語音駕駛指示缺乏足夠的信任。
首先,來聊聊文化中性別刻板印象的問題
DVAs的典型特征是遵從性、服務(wù)導(dǎo)向性和友好性——這些特征通常與女性對(duì)男性的服務(wù)相關(guān)。此外,除了一些文化上的細(xì)微差別,助理(或秘書,這是DVAs的主要功能)角色在歷史上通常都與女性有關(guān)。而在英國,Siri的默認(rèn)聲音是男性, 可以猜想這也許是與其文化中根深蒂固的男管家角色有關(guān)。因此在英國,根據(jù)其服務(wù)導(dǎo)向,男性的聲音更適合DVAs。正如前面提到的, 由于德國的寶馬汽車公司拒絕了女性化的聲音AI,這可能就影響了德國在默認(rèn)情況下將Siri設(shè)置為男性化聲音的這一決策。所有這些案例揭示了語音性別偏好方面不同的性別偏見, 所以在DVAs的所有形式中, 無論是選擇男性還是女性的聲音, 似乎都是在利用刻板印象中的性別差異。
女權(quán)主義者對(duì)當(dāng)今DVAs的批評(píng)集中在其標(biāo)志性的女性助理角色的基本特征上,他們認(rèn)為這種助理形象是由父權(quán)制的和帶有性別偏見的商業(yè)技術(shù)部門創(chuàng)造的。這種批評(píng)看似公平,但是隨著時(shí)間推移和技術(shù)的發(fā)展,也可能會(huì)模糊男性主導(dǎo)地位所影響的更深層次的問題,尤其是在人工智能領(lǐng)域。而在學(xué)術(shù)界的女權(quán)主義者質(zhì)疑科學(xué)和技術(shù)(包括醫(yī)學(xué)和心理學(xué))是父權(quán)制設(shè)計(jì)的基本原理這一說法,這主要是因?yàn)榉椒ê蛯?shí)踐主要是由男性制定的(請(qǐng)閱讀Artificial Knowing,亞當(dāng)著,2006)。此外,女權(quán)主義者(以及大多數(shù)理智的人)也對(duì)明顯偏向女性化的DVAs和其他形式的人工智能表示異議。
DVAs取名里的秘密
目前最流行的DVAs的名字本身就一系列地或多或少揭示了性別一致性。有人可能會(huì)對(duì)Siri這個(gè)名字是男是女有爭議,因?yàn)槲鞣絿遥琒iri并不是一個(gè)常見的名字,這個(gè)名字也并不帶有太多文化偏見。以及蘋果公司網(wǎng)站也最常直接用siri這一名字來提到這一應(yīng)用,盡管有時(shí)會(huì)使用它,但是從未使用過她這一字眼。這可能是考慮到了不同國家的性別差異或是不同選擇。因此,對(duì)于Siri女性化形象的聯(lián)想最有可能歸因于Siri尖細(xì)的嗓音和它的個(gè)性(下文將會(huì)闡述這一點(diǎn))。亞馬遜網(wǎng)站通常也會(huì)直接用Alexa這個(gè)名字來指代(或你的設(shè)備),但有時(shí)也會(huì)使用她。同Alexa一樣,Cortana也是典型的女性名字,而且事實(shí)上微軟在什么是Cortana?的開頭一行就用了她來指代Cortana(Cortana是你的數(shù)字化助手,她會(huì)幫你完成任務(wù)的)。除此之外,Cortana也因?yàn)樗哂械膫€(gè)性特點(diǎn)而產(chǎn)生女性化的特征;甚至,連她的這個(gè)名字也是由Halo游戲系列中一個(gè)非常的女性化的人工智能角色而來的。
個(gè)性、聲音和語言的使用似乎都是社會(huì)反應(yīng)的強(qiáng)烈暗示。性別在人類的行為方式和與同齡人的社交互動(dòng)方面都具有非凡的意義,而性別比對(duì)可以解釋一些基于用戶性別的不同反應(yīng)。因此,個(gè)性可以體現(xiàn)出性別特性:女性原型往往被視為更友好、開放和情緒化的個(gè)性特征,而占主導(dǎo)地位、自信和競爭性通常被視為男性特征。社會(huì)學(xué)家H. Woods在她的研究中強(qiáng)調(diào),DVAs的創(chuàng)造者和使用者往往比技術(shù)本身更強(qiáng)調(diào)DVAs的個(gè)性或能力。盡管他們的主要角色是家庭助理,但Alexa也被描繪成同伴、看護(hù)人和家長;Siri則被描繪成甚至可以向其提出性方面問題的親密朋友。這些特點(diǎn)被有意地編入程序中,來使用戶更好地產(chǎn)生對(duì)人工智能的信任。
到底為什么要用有性別色彩的AI?
雖然現(xiàn)在這種說法有點(diǎn)過時(shí),但過去人們常聽到一個(gè)男人把自己的車或船稱為她。這種將機(jī)器或技術(shù)女性化的說法無論是在小說和還是現(xiàn)實(shí)生活中都有著悠久的歷史。而這一說法近年來已經(jīng)過時(shí),取而代之的是性別中立的它代詞,這很可能是由于后女權(quán)主義時(shí)代的文化演變,使現(xiàn)在的世界對(duì)于性別平等更加敏感。最近,《美聯(lián)社風(fēng)格指南》(AP Styleguide)宣布了性別代詞的進(jìn)一步發(fā)展,鼓勵(lì)人們?cè)诓淮_定性別時(shí)不要使用他或她。盡管目前的趨勢(shì)是在DVAs中使用女性人格,但從歷史上看,男性人格化的機(jī)器的例子反而可能更多(例如,《霹靂游俠》中的基特汽車、《變形金剛》中的大部分汽車人、《星際迷航》中的達(dá)塔,以及《星球大戰(zhàn)》中的C3PO和R2D2)。
說到這里,大家可能會(huì)有一個(gè)疑問:沒有隱含性別的DVAs能在市場上成功嗎?還會(huì)有女性化DVAs的受歡迎程度和接受度嗎?其實(shí),最近就發(fā)布了一種無性別的DVAs原型聲音,叫做Q,這是一次啟發(fā)性的嘗試,來鼓勵(lì)科技公司考慮用非性別特征的聲音。雖然這只是一個(gè)原型,還沒有在任何人工智能應(yīng)用程序中應(yīng)用,但這次發(fā)布和媒體報(bào)道表明,就DVAs的性別化來進(jìn)行主流對(duì)話是很有必要的。但是,考慮到人類本就將性別歸類為二元的,所以邏輯上來說,普通人在使用性別中立的DVAs時(shí)會(huì)有一些不適應(yīng)。
顯然,科學(xué)技術(shù)和人工智能中復(fù)雜的性別問題是不能通過簡單地將人工智能(或其他對(duì)象)去性別化來解決的。文化中的性別刻板觀念、父權(quán)化的技術(shù)設(shè)計(jì)和在企業(yè)獲益中應(yīng)用的行為經(jīng)濟(jì)學(xué)都在其中推波助瀾,每項(xiàng)都有著同樣難以解決的問題。
那么,為什么所有的DVAs都是女性形象?
在后現(xiàn)代時(shí)代,消費(fèi)主義和大眾傳媒在社會(huì)中起著不可忽視的影響。DVAs在很大程度上是人工智能的一種主流形式,因?yàn)檫@是人們?nèi)菀捉佑|到的,相對(duì)來說價(jià)格合適、支付得起、又易于使用,因此受到數(shù)百萬消費(fèi)者的歡迎。其女性化的人格可以提高用戶對(duì)DVAs的接受度和使用度,特別是在人們生活里比較私人的部分中。因?yàn)椋缘男蜗鬀]有男性那么具有威脅性,而是比較友好和不那么權(quán)威,所以通常被認(rèn)為比男性更值得信任。盡管Nass和Brave在他們的研究中發(fā)現(xiàn),在某些情況下男性的聲音通常比女性的聲音更可信,但之前一項(xiàng)對(duì)易于信任和值得信任的性別差異研究中發(fā)現(xiàn),雖然男性使人容易信任,但女性可能更值得信任。這是相互的。
但Woods認(rèn)為,這其中還有更為險(xiǎn)惡的原因。她認(rèn)為使用女性形象是DVAs公司高層的一個(gè)深思熟慮的決定,目的是減輕用戶對(duì)數(shù)據(jù)收集、使用和隱私的擔(dān)憂。事實(shí)上,科技公司已經(jīng)將DVAs商品化,它本身就是為了創(chuàng)造收益,更重要的是,它是一項(xiàng)通過附加服務(wù)獲得額外收入的渠道,比如亞馬遜的零售銷量和蘋果、谷歌、微軟的軟件訂閱等。
也許Woods所言非虛。大多數(shù)消費(fèi)者沒有意識(shí)到的是,他們的消費(fèi)成本可能遠(yuǎn)高于一部接近1000美元標(biāo)價(jià)的iphone。在很大程度上,由于其女性化、友好的聲音,Siri已經(jīng)成為一個(gè)值得信賴的朋友,無形中使人們更加信任口袋里的iPhone。在屏幕背后,人們每一個(gè)生物特征數(shù)據(jù),每一條語音命令,都是通往用戶個(gè)人數(shù)據(jù)的大門。Alexa現(xiàn)在擁有400種功能(或應(yīng)用程序),由耐克(Nike)、坎貝爾(Campbells)和泰德(Tide)等品牌創(chuàng)造,這為這些公司提供了進(jìn)入消費(fèi)者家庭的一個(gè)渠道。
人們的數(shù)據(jù)實(shí)際上是一種資本或商品,由產(chǎn)品創(chuàng)造者貨幣化,賣給廣告商,再回收用于人工智能系統(tǒng)的進(jìn)一步培訓(xùn),使它們變得更好。智能揚(yáng)聲器(Amazon、Google Home和Apple HomePod)24小時(shí)都在家中錄制和存儲(chǔ)聲音,即使其用戶并未激活該設(shè)備。最近有報(bào)道稱,這根本不是匿名收集數(shù)據(jù),而是亞馬遜的真人工作人員在通過回聲設(shè)備收聽對(duì)話。而正如Woods所認(rèn)為的,使用女性形象會(huì)使用戶對(duì)這種無處不在的監(jiān)視感到?jīng)]那么不自在。所以,或許每天與Siri的互動(dòng)不會(huì)促使人們思考Siri為什么會(huì)被創(chuàng)造成一個(gè)她,或許人們可能還會(huì)跟朋友開玩笑,稱Alexa為婊子,但大家也許應(yīng)該更深入地思考一下,這一切可能都是為了監(jiān)聽用戶的生活,濫用用戶的數(shù)據(jù)來分散注意力而已。
那么,使用DVAs女性化有什么好處嗎?
也許是有的。在一項(xiàng)消費(fèi)者調(diào)查中,57.4%的受訪者表示他們能說出一位科技界名人的名字,其中比爾?蓋茨、史蒂夫?喬布斯和埃隆?馬斯克是最受歡迎的人選,4%的受訪者能說出一位女性科技界領(lǐng)袖的名字,而其中四分之一的人說出的是Alexa或Siri。這一調(diào)查結(jié)果揭露了技術(shù)領(lǐng)域中圍繞性別歧視的一系列更深層次的問題。然而,也可以想象,如果年輕人們開始把女性的聲音與科技或知曉所有信息聯(lián)系起來——這肯定不是件壞事。
留言 點(diǎn)贊 關(guān)注
我們一起分享AI學(xué)習(xí)與發(fā)展的干貨
如需轉(zhuǎn)載,請(qǐng)后臺(tái)留言,遵守轉(zhuǎn)載規(guī)范
免責(zé)聲明:本文內(nèi)容來自用戶上傳并發(fā)布,站點(diǎn)僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),信息僅供參考之用。