但現(xiàn)在如果對巴西布拉德斯科銀行（Bradesco bank）的虛擬助理使用這種語言，對方可能會更堅定地回答：“這些話不能對我或任何人說。”
她還會語氣更強硬地說：“這對你來說可能是個笑話，但對我來說，這是暴力。”
去年，布拉德斯科銀行在其人工智能系統(tǒng)上發(fā)現(xiàn)了9.5萬條包含虐待或性騷擾的信息。該銀行之后采取了行動。
他們的指控團隊整理了這些有冒犯性語言，結(jié)果發(fā)現(xiàn)，最溫和的是要求對方裸體。但也有些太過粗俗的語言，公司不愿透露。
該公司執(zhí)行董事佩蒂科夫（Glaucimar Peticov）告訴BBC：“言語非常粗魯，我沒法重復(fù)給你聽。”
還不清楚為何有人對虛擬助理使用這樣的語言，但佩蒂科夫稱，性愛信息“完全不該出現(xiàn)”，“這毫無疑問，就是一種騷擾“。
為了應(yīng)對這類攻擊，Bia的軟件腳本得到了更新，迫使客戶用更尊重的語言來稱呼她，才能繼續(xù)工作。
佩蒂科夫表示，新的回應(yīng)“不那么順從和被動”，是為了“教育”客戶，鼓勵他們“反思”性別歧視態(tài)度。
布拉德斯科銀行在電視廣告中宣傳了公司的舉動，當機器人改變態(tài)度時，女演員看起來更有力量。
其他巴西大型企業(yè)也承諾效仿這一舉動，包括化妝品公司、制造業(yè)，以及公用事業(yè)和服務(wù)提供商。
陸，是零售巨頭雜志Luiza的語音助理，她不僅能對口頭冒犯做出堅定回答，而且安裝了“緊急按鈕”，讓女性在遇到家庭暴力時謹慎地提醒當局。
在真人團隊的幫助下，她成了社交媒體上有影響力的語音助理，擁有數(shù)百萬粉絲，經(jīng)常和他們談?wù)撔詣e問題。這個團隊負責管理她的社交媒體互動。
圖像來源，MAGALU
零售巨頭雜志Luiza的語音助理陸（Lu）
但不是所有人都認為根據(jù)這個原因調(diào)整人工智能系統(tǒng)是有意義的，因為虐待對象不是有感情的真人。
“我們?yōu)槭裁匆垓v一個非人類的語音助手呢？因為這個問題反映了現(xiàn)實生活，”聯(lián)合國教科文組織巴西分部的社會科學(xué)協(xié)調(diào)員伊恩（Fábio Eon）解釋。
伊恩表示，言語虐待和騷擾的背后是更大的問題。
去年，巴西報告了10.5萬起針對婦女的暴力案件。由于仍有很多未報告案件，實際數(shù)字可能要高得多。
伊恩認為，現(xiàn)實世界和數(shù)字空間在人類行為方式上有所關(guān)聯(lián)。
“從你在網(wǎng)上接受這些行為的那一刻起，這些行為就會在現(xiàn)實生活中被復(fù)制。”
女性機器人臉與人臉對比
聯(lián)合國教科文組織2019年的一份報告批評了制造數(shù)字助理的公司，指責它們強化了性別刻板印象。在多數(shù)情況下，這些數(shù)字助理都是女性的聲音。
該組織表示，蘋果的Siri和亞馬遜的Alexa等產(chǎn)品似乎“能夠容忍男性的性挑逗，偶爾也會受到誘惑”，并稱它們“未能鼓勵或樹立關(guān)于性愛或贊同性愛的健康溝通，更不用說堅持了”。
這兩家全球科技巨頭都采取了不對抗策略，并隨后對Siri和Alexa做了更新。現(xiàn)在Siri會簡單回答關(guān)于性愛的評論：“我不會回應(yīng)這個問題”。
在此之前，她對性侮辱的回答是：“如果我能做到，我會臉紅的。”
“你能想象這樣的回答在現(xiàn)實生活中有多離奇嗎？”伊恩問道。
伊恩警告稱，盡管采取了一些改進措施，但對人工智能的偏見依然存在。
他指出，Siri和Alexa（女性名字）可以幫我們做瑣碎的事，比如播放音樂或打開燈，而巴西法院的人工智能系統(tǒng)能篩選成千上萬份文件，他的名字叫維克多（Victor，男性名字）。
一些公司正在考慮在系統(tǒng)中使用無性別聲音，以此來解決爭議。
但佩蒂科夫表示，人工智能之所以使用女聲，是因為她們的音高和音調(diào)變化能為客戶創(chuàng)造更舒適的環(huán)境。因此，布拉德斯科銀行沒有計劃取代Bia，或者假裝問題不存在，她解釋。
“但是習(xí)慣需要改變。這些互動行動實際反應(yīng)了社會的現(xiàn)實。現(xiàn)在我們已經(jīng)發(fā)現(xiàn)了這個問題，決心采取行動。”
從長遠來看，公司正在考慮當客戶虐待和性騷擾人類虛擬助理時該怎么做。
2017年，韓國GS加德士（GSCaltex）能源公司發(fā)起運動，幫助減少針對呼叫中心工作人員的虐待行為，上了頭條新聞。
在顧客的電話轉(zhuǎn)給助理接聽之前，顧客會聽到一段員工家人的錄音，這段錄音提醒，電話那頭的人是有生命、有感情的人。
錄音中有個男孩說：“我的媽媽是我在這個世界上最愛的人，她很快就會幫助你。”另一個男性的聲音說：“我的善良、勤勞的女兒很快就會上線。”
發(fā)起這項活動的營銷機構(gòu)艾得夸互動（AdquaInteractive）稱，GS加德士的員工后來報告稱，54%的人覺得壓力減輕了，25%的人說他們感到更受尊重了。
專注于數(shù)字教育的DQ研究所的首席執(zhí)行官派克（Yuhyun Park）表示，在互動變得更加非人類化的世界里，人們越來越需要意識到這一點。
“公民需要更加文明的行為。當我們不能面對面見面時，就會遇到這種騷擾問題。即使在人工智能出現(xiàn)之前，人類也不是很友好地對待彼此。
“我們是社會的一部分，即使是與人工智能對話，也在共同構(gòu)建整個社會體系，如果不文明行事，就會產(chǎn)生不好的影響。”
