-
谷歌CEO:制造一個(gè)種族主義、性別歧視的AI非常容易
關(guān)鍵字:【文 觀察者網(wǎng)/趙挪亞】
過去一年時(shí)間里,AI(人工智能)的倫理問題成為了各個(gè)互聯(lián)網(wǎng)企業(yè)和各國政府討論焦點(diǎn)之一,前有谷歌先后成立、取消AI道德委員會(huì),后有歐盟公布AI道德準(zhǔn)則,這一新興技術(shù)在社會(huì)應(yīng)用上的倫理規(guī)范尚需討論。
不過,盡管谷歌一再強(qiáng)調(diào)AI的道德問題,但旗下的YouTube卻曾在“巴黎圣母院大火”時(shí),因AI算法引起爭議,而他們?cè)O(shè)立的AI道德委員會(huì)也只持續(xù)了兩周不到即告解散。
在5月8日凌晨舉行的2019谷歌I/O開發(fā)者大會(huì)上,美國搜索引擎巨頭陸續(xù)公布了新版的視覺化搜索系統(tǒng)、谷歌智能助手以及安卓系統(tǒng),AI成為了貫穿整場大會(huì)的主題,而作為這一技術(shù)使用的前提,谷歌CEO桑達(dá)爾·皮查伊(Sundar Pichai)稱他們正在努力解決人工智能的偏見問題。
谷歌I/O大會(huì)
在會(huì)上,皮查伊稱憑借現(xiàn)有的機(jī)器學(xué)習(xí)和算法,要制造一個(gè)種族主義、性別歧視的AI非常容易。他表示,現(xiàn)有的AI機(jī)器學(xué)習(xí)本質(zhì)上依靠的還是大量數(shù)據(jù)的輸入,因此這些數(shù)據(jù)的公正性,將很大程度上左右AI在種族和性別問題上是否具有偏見。
皮查伊以谷歌旗下的AI算法舉例:“如果你想用該技術(shù)來建立一個(gè)可以識(shí)別醫(yī)生形象的AI模型,但卻一直給它輸入‘穿白大褂、帶聽診器’的男性照片,那么最終這一AI將很可能認(rèn)定,男性是識(shí)別醫(yī)生照片的重要元素。”
而在另一個(gè)例子中,皮查伊也提到,AI算法可以用在鑒別皮膚癌的領(lǐng)域。但如果在訓(xùn)練階段,研究人員一直給其輸入同種膚色的皮膚癌照片,卻遺漏了其他膚色,那么最終這一AI也將在診斷時(shí)出現(xiàn)誤判。
皮查伊表示:“僅僅知道AI模型有效是不夠的,我們必須知道它如何運(yùn)作。早在機(jī)器學(xué)習(xí)出現(xiàn)之前,偏見就一直是科學(xué)界關(guān)注的問題。(在這個(gè)問題上)AI的風(fēng)險(xiǎn)顯然更高。”
為此,谷歌提出了兩個(gè)解決方案。其中之一,就是一種被稱為TCAV(使用概念激活向量進(jìn)行測試)的技術(shù),它可以確定機(jī)器學(xué)習(xí)系統(tǒng)在做決定時(shí),相關(guān)概念和數(shù)據(jù)在機(jī)器學(xué)習(xí)系統(tǒng)中的權(quán)重有多少,從而更好理解AI算法的邏輯。其次,皮查伊還提出,將會(huì)把部分開放數(shù)據(jù)分享給其他公司和AI技術(shù)人員,以此幫助更多人。
在最后總結(jié)階段,谷歌舉了一些例子說明了AI給社會(huì)帶來的各種進(jìn)步。比如,借助AI來算出患者的患病趨勢,降低患者的死亡率;用AI預(yù)測洪水,龍卷風(fēng)等災(zāi)害性天氣。
盡管如此,谷歌的AI技術(shù)還是為他們引來了不少爭議。
據(jù)《今日俄羅斯》4月16日?qǐng)?bào)道,在“巴黎圣母院”大火期間,YouTube平臺(tái)上部分新聞直播下方的信息欄(Info Box)內(nèi),出現(xiàn)了有關(guān)“911恐怖襲擊”事件的說明,此事也引來了眾多網(wǎng)友的批評(píng),認(rèn)為YouTube此舉可能助長“陰謀論”的出現(xiàn)。
據(jù)截圖顯示,在France 24的直播視頻下方,出現(xiàn)了“911恐襲”的說明
對(duì)此,谷歌發(fā)言人解釋:“我們對(duì)巴黎圣母院的大火感到十分難過,但這些信息欄都由算法自動(dòng)生成,有時(shí)候系統(tǒng)會(huì)出錯(cuò)。我們已經(jīng)關(guān)閉了這些直播視頻下方的信息欄。”
今年3月26日,谷歌宣布成立人工智能道德委員會(huì),即先進(jìn)技術(shù)外部咨詢委員會(huì),希望通過哲學(xué)家、工程師和政策專家組成的團(tuán)隊(duì)幫助解決人工智能帶來的道德風(fēng)險(xiǎn)。
而到了4月4日,由于谷歌內(nèi)部員工不滿委員會(huì)成員凱·詹姆斯(Kay James)和戴安·吉本斯(Dyan Gibbens)的政治傾向,再加上耐基梅隆大學(xué)學(xué)者亞歷山德羅?阿奎斯蒂(Alessandro Acquisti)教授的批評(píng),谷歌宣布取消人工智能道德委員會(huì)。
除了谷歌以外,歐盟也于4月8日公布了人工智能道德準(zhǔn)則,并要求“值得信賴”的AI應(yīng)當(dāng)滿足包括“人類監(jiān)督”、“技術(shù)安全”、“多樣性和公平性”以及“透明性”在內(nèi)的7個(gè)條件。
歐盟的AI道德準(zhǔn)則
不過有部分研究者懷疑,歐盟制定的人工智能道德準(zhǔn)則,將會(huì)影響到這一產(chǎn)業(yè)的未來發(fā)展。
智庫機(jī)構(gòu)數(shù)據(jù)創(chuàng)新中心(Center for Data Innovation)的高級(jí)政策分析師艾琳·奇沃特(Eline Chivot)4月8日在接受The Verge采訪時(shí)說:“歐盟希望通過制定道德標(biāo)準(zhǔn),來確定自身在全球AI發(fā)展中的地位,我們對(duì)這種方法持懷疑態(tài)度。要成為AI倫理的領(lǐng)導(dǎo)者,首先你必須在AI領(lǐng)域遙遙領(lǐng)先。”
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 請(qǐng)支持獨(dú)立網(wǎng)站,轉(zhuǎn)發(fā)請(qǐng)注明本文鏈接:
- 責(zé)任編輯:趙挪亞
- 最后更新: 2019-05-08 11:48:30
-
三星稱折疊屏手機(jī)尚無發(fā)貨日期 向美國客戶道歉
2019-05-08 07:16 -
突破九碟裝,希捷出貨全球首款16TB機(jī)械硬盤
2019-05-07 18:19 大公司 -
微信罰了騰訊 網(wǎng)友:狠起來自己人都打!
2019-05-07 16:00 -
瑞士電信宣布正式提供5G商用服務(wù) 首款5G手機(jī)是中國品牌
2019-05-07 15:43 5G -
三星LG紛紛關(guān)停國內(nèi)生產(chǎn)線 智能手機(jī)或難見“韓國造”
2019-05-07 14:49 -
5G手機(jī)市場預(yù)測以及相關(guān)受益產(chǎn)業(yè)鏈分析
2019-05-07 13:10 手機(jī) -
ASML商業(yè)竊密案勝訴:獲賠57億,三星涉嫌
2019-05-06 21:27 大公司 -
紅米驍龍855旗艦配置曝光,命名為K20 Pro?
2019-05-06 16:18 手機(jī) -
任正非談華為接班人條件 家人子女不接班
2019-05-06 14:25 華為 -
中國學(xué)者開創(chuàng)性實(shí)現(xiàn)量子“隨機(jī)行走”
2019-05-06 11:55 科技前沿 -
我國在海水提鈾關(guān)鍵技術(shù)上取得重要進(jìn)展
2019-05-06 10:12 -
NASA:零件公司造假19年,致2發(fā)火箭發(fā)射失敗
2019-05-05 16:39 航空航天 -
中國要花千億造大型對(duì)撞機(jī)?楊振寧提7大理由反對(duì)
2019-05-05 15:30 科技前沿 -
中國5G專利占34%,華為不賣到美國也能收費(fèi)
2019-05-05 12:03 5G -
中科院大氣物理所:權(quán)游里的“凜冬”是怎樣形成的?
2019-05-05 11:29 -
備貨10萬臺(tái)華為折疊屏5G手機(jī)完工 售價(jià)或不超14000
2019-05-05 10:41 手機(jī) -
華為Mate30Pro曝光:6.7寸屏,麒麟985,55W快充
2019-05-05 10:41 手機(jī) -
中國的5G究竟領(lǐng)先在哪兒?
2019-05-05 10:30 5G -
三星手機(jī)中國市場沉浮記
2019-05-05 10:00 手機(jī) -
時(shí)隔1年,三星智能機(jī)在華占有率重回1%
2019-05-05 09:38 大公司
相關(guān)推薦 -
中哥走近,美國又跳出來 評(píng)論 23歐盟“更硬”了:稅率得大幅低于中英 評(píng)論 168“中美暗流涌動(dòng):一個(gè)穩(wěn)推戰(zhàn)略,一個(gè)急著交易” 評(píng)論 46美國全球封殺華為昇騰芯片?“無理且自大” 評(píng)論 262“特朗普最大的中東外交豪賭” 評(píng)論 62最新聞 Hot
-
拿中國說事,美高官想攔下這筆交易
-
中哥走近,美國又跳出來
-
歐盟“更硬”了:稅率得大幅低于中英
-
特朗普點(diǎn)名庫克:忍了蘋果在中國很多年,你居然又往印度跑?!
-
美政府有人不滿:又想拉黑中企,還要不要跟中國談了?
-
“10名干部違規(guī)吃喝1人酒后死亡”被通報(bào),信陽市委表態(tài)
-
歐陽娜娜遭臺(tái)當(dāng)局點(diǎn)名
-
寧波象山縣政府大院“門面寒磣”,網(wǎng)友:這才是應(yīng)該有的本色
-
“中國伙伴可以用我們的工廠,英國再不支持就晚了”
-
“我倆不見,這事沒戲”
-
萬斯將出席教皇利奧十四世的就職彌撒
-
莫斯科地鐵重現(xiàn)斯大林大型浮雕
-
“中美暗流涌動(dòng):一個(gè)穩(wěn)推戰(zhàn)略,一個(gè)急著交易”
-
“美匈關(guān)系有一條紅線,就是中國”
-
“銹帶衰落賴不著中國,但兩黨不敢認(rèn)”
-
劉曉慶回應(yīng)被舉報(bào)涉嫌偷稅漏稅
快訊- 最高法:3名性侵害未成年人罪犯今日?qǐng)?zhí)行死刑
- 黃楊鈿甜佩戴高價(jià)耳環(huán)引網(wǎng)友質(zhì)疑,經(jīng)紀(jì)公司回應(yīng)
- 具身創(chuàng)企魔法原子再獲數(shù)億融資,預(yù)期年內(nèi)訂單破千臺(tái)
- 湖南發(fā)現(xiàn)比熊貓血還稀有的血型,名稱叫“郴州市第三人民醫(yī)院"
- 重病老人銀行取款身亡新進(jìn)展:銀行付家屬10萬元雙方和解
- 歷經(jīng)五次IPO的綠茶餐廳終于上市,但市場并不買賬
- 寧波象山縣政府大院“門面寒磣”,網(wǎng)友:這才是應(yīng)該有的本色
- 雷軍最新演講回應(yīng)小米SU7事故
-