-
谷歌CEO:制造一個種族主義、性別歧視的AI非常容易
關鍵字:【文 觀察者網/趙挪亞】
過去一年時間里,AI(人工智能)的倫理問題成為了各個互聯網企業和各國政府討論焦點之一,前有谷歌先后成立、取消AI道德委員會,后有歐盟公布AI道德準則,這一新興技術在社會應用上的倫理規范尚需討論。
不過,盡管谷歌一再強調AI的道德問題,但旗下的YouTube卻曾在“巴黎圣母院大火”時,因AI算法引起爭議,而他們設立的AI道德委員會也只持續了兩周不到即告解散。
在5月8日凌晨舉行的2019谷歌I/O開發者大會上,美國搜索引擎巨頭陸續公布了新版的視覺化搜索系統、谷歌智能助手以及安卓系統,AI成為了貫穿整場大會的主題,而作為這一技術使用的前提,谷歌CEO桑達爾·皮查伊(Sundar Pichai)稱他們正在努力解決人工智能的偏見問題。
谷歌I/O大會
在會上,皮查伊稱憑借現有的機器學習和算法,要制造一個種族主義、性別歧視的AI非常容易。他表示,現有的AI機器學習本質上依靠的還是大量數據的輸入,因此這些數據的公正性,將很大程度上左右AI在種族和性別問題上是否具有偏見。
皮查伊以谷歌旗下的AI算法舉例:“如果你想用該技術來建立一個可以識別醫生形象的AI模型,但卻一直給它輸入‘穿白大褂、帶聽診器’的男性照片,那么最終這一AI將很可能認定,男性是識別醫生照片的重要元素。”
而在另一個例子中,皮查伊也提到,AI算法可以用在鑒別皮膚癌的領域。但如果在訓練階段,研究人員一直給其輸入同種膚色的皮膚癌照片,卻遺漏了其他膚色,那么最終這一AI也將在診斷時出現誤判。
皮查伊表示:“僅僅知道AI模型有效是不夠的,我們必須知道它如何運作。早在機器學習出現之前,偏見就一直是科學界關注的問題。(在這個問題上)AI的風險顯然更高。”
為此,谷歌提出了兩個解決方案。其中之一,就是一種被稱為TCAV(使用概念激活向量進行測試)的技術,它可以確定機器學習系統在做決定時,相關概念和數據在機器學習系統中的權重有多少,從而更好理解AI算法的邏輯。其次,皮查伊還提出,將會把部分開放數據分享給其他公司和AI技術人員,以此幫助更多人。
在最后總結階段,谷歌舉了一些例子說明了AI給社會帶來的各種進步。比如,借助AI來算出患者的患病趨勢,降低患者的死亡率;用AI預測洪水,龍卷風等災害性天氣。
盡管如此,谷歌的AI技術還是為他們引來了不少爭議。
據《今日俄羅斯》4月16日報道,在“巴黎圣母院”大火期間,YouTube平臺上部分新聞直播下方的信息欄(Info Box)內,出現了有關“911恐怖襲擊”事件的說明,此事也引來了眾多網友的批評,認為YouTube此舉可能助長“陰謀論”的出現。
據截圖顯示,在France 24的直播視頻下方,出現了“911恐襲”的說明
對此,谷歌發言人解釋:“我們對巴黎圣母院的大火感到十分難過,但這些信息欄都由算法自動生成,有時候系統會出錯。我們已經關閉了這些直播視頻下方的信息欄。”
今年3月26日,谷歌宣布成立人工智能道德委員會,即先進技術外部咨詢委員會,希望通過哲學家、工程師和政策專家組成的團隊幫助解決人工智能帶來的道德風險。
而到了4月4日,由于谷歌內部員工不滿委員會成員凱·詹姆斯(Kay James)和戴安·吉本斯(Dyan Gibbens)的政治傾向,再加上耐基梅隆大學學者亞歷山德羅?阿奎斯蒂(Alessandro Acquisti)教授的批評,谷歌宣布取消人工智能道德委員會。
除了谷歌以外,歐盟也于4月8日公布了人工智能道德準則,并要求“值得信賴”的AI應當滿足包括“人類監督”、“技術安全”、“多樣性和公平性”以及“透明性”在內的7個條件。
歐盟的AI道德準則
不過有部分研究者懷疑,歐盟制定的人工智能道德準則,將會影響到這一產業的未來發展。
智庫機構數據創新中心(Center for Data Innovation)的高級政策分析師艾琳·奇沃特(Eline Chivot)4月8日在接受The Verge采訪時說:“歐盟希望通過制定道德標準,來確定自身在全球AI發展中的地位,我們對這種方法持懷疑態度。要成為AI倫理的領導者,首先你必須在AI領域遙遙領先。”
本文系觀察者網獨家稿件,未經授權,不得轉載。
- 請支持獨立網站,轉發請注明本文鏈接:
- 責任編輯:趙挪亞
- 最后更新: 2019-05-08 11:48:30
-
三星稱折疊屏手機尚無發貨日期 向美國客戶道歉
2019-05-08 07:16 -
突破九碟裝,希捷出貨全球首款16TB機械硬盤
2019-05-07 18:19 大公司 -
微信罰了騰訊 網友:狠起來自己人都打!
2019-05-07 16:00 -
瑞士電信宣布正式提供5G商用服務 首款5G手機是中國品牌
2019-05-07 15:43 5G -
三星LG紛紛關停國內生產線 智能手機或難見“韓國造”
2019-05-07 14:49 -
5G手機市場預測以及相關受益產業鏈分析
2019-05-07 13:10 手機 -
ASML商業竊密案勝訴:獲賠57億,三星涉嫌
2019-05-06 21:27 大公司 -
紅米驍龍855旗艦配置曝光,命名為K20 Pro?
2019-05-06 16:18 手機 -
任正非談華為接班人條件 家人子女不接班
2019-05-06 14:25 華為 -
中國學者開創性實現量子“隨機行走”
2019-05-06 11:55 科技前沿 -
我國在海水提鈾關鍵技術上取得重要進展
2019-05-06 10:12 -
NASA:零件公司造假19年,致2發火箭發射失敗
2019-05-05 16:39 航空航天 -
中國要花千億造大型對撞機?楊振寧提7大理由反對
2019-05-05 15:30 科技前沿 -
中國5G專利占34%,華為不賣到美國也能收費
2019-05-05 12:03 5G -
中科院大氣物理所:權游里的“凜冬”是怎樣形成的?
2019-05-05 11:29 -
備貨10萬臺華為折疊屏5G手機完工 售價或不超14000
2019-05-05 10:41 手機 -
華為Mate30Pro曝光:6.7寸屏,麒麟985,55W快充
2019-05-05 10:41 手機 -
中國的5G究竟領先在哪兒?
2019-05-05 10:30 5G -
三星手機中國市場沉浮記
2019-05-05 10:00 手機 -
時隔1年,三星智能機在華占有率重回1%
2019-05-05 09:38 大公司
相關推薦 -
“英國終于還了”,中國又躺槍 評論 105“拜登罕見透露”,國際油價狂飆5% 評論 72事涉中國,“德國將投反對票,西班牙呼吁妥協” 評論 132面臨“至暗時刻”,烏方討論“用土地換入約”? 評論 316伊朗、真主黨:徹查外國滲透 評論 224最新聞 Hot
-
“他就職演說沒提‘亞洲版北約’,但仍流露出對更強威懾力的執著”
-
“英國終于還了”,中國又躺槍
-
“中國和美國正競相制定月球時間標準”
-
“內塔尼亞胡用了我的衛生間,然后就檢測出了竊聽器”
-
“面對中國電動汽車軟件,美國太弱沒啥籌碼”
-
“拜登罕見透露”,國際油價狂飆5%
-
事涉中國,“德國將投反對票,西班牙呼吁妥協”
-
“歐盟落后中美,再不改變就會消亡”
-
轉折點來臨,德國外長將訪華?
-
涉臺海,俄外長最新發聲
-
“在這個世界中,美國不是穩定的錨,而是需要防范的風險”
-
面臨“至暗時刻”,烏方討論“用土地換入約”?
-
伊朗、真主黨:徹查外國滲透
-
“‘生兒育女’后,馬斯克政治立場快速轉變”
-
以色列或打擊伊朗核設施?拜登:不支持,但…
-
“你可以嘗試從表面上踢走中國,但最終會發現…”
-