-
基辛格論人工智能:啟蒙如何終結
關鍵字: 人工智能機器人人類啟蒙互聯網的出現和計算能力的提高為海量數據的積累和分析提供了極大便利,人類的理解能力因此獲得了前所未有的提升。在這一過程中,意義最為重大的技術創新出現在人工智能領域。人工智能技術能夠通過類似人腦才具有的信息處理能力進行創新性思維并解決復雜的、看似抽象的問題。
這已經遠遠超出了我們對“自動化”的理解。所謂“自動化”僅是針對手段而言,自動化技術通過對生產工具進行機械化或合理化改進來實現確定的生產目標。與自動化技術大為不同,人工智能技術是針對結果而言的,人工智能可以自行確定自身行為的目標。由于在某種程度上來說人工智能所實現的目標部分取決于其自身,所以人工智能具有一種內在的不穩定性。人工智能系統在實際運行過程中不斷獲取新的數據并即時對這些新數據進行分析,在分析結果的基礎上,人工智能系統可以不斷對自己的算法進行優化。
所以說,人工智能系統是一個不斷變化的、處于動態中的系統。在這一動態過程中,人工智能系統表現出了一種此前被認為僅有人類才會具有的信息處理能力。它可以對未來做出戰略判斷,有些判斷是基于以代碼形式事先注入的數據(圍棋規則),有些判斷則是基于人工智能系統自身所收集到的數據(與自己進行100萬次對弈過程中出現的各種情況)。
以無人駕駛汽車為例,它體現了傳統上以軟件驅動、完全受到人類控制的車載計算機行為與滲透進駕駛過程每一個細節的人工智能行為這兩者之間的區別。人類駕駛汽車時需要面對數不清的各種情況,并需要在每一具體情況下做出特定的判斷,我們根本不可能預先想到所有的情況并事先為每一種可能的情況編寫程序。我們以一個十分有名的假設為例來進行說明:當一輛由人工智能控制的無人駕駛汽車不得不在一位老人和一個小孩之間做出選擇必須撞向其中一人時,它會如何選擇呢?其背后的原因何在?它在做出選擇時會更看重哪些因素?它能夠自圓其說嗎?如果人工智能程序能夠與人類交流的話,它很可能會這樣回答上述問題:“我不知道,我駕駛汽車時遵循的是數學原理,我不懂人類的那套規則”,它也可能這樣回答:“你搞不懂我的,我曾受到大量訓練來應對各種駕駛情況,但我從未受到訓練向人類解釋為何我會那樣應對那些情況”。這就是人工智能無人駕駛技術當下的現實,不過不出10年,無人駕駛汽車很可能將行駛在我們的每一條街道上。
截至目前,人工智能技術僅在有限幾個領域里獲得了應用。如今,人工智能科學家們正試圖將這一技術的應用領域擴大到社會生活的各個方面,未來的人工智能將可以執行多種任務。在不遠的未來,將有越來越多的人類工作被人工智能算法所取代。不過,這些算法只能對所觀察到的現象進行數學性理解,算法并不能理解現象背后的原因。令人感到矛盾的是,隨著我們的世界越來越透明,人工智能算法卻會變得越來越神秘。未來的新世界與我們早已習慣的今日世界會有哪些不同呢?我們將如何在那個新世界里生活呢?我們該如何管理人工智能?該如何改進它?該如何避免它對人類造成傷害?該如何避免比人類更快、更好掌握某些能力的人工智能(對它來說欲獲得那些能力僅需處理一些數據)使人類的能力趨于退化或使人類的境況趨于惡化?
人工智能遲早將為醫學科學、清潔能源和環境保護等領域帶來極大的進步。不過,正因為人工智能所面對的未來正處于不斷演進之中,它為我們帶來的結果就內在地具有某種模糊性和不確定性。在這方面,有如下四點值得我們注意:
首先,人工智能可能為我們帶來意想不到的后果。在科幻小說的情節中,人工智能機器人已經將其創造者列為攻擊目標了。不過,另一種情況的可能性更大,由于人工智能并不是在一個完整的語境中理解信息的,它很可能無法正確理解人類的指令。最近一個有名的例子來自一個名為Tay的通過自然語言同人進行交流的人機智能對話系統,科學家的設計初衷是希望Tay能夠以一個19歲女孩的身份和語言特征與人們進行友善、理性的交談。不過,結果證明,這個智能對話系統并不能真正理解“友善”和“理性”的含義,Tay所使用的語言反而體現出種族主義者和性別歧視者的一些特征,有時候“她”講的話甚至能將人激怒。
一些專業技術人員認為,人機智能對話系統Tay的設計思路不夠合理,具體研發過程也出現了很多問題。不過,我們仍然能夠借此就其背后的模糊之處提出一些疑問:我們能在多大程度上使人工智能系統理解人類指令的具體語境?當人類也未能就“冒犯”一詞的準確含義達成共識的時候,我們能通過什么辦法幫助Tay獲得“冒犯”一詞的準確概念?當人工智能系統的運行偏離其設計者的意圖時,我們能早期發現并進行修正嗎?如果我們對人工智能系統不施加任何干預,它會不會不可避免地在初期略微偏離設計意圖甚至久而久之沿著偏離的軌道滑向災難性的深淵?
第二點,在實現既定目標的過程中,人工智能可能會改變人類的思維方式和價值觀。阿爾法狗在擊敗圍棋世界冠軍時所采用的策略是前所未見的,人類從未想到過圍棋會有那種走法而且至今也未能想出針對那種走法的應對之策。阿爾法狗所采用的圍棋走法是否已經超出了人類大腦的理解能力?人類是否能夠學會那種走法呢?
在人工智能涉足圍棋領域之前,人類在進行圍棋對弈時往往抱著各不相同的甚至是多層面的目的:棋手們所追求的不僅是贏得棋盤上的勝利,他們還希望通過對弈過程領悟出可以在生活中其他領域獲得應用的策略和智慧。而對于人工智能來說,它在棋盤上的目的只有一個:戰勝對手。
人工智能不是像人類那樣通過對概念的理解而是通過數學運算來進行“學習”的,具體表現在對算法的微調。所以,在學習如何贏得圍棋比賽的過程中,人工智能與人類的思維方式是完全不同的,它已經改變了圍棋對弈的本質以及人類圍棋對弈的傳統思維范式。這樣一種對勝利毫無雜念的渴望是否是所有人工智能程序的共同特征呢?
已經有人工智能項目希望通過研發能夠回答人類各種問題的設備來改變人類的思想。這種設備能夠回答一些事實性的諸如“現在外面氣溫如何”這樣的問題,但在回答關于存在本質或人生意義這樣的問題時,你會發現它可能給人類帶來一些深層的憂慮:我們真得愿意自己的孩子在與不受束縛的人工智能算法進行交談時形成自己的價值觀嗎?為了保護提問者的隱私,我們是否應該限制人工智能算法對提問者的了解呢?在得出上述兩個問題的答案之后,我們又該如何確保人工智能遵從我們的意愿呢?
- 原標題:基辛格論人工智能:啟蒙如何終結 本文僅代表作者個人觀點。
- 請支持獨立網站,轉發請注明本文鏈接:
- 責任編輯:馬力
- 最后更新: 2018-06-17 14:14:26
-
又一家大型網站百萬用戶信息外泄?暗網售價12個比特幣
2018-06-16 11:28 網絡戰線 -
給下肢殘疾患者提供“觸覺”的外骨骼機器人來了
2018-06-15 16:52 科技前沿 -
北斗產業園爛尾 圈錢圈地風險應警惕
2018-06-15 16:42 北斗照耀 -
5年攻關,我國納米核心技術獲重大突破
2018-06-15 09:04 科技前沿 -
搭載嫦娥4號 沙特相機拍攝地月合影
2018-06-15 08:20 科技前沿 -
5G標準來了!全功能完整版5G標準出臺
2018-06-14 23:13 IT新浪潮 -
“一旦國外禁售,我國燃料電池產業便沒有材料基礎支撐”
2018-06-14 07:33 科技前沿 -
“曾有國內油企明確說,你們不要研制這個,有成果也不敢用”
2018-06-13 07:36 科技前沿 -
雜交水稻之后 雜交小麥也來了
2018-06-12 07:56 科技前沿 -
被日本卡脖子的微球:民族工業不能承受之輕
2018-06-12 07:56 科技前沿 -
央媒深夜連發兩文釋疑光伏新政:不是急剎車、一刀切
2018-06-12 07:37 光伏危機 -
日媒:钚保有量夠造6000枚核彈,美國要求日本削減
2018-06-11 20:00 核電 -
中國手游征服韓國:一年賣11億,霸占暢銷榜前20
2018-06-11 10:50 -
衛星數據自給率80% 我國“天眼”工程數據體系已基本形成
2018-06-11 10:14 航空航天 -
植物自私基因首次被我科學家發現:打破經典遺傳規律
2018-06-11 07:31 科技前沿 -
美國超算奪回世界第一 比“神威”快60%
2018-06-09 13:03 觀察者頭條 -
“造島神器”天鯤號首次海試
2018-06-08 20:22 -
NASA宣布火星生命相關重大發現
2018-06-08 10:31 -
集成電路關鍵基礎材料實現量產 擺脫進口依賴
2018-06-08 08:49 -
2018自然指數排名:中科院連續6年位列科研機構首位
2018-06-08 08:14 科技前沿
相關推薦 -
最新聞 Hot
-
看完這部紀錄片,網友吵起來了
-
“特朗普回歸,這個領域又讓中國贏一局”
-
“特朗普贏了,他們要回家了”
-
“從中國懷里拉走”?
-
美國農民@特朗普:又我挨中國揍?
-
法國外長到訪前,以色列在“法國領地”扣押兩名法國憲兵
-
美聯儲降息25個基點,鮑威爾:若特朗普...
-
德高官焦慮:若特朗普從烏克蘭抽身,中國就贏了
-
“特朗普真男人”“快速停火就是自殺”,他倆同時發聲
-
普京:有些人嘴上承認“一中”,身體卻不老實
-
民主黨拋棄了工人階級?白宮回應桑德斯
-
印度政府智庫:這個中國“圈子”,咱還是得加入
-
“特朗普2.0”將至,日本很揪心
-
他押注特朗普勝,將贏下近5000萬美元,竟有訣竅?
-
“助我勝選”,特朗普任命她為首位女性白宮幕僚長
-
遭外資創紀錄拋售近110億美元,印度股市大跌
-