-
谷智軒:用AI殺人,以色列可能遙遙領先了
以軍設計AI的時候,還考慮過這個問題。AI在做空襲規劃的時候,“附帶損害”也是一個參數。它會根據建筑物的大小以及登記的居民名單,計算戰前居住在此的平民人數,再根據撤離的居民比例,來估算一個建筑物內的即時人數,再做相應的規劃。比如說,一棟房子,名單上顯示戰前住了10個人,根據手機信號測算,小區撤了一半人,那么AI就認為,房子里住了5個人。有時候,算出來的人數,甚至不是整數。
我們光聽就知道,這種估算有多不靠譜。戰前和戰時,根本是兩個概念。根據世界銀行的數據,加沙地帶超過60%的房屋和80%的商業設施都已經被摧毀,幾乎全部人口流離失所,這大幅削弱了軍隊數據庫的準確性和AI自動標記住宅的能力。很多時候,戰爭期間居住的,完全就不是戰前的那批人,兩者之間也沒什么聯系。有時候,以軍炸了一棟房子,根本不知道房里是好幾戶人家躲在一起的。在以前的戰爭里面,情報人員會花大量的時間監視房屋、核實人數,事后還有一道炸彈損害評估程序(Bomb Damage Assessment),簡稱BDA,檢查目標是否死亡,以及造成了多少平民死亡。這一次,為了節省時間,事前事后的步驟,全都省略了,一切都交給了AI和統計學。情報人員對于會死多少,死了多少人,里面包不包括目標,可謂一概不知。他們唯一知道的,就是空軍告訴他們,房子被炸了,然后他們再告訴軍隊,去炸更多的房子。
不過,有一個問題,依然沒交給統計學,就是允許“附帶損害”的大小。軍方會事先給一個授權,殺一個哈馬斯,允許多少平民陪葬,這個數字叫非戰斗人員傷亡值,簡稱NCV(Non-combatant Casualty Value)。AI在計算殺誰、怎么殺的時候,就會根據這個標準來。NCV是浮動的,軍事價值越高,NCV越大——這是以軍自己承認的,對高級哈馬斯成員,這個數字可以達到三位數。軍隊有一套大致的標準,一個旅長配多少人,一個營長配多少人,還會考慮到具體的情況。比如說哈馬斯卡桑旅的指揮官艾曼·諾法爾(Ayman Nofal),以軍在擊殺他的時候,得到的位置情報不是很精確,軍方授權的人數是300人。對比一下,當年美軍擊殺本·拉登,授權的NCV“只有”30。
路透社2023年10月17日報道,以色列空襲加沙,擊殺了哈馬斯軍事指揮官艾曼·諾法爾
對于低級哈馬斯成員,這個標準還要“彈性”一點。去年10月7日的空襲之后,以軍陷入了歇斯底里的狀態,只要目標是哈馬斯,幾乎任何“附帶損害”都可以得到批準。反正炸就是了,他們只在乎炸的目標夠不夠多。有時候,他們知道目標在一棟里面,然后就炸平了四棟樓。整個軍隊與其說是在作戰,還不如說是在泄憤。之后,軍隊的行為稍微理性了一些,NCV被控制在了15人左右,也就是殺一個普通的哈馬斯,可以殺15個平民。有段時間降到5人,但軍方發現,這讓空襲沒法進行,因為只要目標的家人都在家,他們就沒法炸屋子,所以又把上限提了上去。再后來,以軍整體上減小了攻擊低級哈馬斯的頻率。這客觀上降低了“附帶損害”,卻不是因為以軍想降低“附帶損害”,而是考慮到彈藥經濟性。以色列正準備在北部地區和黎巴嫩真主黨動手,這開頭幾波消耗的炸彈,委實有點多了。
由此可見,人工智能輔助下的“自動化”殺人,并沒有什么“理性”的優勢。AI對于人類干壞事,沒有什么限制和糾正作用。相反,它只是讓殺戮,變得更有效率。它降低了殺人的經濟和道德成本,幫助人類在有限的資源和可承受的道德壓力下,殺掉盡可能多的目標。“薰衣草”生成名單,“福音”標記住宅,低級別的情報人員象征性地看一看,復制粘貼到“爸爸在哪兒”,執行目標追蹤,“火力工廠”據此分配彈藥,制定空襲計劃,在目標回家的那一刻,由空軍完成擊殺。除了最后的擊殺外,整個流程,都實現了高度的自動化,而這“最后一步”,可能在不久的將來,也可以由自動化的武器來完成。
我們之前做過一期節目,叫“定點清除”,讓網上一大群“烏友”破了大防,直到今天還陷在他們的邏輯謬誤中不能自拔,挺可憐的。我們再來復習一下相關專業知識:“定點清除”,Targeted Killing,有時候也叫“斬首行動”,Decapitation Strike,即通過消滅一個組織中的關鍵人物,來對組織造成破壞。現在,“定點清除”和“斬首”之間,不能再劃等號,它有了一個新分支,叫“Broad Hunting”,大范圍獵殺。從戰場表現來看,這種同時針對數萬目標的大規模“定點清除”,已經成為了一種可行的、且經過實踐應用的戰術。
這是好是壞,尚有爭議。
支持的人說:它好過無差別襲擊。這次加沙戰爭持續了六個月,巴勒斯坦方面,傷亡總數超11萬;哈馬斯武裝分子,滿打滿算有三萬多,占比達到30%。和歷史上的各種“屠城”相比,是不是要好上很多?AI是在降低“錯殺率”啊!
反對的人說:除了“錯殺率”,還有“錯殺數”。“大范圍獵殺”的應用,實際上大幅增加了攻擊次數,推高了平民的傷亡人數。而且,70%的錯殺率,你覺得可以接受嗎?
然后,支持的人又會反駁:如果把技術改進一下,把錯殺率降到一半以下,你還會這么說嘛?降到10%以下,1%以下呢?百分之0.000001呢?什么比例,是可以接受的呢?誰能保證不殺錯一個?你說人命無價,殺錯一個都不行?我們是在打仗,國家利益為重,國民的安全為重。算個總賬,“錯殺”帶來的損失,小于“殺對”帶來的利益就可以了。
最后那句話,我直接引用了以色列國防軍對“薰衣草”問題的回復。
以色列國防軍回應在加沙地區使用“薰衣草”:算個總賬,“錯殺”帶來的損失小于“殺對”帶來的利益就可以了
哲學上的論辯,很難有什么結果。但有一點,我想大家是有共識的:為了剿滅三萬多名哈馬斯,超過2.4萬名巴勒斯坦婦女和兒童死亡,11萬人死傷,110萬人食不果腹,170萬人流離失所,這超過了絕大部分人的道德紅線,但凡是有點良知的人,都無法接受。如果沒有AI,可能傷亡會更大,但即使有了AI,后果依然如此嚴重。
所以說,問題并不出在AI身上,該為此負責的,也并非人工智能。戰爭,是高尚者的墓志銘,卑鄙者的通行證。戰場之上,以國之名,滔天的罪惡也能戴上正義的光環。如果殺錯人之后,唯一的后果是浪費了彈藥,那么AI存在的意義,也只能是減少了彈藥的浪費。
從歷史經驗來看,把人工智能技術引入軍事作戰是不可避免的。聯合國主持了10年的談判,希望對AI在戰場的角色做一點限制,讓各國可以更加“負責任”地開發和利用軍用AI,但目前并沒有多少成果。至少還沒有一個國際公約規定,當人工智能判斷錯誤時,誰應該對平民的傷亡和戰爭的意外升級負責,也沒有一個有效機制,防止AI被有心之人濫用,成為排除異己、剝削“他者”的工具。去年2月,第一屆“全球軍事領域負責任的人工智能峰會”在荷蘭舉行,中國和美國等60多個國家參加,并簽署了《關于軍事領域負責任使用人工智能的行動倡議》。以色列是唯一沒有簽署的與會國家。
所以,巴勒斯坦成千上萬條被AI“錯殺”的人命,到底該由誰來負責呢?
本文系觀察者網獨家稿件,文章內容純屬作者個人觀點,不代表平臺觀點,未經授權,不得轉載,否則將追究法律責任。關注觀察者網微信guanchacn,每日閱讀趣味文章。
-
本文僅代表作者個人觀點。
- 責任編輯: 德力格爾 
-
韓國也想入伙“奧庫斯”?
2024-05-01 17:18 三八線之南 -
相比前兩艘航母,福建艦海試有何不同?
2024-05-01 12:00 航空航天 -
一年收到5架F-35 每架都有問題
2024-04-30 16:30 -
中越海警開展今年首次北部灣海域聯合巡邏
2024-04-30 16:21 -
從豹2到布雷德利 莫斯科勝利公園新到什么西方裝備?
2024-04-30 13:09 俄羅斯之聲 -
外媒緊盯福建艦:或馬上開始海試
2024-04-30 13:09 中國航母 -
烏軍總司令:前線局勢正在惡化,俄軍取得局部勝利
2024-04-29 11:14 烏克蘭之殤 -
德國豹2坦克運抵莫斯科 將參加“勝利展覽”
2024-04-28 10:46 俄羅斯之聲 -
一周軍評:“5·20”將近,美軍拿什么來西太平洋“維穩”?
2024-04-28 09:24 -
美菲空軍舉行“雷霆對抗”演習
2024-04-27 18:36 -
巴基斯坦從中國訂購的首艘潛艇“漢果”號下水
2024-04-27 18:30 -
胡塞稱再次擊落美軍無人機,美軍承認墜毀
2024-04-27 16:51 也門局勢 -
董軍出席上合組織成員國防長會議
2024-04-26 22:35 -
美官員:烏軍撤回前線“艾布拉姆斯”,正調整戰術應對俄無人機
2024-04-26 17:45 -
“華盛頓”號出港部署,將第二次進駐日本
2024-04-25 17:35 -
站在流動的國土上,感受什么叫“百年之內,換了人間”
2024-04-25 08:44 -
英國宣布向烏克蘭提供“有史以來最大的軍事援助”
2024-04-24 17:04 -
德國海軍“黑森”號護衛艦結束紅海任務返航
2024-04-23 16:42 -
美菲開展“肩并肩”年度演習,將在南海、呂宋海峽舉行海防演習
2024-04-23 10:29 南海局勢
相關推薦 -
全國最大!哈密百萬千瓦“光熱+光伏”項目并網發電 評論 37“中國在非洲真正贏得了民心,就連斯威士蘭…” 評論 75“日企抱團是絕望之舉,中國工廠效率質量都是第一” 評論 123“她下月訪華,盡管特朗普團隊表達了擔憂” 評論 54最新聞 Hot
-
“中國在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團是絕望之舉,中國工廠效率質量都是第一”
-
“中國有能力讓夢想照進現實,將贏得史詩般競爭”
-
被災民暴罵到當場破防,馬克龍發飆:你該慶幸你在法國!
-
美高校敦促國際學生抓緊回來:萬一把中印拉黑名單呢
-
美國政府“逃過一劫”
-
“澤連斯基要求歐盟新外長:對華批評要降調”
-
澳大利亞來了,中國就得走人?澳總理這么回應
-
美媒感慨:基建狂魔發力,我們又要被超越了
-
英國剛公布新任大使,特朗普顧問就痛罵:傻X
-
“來自中國的老大哥能確保我們…”
-
俄羅斯的報復來了
-
澤連斯基罵普京“傻子”,俄方怒斥
-
還在扯皮中國,“涉華條款全刪了”
-
中國“光伏OPEC”發文嚴厲質問央企,怎么回事?
-
“最后一道貿易障礙,中國解除了!”
-