移至主內容

Claude 解約事件3》染血的模型

在 Anthropic 與美國政府正對簿公堂之際,國防部試圖「繞道」放寬 AI 武器限制的舉動也浮出檯面。事實上,國防部長 Hegseth 早在 1/9 就簽署了一份《國防部人工智慧戰略》備忘錄,明確將「殺傷鏈執行」(kill chain execution)列為 AI 代理人的應用場景之一,並要求各單位在180天內把 AI 可用於「所有合法用途」的字句,納入跟廠商的合約。

這改變了制定於2023/1的「國防部自主武器系統指令」中,要求所有武器系統須設計為「允許指揮官和操作員對武力使用行使適當層級的人類判斷」的原則,根據2024財年的《國防授權法案》第251條,國防部需在修改「指令」後30天內通知國會。

但「備忘錄」完全與「指令」平行,沒有改動「指令」,所以國防部不需通知國會,但卻可能產生與正式修訂「指令」相近的實務效果,3/3,人權觀察(Human Rights Watch)就曾在報告裡,表達對此事的擔憂。

另一方面,關於「致命性自主武器」造成的問題,已經不是空想,3/11, The Intercept 引述美軍內部調查初步結論,指美國中央司令部(United States Central Command)使用國防情報局(DIA)提供的過時情報座標,將已於 2016 年與鄰近伊斯蘭革命衛隊(IRGC)基地分隔的 Minab 女子小學誤判為軍事目標。

在此之前,已有多家媒體,如專注於地理定位影片的 Bellingcat,確認小學是遭美軍戰斧飛彈擊中,而 Al Jazeera 也由衛星影像分析,認為這是美軍「過時情報構成重大疏失」或蓄意打擊。在美軍內部調查被揭露出來後,這起在2/28美軍攻擊伊朗行動中,可能造成超過100名學童喪生的事件,已經有越來越多公開證據與調查,指向美軍責任,而非先前美伊雙方各說各話的狀況。

Claude 仍參與了2/28對伊朗的攻擊,解約之後還有六個月的緩衝期,其他模型要嘛尚未完成機密部署,要嘛才剛取得協議,不大可能隔日就完成深度作戰整合。因此,無論戰斧飛彈是「誤擊」或者「蓄意地屠殺」,Claude 在其中扮演的角色,都仍受到高度的關注。

而這也回答了,為什麼在3月初,Anthropic 和國防部為什麼會發生摩擦,在3/9,Anthropic 提交給北加州聯邦地方法院的訴訟文件「動議與法理備忘錄(Motion and Memorandum)」明確提到,Anthropic 人員已經深入參與了高度機密的專案,但在技術與政策機制上,根本無法(也沒有意圖)監看軍方具體、微觀的戰場操作細節,更遑論去干涉軍方的作戰決策。

也就是說,Anthropic 已預見了它們的語言模型,將很有可能造成類似 Minab 女子小學的慘劇,Claude 的雙手將沾滿鮮血這件事,而它們對此卻無能為力。