“人道與自主武器系統：國際呼籲規範AI在初期武器技術中的使用”
在維也納的國際會議”人類在十字路口：自主武器系統與規範挑戰”上，有人呼籲在AI還處於起步階段時，就對其在自主武器系統(AWS)中的使用進行規範。
科技的進步在歷經幾個世紀後，引發了戰爭方式的劇變。像鋼鐵、火藥，乃至原子彈等發展，其初始的應用皆在軍事用途，後來逐步走向民用。
AI在這方面卻打破了這種趨勢。最初的應用多見於商業範疇，但防禦力量卻迅速看到AI有可能再次改變戰爭的景象。
奧地利外長亞歷山大·沙倫伯格向來自143個國家的與會者表示，全世界正面臨一個”奧本海默時刻”，需要決定是否以及如何在自主武器中使用AI。
針對當前衝突中AI的使用，以及對潛在未來威脅的預期，對於規範的急迫需要日益明顯。
在兩軍對峙的烏克蘭戰爭中，兩方都正在使用自動無人機。以色列部隊在數項防禦應用中，包含在加薩戰爭中識別人類目標，都涉及到AI的使用。
沙倫伯格警告說，”自主武器系統很快將充斥全世界的戰場，”現在是”決定國際規則與規範以確保人類控制”的時刻。他呼籲我們必須限制AI武器的自主性，並表示“我們至少要確保最深遠、最具影響力的決定——誰存活，誰死亡——始終在人類手中，而非機器。”
對於這種武器，需要國際法律工具的監管，並斷言“我們有責任行動起來，確立我們需要的規則，以保護人類……在使用武力時，人類的控制必須是主導。”
將近115個聯合國會員國對於制定針對AWS的具有法律約束力的規則達成共識，不過想要避開俄羅斯、中國或美國的否決權似乎不大可能。
未來生活研究所的共同創辦人、宇宙學家Anthony Aguirre總結了目前的情況，他說“殺戮機器人的未來已經到來。”
在維也納的國際會議「人類在十字路口：自主武器系統與法規挑戰」中，有人呼籲對於自主武器系統(AWS)中人工智能的應用做出規範，而當下技術仍處於起步階段。
數百年來，科技的進步帶來了戰爭方式的劇變。像鋼鐵、火藥，甚至原子彈等的發展，在進入民用應用之前，都是先應用於戰場。然而，這一趨勢在AI上被打破。初期的應用大多在商業領域，但軍方很快看到AI可以再次轉型戰場的潛力。
奧地利外交部長亞歷山大·沙倫伯格在會議上引用第一顆原子彈為例，告訴來自143個國家的與會者，世界正面臨一個「奧本海默時刻」，必須決定是否以及如何在自主武器中使用AI。
推動急迫需要制定相關法規的原因，不僅是對潛在未來威脅的預期，也是對於AI在目前衝突中的應用反應。在烏克蘭戰爭中，兩方都使用著自主無人機。以色列部隊在多個防衛應用中使用AI，包括被指在加沙戰爭中利用AI來識別人類目標。
沙倫伯格說「自主武器系統將很快在世界各地的戰場充斥，警告現在是”制定國際規則和規範以確保人類控制”的時候了。他強調需要限制AI武器的自主性，說「至少讓我們確保最深層而深遠的決定 – 誰活著誰死亡 – 始終由人類掌控，而非機器。」
與此同時，奧地利政府的聲明表示，「自主武器系統從法律、道德、人道和安全角度提出了深刻問題。人類正在十字路口，必須集結來解決這些武器的法規挑戰。」
現在的衝突致使全球防衛預算增加，一些先進AI技術的防衛科技公司股價應聲上漲。AWS技術可能由於太有利可圖而難以禁止使用。
Google的天擎科技早期投資者約翰·塔林表示，「矽谷的利益可能與其他人類的利益不對齊」。在會議的主題演講中塔林說：「我敦促你們對那些承諾AI系統能提供準確可預測性質的言論持懷疑態度。我們已經看到AI在很大和很小的範疇內犯嚴重的選擇錯誤——從錯認裁判的禿頭為足球，到無法認出橫街行人而造成的自駕車行人死亡事件。」
「我們必須對依賴這些系統的準確性保持極度謹慎，無論是在軍事還是民間部門。自主武器造成的意外性錯誤可能引爆不該發生的戰爭。」塔林提出，設計更可靠的AI武器並不是解決問題的辦法。他解釋，「即使自主武器能夠完全區分人類，他們仍將使發動針對特定人類特徵的種族屠殺和針對性殺戮變得更容易。」
在最後的給聯合國秘書長的聲明中，該組織宣誓其「強烈的承諾，將與所有關心此議題的利益相關者共同努力，以迫切和途徑為國際法規工具制定自主武器系統。」聲明還提到，「我們有責任採取行動並制定我們需要保護人類的規則…人類必須首先在使用武力中。」
超過115個聯合國成員國認同需要制定管制AWS的強制性法規，但躲避來自俄羅斯、中國或美國的否決似乎不太可能。宇宙學家和未來生活科研機構的共同創始人安東尼·阿吉雷總結這個情況，說「殺人機器人的未來已經來臨。」
該篇文章「AI面臨’奧本海默時刻’，在殺人機器人武器賽的爭議中」首先出現於DailyAi網站上。
AI faces ‘Oppenheimer moment’ in killer robot arms race
（引文來源：完整新聞連結）
