“美國政府成立AI安全與保安委員會，以保障關鍵基礎建設技術應用”
美國國土安全部長阿萊杭德羅·馬約爾卡斯宣布，該部已建立一個人工智能安全和保障委員會，以促進AI在美國關鍵基礎設施中的安全和穩定使用。這是應美國總統拜登的行政命令，即去年十月簽署的“安全、穩定且值得信任的開發和使用人工智能”的指示，馬約爾卡斯建立了這個委員會。
委員會的任務是研究並提出如何令關鍵基礎設施的持份者，例如管道和電網運營商、交通和互聯網服務提供商，能負責任地利用AI技術的建議。他們將著手研究維護國家利益的作法，同時以實證措施消弭可能帶來的風險。這麽做的目的是跟得上可能由具敵意的國家行為者所提出的不斷演進的威脅。
該委員會由22位高級技術行業代表組成，其中包括許多大型科技公司的CEO如：OpenAI的Sam Altman、Microsoft的Satya Nadella、Alphabet的Sundar Pichai和Anthropic的Dario Amodei。委員會的選派方式反映出政府對開源AI的看法。
馬約爾卡斯表示，他故意不邀請任何社交媒體公司的代表參加此次會議。他的這一決定是否受到他們的平台或者他們的開源AI策略的影響仍然是個問號。這同時也引發了針對開源模型相關風險的討論。而這個剛成立的AI安全委員會有望幫助國土安全部提前解決這些演變中的威脅。
美國國土安全部長亞歷杭卓·馬約卡斯宣布，國土安全部已建立了一個人工智能安全與保障委員會，以推廣在重點美國基礎設施中的人工智能的安全與保障使用。
馬約卡斯是按照比登總統去年十月簽署的行政命令《人工智能的安全、保密和可信發展和使用》來成立此委員會的。
該委員會的任務是制定建議，教導如管道和電力網營運商，以及運輸和互聯網服務提供商等關鍵基礎設施利益相關方合理利用人工智能技術。
馬約卡斯部長表示：“人工智能是一種具有變革性的技術，它能以空前的方式推進我們的國家利益。與此同時，它也帶來了真實的風險，我們可以通過採納最佳實踐和取得其他深思熟慮、具體的行動來緩解這些風險。”
國土安全部表示，這個委員會將幫助他們“預防敵對國家對美國構成的不斷演變的威脅”。
在它的2024年威脅評估報告中，國土安全部警告說，像中國、俄羅斯和伊朗這樣的國家可能會利用人工智能輔助工具針對美國的經濟安全和關鍵基礎設施。
報告指出，這些技術“具有實現更大規模，更快，更高效，更難以察覺的網絡攻擊的潛力，其目標包括管道、鐵路和其他美國關鍵基礎設施。”
預期新的人工智能安全委員會將幫助國土安全部預防這些不斷演變的威脅。
22位委員會成員清單如下：
OpenAI的首席執行官Sam Altman、Anthropic的首席執行官暨聯合創辦人Dario Amodei、Delta航空的首席執行官Ed Bastian、Humane Intelligence的首席執行官Rumman Chowdhury，Ph.D.，以及Center for Democracy and Technology的總裁兼首席執行官Alexandra Reeve Givens等。
這些公司所推出的模型均為專有或封閉模型。令人感到意外的是，馬克·祖克伯格和伊隆·馬斯克都沒有被選入。二人代表的公司都主張AI模型應該是“開源”的。
馬約卡斯告訴記者，他故意選擇不讓“社交媒體公司”參與委員會。他的這個決定是受到他們的平台或其開源人工智能策略的影響嗎?
關於開源模型相關風險的爭論仍在繼續。如OpenAI般諷刺地以開源命名的公司被指責利用人工智能恐怖主義來維護它們的霸權，保持其模型封閉。
Meta、xAI和甚至法國AI新創公司Mistral都已經將他們的LLM模型以開放權重模型的形式發布。
缺乏開源代表和出現了多位有效的利他主義者暗示了在委員會本周首次會面時可能會繼續有AI末日說的情況。
以下是委員會的完整名單：
Sam Altman，OpenAI首席執行官；
Dario Amodei，Anthropic CEO 和合作創辦人；
Ed Bastian，Delta Air Lines首席執行官；
Rumman Chowdhury，Ph.D，Humane Intelligence首席執行官；
Alexandra Reeve Givens，Center for Democracy and Technology主席和首席執行官；
Bruce Harrell，西雅圖市長，華盛頓州、美國市長會議的技術和創新委員會主席；
Damon Hewitt，律師委員會公民權利法律部門的主席和執行總監；
Vicki Hollub，Occidental Petroleum的總裁和首席執行官；
Jensen Huang，NVIDIA的總裁和首席執行官；
Arvind Krishna，IBM的董事長和首席執行官；
Fei-Fei Li，Ph.D.，史丹佛大學以人為中心的人工智能研究所的聯合主任；
Wes Moore，馬里蘭州州長；
Satya Nadella，Microsoft的董事長和首席執行官；
Shantanu Narayen，Adobe的首席執行官；
Sundar Pichai，Alphabet的首席執行官；
Arati Prabhakar，Ph.D.，科學和技術總統助理；白宮科學和科技政策辦公室的主任；
Chuck Robbins，Cisco的董事長和首席執行官；商會代表；
Adam Selipsky，Amazon Web Services的首席執行官；
Dr. Lisa Su，Advanced Micro Devices (AMD)的董事長和首席執行官；
Nicol Turner Lee，Ph.D.，布魯金斯學會的科技創新中心的高級研究員和主任；
Kathy Warden，Northrop Grumman公司的董事長、首席執行官並首席營運官；
Maya Wiley，The Leadership Conference on Civil and Human Rights的總裁和首席執行官。
DHS launches AI safety board but big open-source names absent
（引文來源：完整新聞連結）
