Altman 在聯合國安理會：「災難風險 10% 或 0.1% 都不能接受」，提出跨國前沿 AI 標準、事件通報與弱點分享管道；安理會第一次專門討論 AI 失控風險

趨勢新聞2026 年 9 月 27 日

聯合國安全理事會 9 月 23 日下午在輪值主席國法國主持下，舉行「人工智慧與國際安全」高階簡報，由法國歐洲暨外交部長 Jean-Noël Barrot 主持。OpenAI 執行長 Sam Altman 親自到場發言，Anthropic 執行長 Dario Amodei 與 Hugging Face 執行長 Clément Delangue 以視訊參加，聯合國獨立國際 AI 科學小組共同主席 Yoshua Bengio 先做簡報。依安理會報告組織（Security Council Report）的會前說明，安理會先前開過六次與 AI 有關的正式與非正式會議，這是第一次專門討論日益強大的 AI 系統的安全風險，包括「失去人類控制的可能」。OpenAI 同一天在官網公布 Altman 的講稿全文。

講稿的骨幹是「兩種會走得很糟的方向」：一是人類把未來的控制權輸給 AI，二是最強的 AI 把權力集中在少數人手上。關於第一種，Altman 說「不論把災難的風險放在 10%、1%、12% 或 0.1%，沒有一個等級是勉強可以接受的」，「我們不應訓練那些我們無法極有力地證明能夠保持在人類控制之下的模型」；他說 OpenAI 過去曾單方面放慢，未來也會，「在競爭中領先不是做草率決定的理由」。關於第二種，他說「沒有任何一個人、一家公司或一個國家應該能用最強大的 AI 模型把自己的世界觀強加給所有人」。講稿另提到 OpenAI 的一個模型「今年夏天幾週前」解出了千禧年大獎難題之一的 Navier–Stokes 方程式，這是 OpenAI 的自述，本站沒有核對。

他向各國要什麼

Altman 列了四樣：一，國家與國際層級相輔相成的前沿 AI 標準，涵蓋衡量能力、評估風險、判斷防護是否足夠，以及在系統日益自主時維持實質的人類監督；二，共同的標準，讓各國能比較證據、查核合規；三，準確迅速的事件通報，以及分類與通報規範；四，政府、關鍵基礎設施營運方與技術專家之間分享新弱點與威脅的安全管道。他說標準不應鞏固既有業者、不應偏袒某種商業模式，要同時支持開放與封閉模型的開發者，各國自行決定怎麼納入本國法律；並說「企業不能取代民主程序」，最重要的決策「不能只由舊金山的實驗室制定」。

這場會議沒有決議或主席聲明；Security Council Report 的會前說明也沒有預期任何產出文件。聯合國新聞引 Bengio 的話，稱 AI 是「沒有任何一國能單獨遏制、也不尊重我們所守衛的邊界」的威脅。Amodei 與 Delangue 的講稿，截稿時 Anthropic 與 Hugging Face 的網站都未見公布，本站不轉述媒體對他們發言的整理。