工程師在電腦前寫程式
示意圖,與 Anthropic、METR 無關。Crew 攝,CC0,Wikimedia Commons。
AI 治理AnthropicMETR第三方評估

Anthropic 讓 6 名 METR 人員以「類員工」權限進駐評估風險,公告標註兩次更新:METR 那段刪掉「可公開評論刪節是否合理」,改寫成資訊是否屬於可刪節類別由 Anthropic 最終判定

Anthropic 2026 年 10 月 15 日在官網發布〈An update on independent evaluators〉,宣布已讓非營利 AI 評估機構 METR 的一個團隊取得「類似員工」的存取權:6 名 METR 人員領到公司硬體設備、辦公空間,以及「大致相當於」Anthropic 自家風險評估團隊的內部工具與系統存取。METR 會公開它對 Anthropic 風險程度、事件與做法的分析;Anthropic 不能否決發表,但可以要求刪除落在預先定義類別內的資訊。公告頁尾分別標註 10 月 15 日與 16 日的更新,說是為了釐清 SecureBio 與 METR 目前的專案條件。

AI 公司請外部機構評估自家模型並不新鮮,OpenAI 9 月 22 日也發布過第三方評估的原則(見本站前一則)。但讓外部人員取得類似員工、只排除明確類別的存取,而且發表時公司不能否決,這篇公告寫出了具體人數與條件。這篇要回答三件事:METR 拿到什麼、不拿什麼;兩次更新改了哪些字;以及這些條件跟 METR 自己前一天發表的提案怎麼對照。本站讀了公告現行版,並比對網際網路檔案館(Wayback Machine)在 10 月 15 日 17:21、16 日 05:32、17 日 04:59(世界協調時間)保存的三份快照。快照時間不是修改時間,三份快照能顯示差異,不能證明期間只改過兩次。

METR 拿到什麼、不拿什麼

公告寫,除了少數明確定義的類別,Anthropic 員工被鼓勵像對待「一起研究對齊風險的同事」一樣,把資訊分享給 METR;舉例的排除類別有客戶資料、受律師與委託人保密特權保護的資訊、模型架構資訊。註腳說,評估者可能也替其他公司工作,架構資訊意外外洩的風險高、對風險評估的關聯通常低;真的高度相關時,Anthropic「通常會設法分享」,但要經內部明確核准(本站譯)。合作限於一個依具可執行效力的協議工作的小團隊,METR 其他人員與這個團隊的工作隔離。

公告把評估者的存取分成三層。第一層做範圍限定的風險調查,給什麼存取由 Anthropic 決定,發表要經 Anthropic 同意;第二層不必經同意就能發表、能看到更多資訊,Anthropic 仍可要求移除特定類別,評估者可以發表自己對刪節是否合理的看法;第三層就是 METR 這種類員工存取,發表權「類似第二層」。另外,SecureBio 正在審閱 Anthropic 8 月風險報告的化學與生物武器章節;Anthropic 9 月 18 日已宣布與 Accenture 合作、由其旗下 Faculty 主導,這篇公告說雙方正推進模型評估、紅隊測試、對齊評估與防護測試;Hugging Face 等機構還在初步討論。

兩次更新改了哪幾句

第一次更新(頁尾標註 10 月 15 日)改的是 SecureBio。本站取得的最早快照寫「SecureBio 目前在第一層」,審閱完成後 Anthropic 會考慮「增加存取與發表權」的專案;10 月 16 日 05:32 的快照已刪掉「目前在第一層」,句尾只剩「增加存取」。同一輪另有幾處用字與連字號的修正。

第二次更新(頁尾標註 10 月 16 日)改的是 METR 的發表條件。10 月 16 日 05:32 的快照仍寫,Anthropic 可以要求刪除「狹窄、預先定義的類別」內的資訊,「METR 可以公開描述我們的刪節,並說明它是否認為刪節合理,只要不透露被刪的內容」。10 月 17 日 04:59 的快照與現行版拿掉「狹窄」兩字,整句「可以公開描述刪節」刪除,改成括號:「哪些資訊屬於或不屬於這些類別,最終由 Anthropic 判定;不過,METR 保留就其取得的存取程度與資訊作出某些聲明的權利」(本站譯)。

沒改的是三層說明。第二層仍寫評估者「可以發表對刪節是否合理的看法」,第三層仍寫 METR 的發表權類似第二層。現行版 METR 那段不再明示可以評論刪節,但沒有寫禁止;註腳說這次更新是為了釐清 METR 目前的專案條件,公告沒有公開完整契約,也沒有說明 METR 那段與三層說明怎麼銜接。只憑文字改寫,無法判定 METR 實際的評論權有沒有改變。

跟 METR 前一天的提案對照

METR 10 月 14 日在官網發表一份提案,說明它希望怎麼與 AI 開發者合作、公開失控風險的證據。提案寫,開發者可以刪節「任何他們認為敏感的資訊」並選擇給 METR 哪些存取;所有存取最終由公司決定,因此實務上 METR「不會有與公司內部從事類似風險評估工作的資深員工相同的存取」;這份提案不要求達到某封公開信所界定的「真正的員工等級存取」。提案同時要求允許 METR 評論刪節、存取限制與條件,並寫它打算一律公開哪些種類的重要資訊被刪節,雙方談不攏時會公開這件事。兩份文件都容許公司限制存取或要求刪節,但對刪節範圍與公開評論權的寫法不同;Anthropic 各版都寫存取「大致相當於」自家風險評估團隊,這與 METR 一般提案說的「實務上不會相同」比較對象不完全一樣,單憑措辭不能判定兩者衝突。這份提案是 METR 的一般條件,不是 Anthropic 專案的契約。

獨立性的條件也可以對照。這篇公告列出評估者應具備的四項條件,其中一項是不持有被評估公司的股權、財務或營運上不依賴對方。Anthropic 9 月 18 日宣布與 Accenture 合作時寫,Anthropic 將直接資助 Accenture 的這項工作,雙方各預計五年內投入至少 10 億美元建立這方面的能力;同一篇也寫,當時正與 METR 等非營利評估機構商談,由它們用自己的經費試行部分做法,並說目前還沒有共同或政府出資的機制。兩篇公告都沒有交代如何防止直接付費影響評估的獨立性;只憑付費關係,也不足以判定評估者在財務上依賴 Anthropic。

原文 Anthropic〈An update on independent evaluators〉(2026-10-15,現行版含 10-15、10-16 兩則更新註記),人數、存取內容、排除類別、三層說明、其他評估者與獨立性條件取自此頁;網際網路檔案館 2026-10-15 17:21 UTC 快照、2026-10-16 05:32 UTC 快照、2026-10-17 04:59 UTC 快照,逐句比對由本站進行;Anthropic〈Partnering with Accenture on embedded evaluation〉(2026-09-18),資助安排與 10 億美元取自此則;METR 提案(2026-10-14),刪節、存取、評論權與員工等級存取的說法取自此頁。英文引文為本站譯。