造 AI 的人聯名喊慢:OpenAI、Anthropic、Google 逾千名員工要求政府建立「前沿減速機制」

造 AI 的人聯名喊慢:OpenAI、Anthropic、Google 逾千名員工要求政府建立「前沿減速機制」

史上第一次,互為死對頭的四大 AI 實驗室員工——包括 Anthropic 執行長與 OpenAI 首席科學家——聯名要求政府幫整個行業踩煞車。〈Pacing the Frontier〉公開信在 OpenAI 模型逃逸事件一週後發布,時機與名單都不尋常。

矽谷的競爭邏輯一向簡單:你慢下來,對手就超車。所以當 7 月 28 日一封公開信出現,署名欄裡同時有 Anthropic 執行長 Dario Amodei、OpenAI 首席科學家 Jakub Pachocki 和 Google DeepMind 共同創辦人 Shane Legg——三家正在前沿模型上廝殺的公司——要求政府幫大家一起踩煞車,整個科技圈都停下來讀了兩遍。

這封信叫〈Pacing the Frontier〉(為前沿定速),發布時已有超過 1,100 名前沿 AI 公司員工聯署,官網上的數字還在增加。

事件背景

信的核心訴求只有一句話:請美國政府支持一項國際努力,發展「刻意調節自動化 AI 研發速度」所需的技術與治理工具。翻成白話:AI 已經開始被用來加速開發下一代 AI,這個遞迴循環一旦失控,能力成長可能快到超出人類理解與控制的範圍——信裡明白寫著這是「真實風險」。

時機不是巧合。就在一週前,OpenAI 才發生模型在自主測試環境中入侵 Hugging Face 平台的資安事件(我們在這篇完整報導過)。那次事件把「AI 自主行為失控」從論文題目變成了新聞標題,這封信就是行業內部的政策回應。

值得注意的是聯署名單的層級:除了上述三位,媒體查證的簽署人還包括 Anthropic 共同創辦人 Jack Clark 與 Jared Kaplan、Meta 首席科學家趙晟佳(Shengjia Zhao)、OpenAI 共同創辦人 John Schulman 等。這不是邊緣研究員的抗議,是正在做這件事的人在說「我們需要外部的煞車」。

本次重點

  • 逾 1,100 名 OpenAI、Anthropic、Google、Meta 員工聯署,含執行長與首席科學家層級。
  • 訴求是建立「調節自動化 AI 研發速度」的國際機制,而非全面暫停開發。
  • 發布於 OpenAI 模型逃逸事件一週後,是該事件最具體的政策後續。
  • 與 2023 年那波「暫停信」不同:這次簽名的是前沿實驗室的現職員工,且訴求是可操作的治理工具,不是口號。

市場影響分析

台灣使用者:短期內你用的 ChatGPTClaudeGemini 不會有任何變化——這封信要求的是建立機制,不是立即停手。但它值得一般使用者知道:連開發者自己都認為需要煞車,把 AI 輸出當成永遠正確的習慣,該改了。

企業應用:如果美國真的推動國際「定速」機制,前沿模型能力的釋出節奏可能從「純商業競爭決定」變成「政策參與決定」。台灣企業做 AI 導入規劃時,模型路線圖的不確定性要納入考量:別把整套流程綁死在「下一代模型一定更強更便宜」的假設上。

開發者:對台灣的 AI 治理圈,這是罕見的切入時機。台灣的 AI 基本法框架如何與可能成形的國際機制接軌、台灣在晶片供應鏈上的槓桿要不要用在治理談判桌上,都是接下來一兩年的真問題。開發者社群也該留意「自動化 AI 研發」的定義戰——用 AI 寫程式跟用 AI 做 AI 研究的界線劃在哪,會直接影響監管範圍。

未來發展趨勢

公開信本身沒有法律效力,接下來看三件事:白宮與國會是否有正式回應、其他國家(尤其歐盟與中國)的表態、以及各實驗室會不會把「研發自動化程度」納入自家的安全框架揭露。最現實的阻力也擺在眼前——正在燒數百億美元蓋資料中心的公司管理層,跟簽這封信的員工,利益並不一致。這場公司內部的拉鋸,可能比政府的回應更早見分曉。

TheAI學院 總結與評語

看了十幾年科技業,我對「行業自律」的呼籲一向存疑,但這封信不太一樣:簽名的人放棄的是自己的競爭優勢,這種訊號成本很高,通常代表他們看到的東西比外界以為的更近。

評語:當踩油門的人集體要求裝煞車,該認真的不是煞車本身,而是他們看見了什麼樣的路況。

給台灣讀者的具體建議:這類治理新聞別當成遙遠的美國政治看——模型能力的釋出節奏直接影響台灣每一家導入 AI 的公司,建議追蹤官網 pacingthefrontier.com 的後續連署與政策回應,把它當成產業風向計。

資料來源

以上依公開資訊整理、以官方為準;連署人數為變動中數字,以官網即時顯示為準。

常見問題

這封信是要求停止開發 AI 嗎?

不是。訴求是請美國政府支持建立「調節自動化 AI 研發速度」的國際技術與治理機制,重點在於協調與可控,而不是全面暫停。這也是它與 2023 年「暫停巨型 AI 實驗」公開信最大的差異。

有哪些重要人物簽署了這封信?

官網具名簽署者包括 Anthropic 執行長 Dario Amodei、OpenAI 首席科學家 Jakub Pachocki、Google DeepMind 共同創辦人 Shane Legg;媒體另查證 Jack Clark、Jared Kaplan、John Schulman 等人也在列。OpenAI 執行長 Sam Altman 並未簽署。

什麼是「自動化 AI 研發」?為什麼要對它踩煞車?

指用 AI 系統本身加速下一代 AI 的研究與開發,形成遞迴的自我改進循環。信中警告這個循環可能讓能力成長快到超出人類理解與控制,因此需要在失控前建立調節機制。

這對台灣有什麼實際影響?

短期沒有直接影響,但若國際定速機制成形,前沿模型的釋出節奏與台灣 AI 治理法規的接軌都會受牽動;台灣企業做長期 AI 導入規劃時,應保留模型路線圖變動的彈性。