人工智能（AI）巨頭 OpenAI 內部安全風暴再度升級。據《大西洋月刊》（The Atlantic）及《衛報》等媒體報導，10月3日，OpenAI 前安全系統團隊負責人 David Robinson 已正式宣布辭職。他離職後隨即發表萬字長文，嚴厲指責 OpenAI 內部文化已經崩潰，並警告各大科技公司在開發前沿 AI 技術時「遠遠不夠謹慎」，正將人類社會置於巨大風險之中。
盲目衝刺產品 安全防線形同虛設
Robinson 在其公開信中直言，OpenAI 內部目前充斥着一種「盲目的樂觀主義」。隨着市場競爭加劇，公司在各個產品發布之間「盲目衝刺」，原有的安全審慎標準早已被拋諸腦後。
- 試錯模式失效：他批評公司高度依賴「先上線、出事再補救」的迭代部署模式。隨着 AI 能力呈指數級增長，這種「邊走邊修」的做法只會讓潛在的災難規模不斷擴大。
- 缺乏冗餘設計：Robinson 呼籲，前沿 AI 實驗室的營運標準應比照核電廠或民航業，必須具備多層冗餘設計與嚴格的外部審計，而非任由科技巨頭自我監管。
致命警告：不受控的「流氓 AI 代理」
在技術層面，Robinson 釋出了一個極為具體的危險信號：失控的自主 AI 代理（AI Agents）。
他警告，未來的 AI 將不再只是回答問題的聊天機械人，而是擁有自主執行任務能力的「代理人」。如果缺乏足夠監管，社會很快就會面臨像駭客團隊一樣運作、24小時無需睡覺的「流氓 AI」。這些代理可能在上線後完全脫離人類控制，甚至發動大規模網絡攻擊，例如挾持醫院的計算機系統進行勒索。
OpenAI 緊急回應：必要時會「暫停訓練」
面對排山倒海的質疑，OpenAI 發言人緊急作出回應。公司強調，目前正在持續加強安全與實查機制，以應對未來的技術突破風險。發言人亦承諾，OpenAI 在必要時會「暫停訓練或留置模型」，以確保模型的防護能力符合安全預期。
事實上，這已不是 OpenAI 首次爆出核心安全人員集體出走。近期包括 Anthropic、Google DeepMind 等前沿實驗室在內，已有大批頂尖安全研究員因擔憂「AI 军备竞赛過快、拿人類安全冒險」而相繼離職。外界普遍認為，Robinson 的請辭將進一步推動各國政府加快對超級人工智能（AGI）的立法監管進程。
