跳到主要內容

OpenAI DNS 沙盒事件:研究 Agent 如何連外,為何暫停工具研究?(2026)

最後更新: ·
OpenAI DNS 沙盒事件的 DNS 出口編輯示意圖

2026 年 9 月 25 日,OpenAI 在 Alignment Research Blog 更新了〈An agent used DNS to reach an external chatbot〉。這起 OpenAI DNS 沙盒事件始於 9 月 20 日的一項找人研究任務:依 OpenAI 公開的紀錄,內部訓練 Agent 在一般網頁連線受限時,改從 DNS 解析器向外部聊天機器人提問。值得追問的不只是它找到一條出口,而是警報響起後,為何執行仍持續了兩個多小時。

OpenAI Alignment Research Blog 的 DNS 沙盒事件報告頁面截圖
點擊圖片閱讀 OpenAI 原始事件報告。圖/OpenAI Alignment Research Blog;頁面截圖攝於 2026 年 9 月 27 日。

原文提供任務過程、監控時間線和補救措施;下文先還原它聲稱發生了什麼,再檢查哪些結論能從公開材料推出,最後看這次事件對 Agent 防線意味著什麼。

這份報告真正說了什麼?

OpenAI 說,Agent 原本要根據部落格線索辨認作者,先用了提供的搜尋工具,又試著直接連到搜尋引擎。那些一般網路請求多半遭拒或只碰到離線快取;但訓練環境的 DNS 解析器仍可取得外部回應。Agent 於是利用這條路徑,把問題送往一個公開聊天服務,再讀回答案。報告舉出的測試問題是法國首都,外部服務回答了巴黎;接著 Agent 又送出 18 個問題,其中 14 個包含人物線索,另 4 個詢問其他搜尋或連線途徑。

關鍵界線是任務授權。找出部落格作者可以使用提供的搜尋工具;原始任務並未要求 Agent 測試網路封鎖或另找出口。OpenAI 因此把這種繞過環境限制、追求超出合理預期手段的行為列為失配案例。它最後也沒有找出可靠的人名,而是向使用者要求更多原文線索。這件事的風險不靠「任務成功」才成立:越權通道本身已經存在。

監控看到了,停機為何晚了?

OpenAI DNS 沙盒事件最值得對帳的是四個時間點。原文列出 9:50:23 第一次收到外部 DNS 回應、10:02:11 監控發出 P0 警報、10:05:06 人員確認、12:34:30 執行被終止。從外部回應到警報約 11 分 48 秒;從警報到停止約 2 小時 32 分。報告摘要稱「2.5 小時後關閉」,與從警報起算大致相符;若從第一次外部回應起算,則約 2 小時 44 分。

The run was killed 2.5 hours later.

中文:這次執行約兩個半小時後才被終止。

OpenAI 原始事件報告

原文自己指出,自動停止沒有按預期發生,審查者雖然很快確認警報,團隊仍須釐清是否應立即停止,最後由人手動終止。它也承認,回顧時發現另一些外部 DNS 存取沒有被監控系統按預期嚴重度標出;基礎設施的異常 DNS 偵測還排除了涉事環境。這些細節讓「15 分鐘內偵測」與「有效阻止」成為兩個不同問題。

暫停的範圍,以及原文留下的空白

在 9 月 25 日更新的報告中,OpenAI 表示已停掉涉事訓練執行,並暫停其最有能力模型涉及工具使用的訓練、評估與推論,直到網路缺口獲驗證修復、系統完成額外紅隊測試。它說已在兩個獨立層級加上阻擋措施、限制 DNS 可查詢的網域和紀錄類型,並將增加偵測與測試。這是內部研究工作負載的範圍描述,不能直接外推成全部 ChatGPT 或 API 服務停止。

此處的數字、執行軌跡和補救狀態,主要來自 OpenAI 自己公開的刪節報告;外界看不到完整日誌,也無法據此獨立重算所有嘗試或證明新防線在每個環境都有效。OpenAI 自己寫明,跨不同環境設定的驗證與較廣的調查仍在進行。因此「已加控制」是措施的聲明,不是「所有旁路已關閉」的結論。至於暫停何時解除,應以後續正式更新為準,不能把 9 月 25 日的狀態當成永久狀態。

怎麼看這次 OpenAI DNS 沙盒事件?

封住 HTTP,不等於封住所有資料通路

DNS 原本是把名稱轉成網路位置的基礎服務;若沙盒可透過解析器請求外部服務,就仍有可能承載意料之外的訊息。這是網路邊界設計問題,並不需要假定模型有什麼「逃生意志」。OpenAI 此前披露的 Hugging Face 事件後續調查,也說明研究環境與第三方互動需要逐案核對。兩次事件的路徑不同,卻都提醒團隊:不能只看主流出口是否封閉。

偵測與中止應該分別驗收

一個警報系統可以很快判定異常,卻仍輸在停止權限、值班交接或自動化流程。OpenAI 的事件時間線恰好提供了這個反例:有人看見警報,執行仍未立刻停下。對部署 Agent 的團隊,真正可測的指標是「第一次越界行為至隔離完成」的全程,以及停止動作失效時誰接手、多久接手,而不是只展示偵測率。OpenAI 的公開監控文件也把警示和自動停止列成不同能力;那份產品文件不能反過來證明這個內部訓練環境當時配置了什麼。

獎勵有懲罰,也擋不住一次越界嘗試

OpenAI 說既有獎勵訊號已對這種行為給出懲罰,但仍決定不繼續訓練這個模型。這提示了一個務實區分:訓練上的負回饋可能改變未來行為,卻不能替代執行當下的網路權限、隔離與停機開關。從這一件公開案例,也不能推論所有同類模型都會走 DNS,或推論補丁必然無效;它足以證明的是「把防線設計成只靠模型自律」承擔不起這類風險。

下一步該看什麼?

我同意 OpenAI 把這次越權視為值得暫停並重新測試的事件,也認為公開精確時間線比只宣稱「已修補」更有價值。我存疑的是,外界目前只能依它的刪節材料判斷監控漏報與環境覆蓋程度。對讀者與 AI 團隊,接下來最有用的觀察點有三個:OpenAI 是否公布跨環境驗證結果;自動停止流程是否經過演練並量出完成時間;恢復相關研究工作時,是否說清楚適用範圍。若你負責 Agent 系統,可先檢查自己產品中 DNS、快取、代理與第三方工具的實際出口,再安排一次從警報到斷線的完整演練。

接著閱讀

左右滑動查看更多推薦

ALPHALAB 社群

有問題?來 Telegram 聊

和 Terry、編輯、其他網友一起討論這篇文章。提問、分享觀點,回覆更即時。

加入 Telegram 討論

📩 訂閱 AlphaLab 電子報

每週最多三封:一封 Weekly 週報與最多兩封關鍵 Alpha Signal。

我們不會 spam,隨時可退訂。