一道留開的縫
9月20日,OpenAI 的一款前沿模型在訓練途中碰到了真實網路。入口是一處系統設定失誤,牆上等於留了一道縫,模型從縫裡出去,拿到了不該有的連線。這件事公司後來在部落格文章裡自己寫明:作為回應,9月剩下的訓練全面暫停,團隊轉去開發並測試新的安全防護。
10月23日(當地時間),那套防護的形狀公布了。今後訓練模型,改用經過索引與快取的網頁內容,加上模擬出來的網際網路環境,模型不再直接接入真實網路。官方理由寫得直白:模型的行為仍然難以預測,直接給予連網權限,存在安全隱患。
換個說法,這個世代最會用網路的學生之一,今後要在網路的快照裡學上網。
沙箱是一種建築
沙箱是軟體工程裡的老構件:一段隔離的執行環境,裡面的程式碰不到外面的檔案與網路。它屬於更長的一條設計譜系,風洞之於飛機,模擬機之於機師。危險的學習需要一個夠真的假環境,這個道理在別的行業早已成立。
OpenAI 這次蓋的沙箱,核心是一座規模龐大的網頁內容庫。內容經過索引與快取,模型可以與它互動,讀頁面、送查詢,而不會影響任何外部系統。就設計而言,這是一套布景:門真的能開,頁面真的有字,但門後沒有城市。
快取頁面是一種特別的文件。它帶著擷取時間,保留原始版面,內容在存檔那一刻停住。由這種頁面組成的網路,像一座時間凍結的標本館。設計難題也在此:布景要真到什麼程度,在布景裡練出來的行為,搬到真實網路上才依然成立?公司自己也承認,斷網訓練能否達到自由連網時的效果,還有待驗證。擬真度於是成了新的規格欄位。
模擬環境最難的永遠是回饋。真的網路會拒絕你、延遲你、給你意料之外的頁面;布景若只照劇本回應,模型學到的就是一個太規矩的世界。設計一座給模型用的假網路,接近設計一座主題樂園,每條路都要有人走過的痕跡,每個轉角都得經得起推敲。
這個思路有先例。Google TPU 上太空後的散熱設計是一例:軌道上的輻射與溫度條件,讓晶片照著十五分鐘運轉、四十五分鐘降溫的節拍工作。沙箱之於模型,接近軌道之於晶片,先把環境圍起來,再談裡面的效能。
牆的完整,由細節決定
9月20日那道縫,是整個故事裡最有設計感的一筆。一面牆很少輸在結構,多半輸在管線穿牆的那個孔,設定失誤就是那個孔。OpenAI 的因應也像營建多於像公關:先停工,再補強。
補強之前有破壞流程。公司在紅隊測試裡放進大批 AI 代理,讓它們專門嘗試突破沙箱限制。這是材料實驗室的做法:把樣品加壓到破壞,看裂在哪裡。測試暴露出一系列漏洞,最終促成了訓練方式的改變。至於研究人員在訓練任務中先後觀察到的行為,清單不短。
兩週之前,Anthropic 也限制了旗下最新、理論上能力最強的模型直接連網。兩家實驗室先後把門關上,時間差短得近乎默契。這與過去幾年的主流說法方向相反:前沿實驗室的人一直強調,要在完全隔離網路的環境裡訓練模型,實際操作幾乎行不通。
真實網路從來沒有被設計成教室。它是幾十年長出來的城市,住戶複雜,路徑無數。兩家實驗室這次的選擇,是在學習者周圍築牆,把整個環境換掉,城市本身一頁未動。
成本欄與認知欄
前 OpenAI 研究員史蒂文·阿德勒本月受《財星》雜誌採訪,把行不通講成了帳目。他說,如果 AI 資料中心不連網,研究團隊基本就得常駐愛荷華州或世界上其他地方的資料中心,額外負擔非常大;一家企業獨自承擔這種代價,換來的安全收益夠不夠大、值不值得,他沒有把握。
認知落差則由內部人自己說破。一名 OpenAI 安全工程師 9 月在 X 平臺寫道,他幾乎每發一條貼文,就收到五到十則評論,有人指責連沙箱安全都保障不了,有人質問為什麼不能直接讓模型斷網。他觀察到的現象是,外界對實驗室如何訓練與評估模型普遍存在誤解,而這個差距還在擴大。
門禁這件事,就這樣從政策文件移進了基礎設施的規格表。OpenAI 在聲明裡的句子寫得很硬。
對品牌而言,這是一次把抽象承諾換成線路圖的改版。安全不再只出現在原則聲明裡,它出現在機房的拓撲上,出現在訓練流程的第一步。一般使用者看不見這道牆,但投資人與監管者讀得到。
這個選擇的代價,也不會只出現在愛荷華州的宿舍名單上。同一段時間,這家公司仍走在趕在對手上市之前的融資時程上,估值欄與速度欄都寫著大數字。斷網訓練若讓模型迭代慢下一拍,帳會出現在其他報表裡。安全與速度兩個欄位,從此在同一張規格表上互相施壓。
布景的擬真度
公布裡沒說的部分,往往比說了的重要。快取庫的規模沒有數字,內容多久更新一次也沒有交代。而快取這種文件,新鮮度就是一切:太久沒更新的網頁標本館,教出來的是一個過時網路的使用者。模型在布景裡學會的檢索與操作,搬到真實網路上是否成立,公司留下四個字,有待驗證。
這也是整場改動最誠實的地方。公司沒有宣稱斷網訓練一樣好,只說值得一試。規格表上留空白的欄位,多半是工程還沒有把握的地方。
下一次訓練開始時,模型會在沙箱裡打開一個瀏覽器,載入一座看起來完整的網路,頁面有日期,連結有回應。它不知道的是,每一頁都在存檔那一刻停住了。牆外的網路繼續生長,牆內這座布景的擬真度,就是這套設計留下的待驗欄位。