一場發生在伺服器端的防禦升級,最後交給兩個數字來發言。54%,0.2%。前者是升級前隱藏推理內容被成功提取的比率,後者是同一個欄位在升級後的讀數。中間隔著一次模型端與服務端的改版,也隔著一個小數點。
54% 是兩位整數的百分比,讀起來接近擲硬幣的勝率。它太健康了,健康到不該出現在「防禦」這個欄位裡。0.2% 則必須動用小數點才寫得出來,四捨五入之後就是零。換句話說,這次升級在版面上做的事情,是把一個數字推過小數點,推到肉眼幾乎讀不見的位置。防禦的成效,最後被壓縮成一位小數的存在感。
收合起來的那段思考
要理解被保護的東西,先看它平常在畫面上的樣子。推理模型給出答案之前,ChatGPT 會先出現一行「已深度思考」,後面綴著秒數。這個欄位預設收合,點開才看得到過程摘要,字級小一階,顏色淡一階,安靜地退在答案後面。
在體驗設計上,這是體貼。多數使用者要的是結論,推導過程對他們是雜訊,收合的欄位替所有人省下一屏滾動。在資安設計上,這是同一個動作的另一面:過程被包裝起來,成了有明確邊界的資產。OpenAI 所說的「隱藏推理」,指的就是這一段。介面早就在它周圍畫好了線,欄位的框線,就是圍籬。
這面介面近年的改版我們並不陌生。側欄欄位的交班,免費與付費帳號之間那扇門的位置,先前在ChatGPT Spaces 開放 Plus 的介面排程裡讀過一輪。那次是一格導覽列的搬移,這次是一道圍籬的加深。手法是同一套:先在版面上決定什麼被看見,再由後臺決定什麼被給出。
蒸餾是一種臨摹工法
蒸餾在機器學習裡的角色,可以用臨摹來理解。讓一個小模型反覆讀大模型的輸出,學它的用詞,學它組織答案的順序。用產品設計的語言說,這很像依著照片開模。你量得到外型的每一條曲線,量不到模具裡的拔模角度與補強肋位置。
OpenAI 這份公告裡的判斷,就落在這條線上。
設計圈對這句話不陌生。一張被抄版的椅子,曲木外殼的弧度可以量到公釐級,內部的結構計算跟著原廠留在圖房裡。安全性在產品裡向來是隱形工程。阻燃處理不出現在櫥窗照片裡,圓角半徑不寫在規格表首行,卻決定一張椅子能不能過檢、能不能上市。模型的安全措施是同一種隱形工程,它不在答案的表面,而在答案成形之前那套篩選:哪些請求該被拒絕,哪些輸出該被攔下。蒸餾拷貝了答案的長相,這套篩選留在原廠。
這也替防禦提供了正當性。抄走能力而漏掉煞車的複製品,開上路的風險由乘客承擔。配套一旦丟失,後果直接落在使用者身上,公告把這層關係寫得相當明白。
偵測與打斷,把防禦做成流程
公告的另一半是方法:怎麼偵測有組織的蒸餾嘗試,怎麼打斷它。「有組織」三個字值得停下來看。零星的提問是使用;同一套腳本配著成排的帳號,對準同一類內容反覆打過去,就成了一種作業。
這種量產的紀律,我們在別的場景見過。先前讀AI 換臉詐騙簡訊的量產結構時,同一支模板影片寄給整份名單,那份整齊本身就是洩底的地方。偵測讀的正是行為的排版:請求的間隔太規律,主題的分布太集中。防禦系統在這裡的角色接近校對,逐行檢查的不是單一訊息的內容,是整份文件的字距與行距。
打斷則是整套設計裡最接近介面的一環。偵測是後臺的儀表板,打斷是使用者會撞上的牆:流量被限住,服務在中途斷開。摩擦被刻意種進路徑裡。好的無障礙設計把摩擦藏起來,好的防禦設計把摩擦種下去,兩者計較的是同一種細節,方向相反。
數字作為防禦的門面
回到開頭那兩個數字。54% 對 0.2%,換算是兩百七十倍的壓縮,但公告選擇陳列的是並列的成功率,而非倍數。這個選擇有它排印上的誠實。倍數好看,卻把基準點藏起來;並列的百分比讓讀者親眼看見,「被提取」這件事原本有超過一半的機率成立。把這個起點攤開來,比一個漂亮的倍數更誠實。
小數點後那個 2 也有它的功能。只寫 0%,像口號;寫 0.2%,像量測紀錄。一位小數是精度的展示,它替整份公告定了口吻:這是實驗數據的寫法,不是宣傳標語的寫法。數字在這裡的角色,與精品皮件上燙金的序號相近。序號很少被人細讀,它存在的目的,是證明背後有一套發號與登錄的系統。公告裡的小數點,作用相同。
放到趨勢裡看,模型產業正在長出自己的防偽體系。精品有序號與縫線工法,鈔票有水印與變色油墨。推理模型如今也有了對應的一套:藏起來的過程,配上偵測提問的儀表板。當輸出品質成為產品力,輸出來源的可驗證,遲早會變成規格表上的一個欄位。這份公告像那個欄位的初稿。
這場升級最耐讀的地方,在於它示範了成效如何被排成版面。同一套防禦可以寫成三頁技術說明,也可以收攏成 54% 對 0.2% 的兩格對照,讓每個讀者在三秒內完成驗收。防禦發生在伺服器,說服發生在排印上。下次看到任何一組前後對照的數字,值得多看一眼那個小數點。它出現在哪一位,往往透露了發布者想被相信到什麼程度。