十一月六日，科技媒體把 OpenAI 執行長薩姆·奧爾特曼在 Raj Shamani 播客上的談話，壓成一行標題：未來人類可能無法從 AI 手中奪回控制權。這類長對談節目的佈景向來簡單，兩張椅子，一張矮桌，領夾麥克風收在衣領內側，燈光只留給臉，其餘壓暗。關於失控的句子，就是在這樣安靜的棚內說出來的，然後被剪成短片、轉成文字、排上一張張新聞卡片。
奧爾特曼在那段訪談裡給出兩種路徑。第一種是漸進的：人類一步一步把控制權交給自主式 AI，他說，AI 會逐漸失去控制，我們可能有意或無意地將控制權交給能力遠超人類的系統，最終再也無法奪回。第二種是集中的：某個人、某家公司或某個國家，變得相對於其他所有人過於強大。真正值得留意的是那個動詞，奪回。翻遍所有軟體的使用者介面，沒有任何一個按鈕叫奪回；設定頁使用的字樣是撤銷、停用、移除、登出。從撤銷到奪回，這段距離就是這則警告的設計問題。
有意或無意，都寫在按鈕上
手機作業系統其實早已發明一套控制權的刻度。照片、定位、麥克風的權限彈窗，選項按時間切分：僅限本次、使用期間允許、永遠允許、永不。這套設計等於承認，控制權可以用時間計價，每一次授予都該有儲存期限。其中最有誠意的是僅限本次，用完即收，系統明天再問一次。
但介面也常把選擇往省事的那側推。預設勾選的方格、記住這個選擇的自動續訂、夜裡默默完成的更新，這些元件共享同一個性質：第一次之後，不再詢問。軟體更新從彈窗詢問走到背景自動完成，輸入法從給候選字走到代為補全文句，每一步都省下使用者的時間，也收走一次選擇。奧爾特曼句中那個副詞，逐漸，在產品文件裡有另一個名字，叫改版。
代理式 AI 把讓渡的單位再放大。使用者交出去的往往是一整包權限：讀取、代寫、代送、記住偏好，一次同意覆蓋後續所有動作。撤銷鍵仍然存在，只是往設定深處退了幾層，字級縮小，配色轉灰。我們先前讀過蘋果與努比亞兩種 AI 介面的信任設計，同一個問題早已在場：要嘛把每一步操作回放給使用者看，要嘛只給一圈發光的邊框。透明的程度，從來是介面出的選擇題。
只剩一家時，貨架只剩一種字體
第二種路徑的版面後果更直觀。當某個人、公司或國家相對於其他所有人過於強大，使用者的選單會收窄成一欄，助理只有一個聲音，回覆只有一種格式。奧爾特曼把解法說得明白：讓多個不同路線的 AI 實驗室相互競爭，比所有人依賴一家企業安全得多。這句話在工程裡的名稱是備援，一條路出錯時，還有別的路可走；放到貨架上，它等於堅持同一個品類該有複數的版面與字體。
這也是馬斯克與 OpenAI 幾位前高管選擇離開、另創公司的脈絡，報導把這些離開讀成對過度集權的憂慮。奧爾特曼自己補了句誠實的註腳：「很多人的思維中都會出現一種想法，那就是他們只相信自己有能力開發這項技術，因為利害關係實在太大了。」這種心態恰恰是集中的起點：每個團隊都相信自己的手最穩，於是鑰匙一把一把交到同一隻手上。競爭的好處並不浪漫，只是其中一條路斷了，別條還亮著。
警告的品牌設計
把這場警告放回傳播的版面，還能看到一層包裝。長對談是近年科技公司主管偏愛的格式，動輒一兩個小時的兩人對話，機位固定，語速放慢，這種形式本身就在生產信任；等到新聞需要流量，再從中抽出最聳動的幾句。警告與保證於是在同一場訪談裡交貨。奧爾特曼說完兩種失控的可能，接著補上樂觀：下一代模型能讓基礎科學持續進步，AI 會帶來更好的未來。
先給威脅再給保證的結構，車商用了幾十年，同一支廣告先拍馬力，再拍氣囊。差別在於汽車的安全規格有第三方撞測可以核對，AI 公司的謹慎目前主要陳列在自己的文件裡。各實驗室發表模型時附上的系統卡，把風險評估與紅隊測試排成附錄，用文件的外觀存放謹慎，這已是這個產業約定成俗的裝幀。而 OpenAI 並非第一次把說服做成版面，先前那份送往美國潛在候選人的遊說備忘錄，同樣是私文書的外觀、公關的份量。
把出口留在亮處
回到開頭那兩個動詞。撤銷與奪回之間的距離，落在實處是一串可執行的設計決策：權限要不要按時間計價，代理的每一步要不要回放，退出鍵埋在第幾層選單，字級多大，顏色多亮。控制權的讓渡在介面上很少一次完成，多半是預設值一格一格的搬移，等使用者察覺時，常常已經搬完好幾排。
奧爾特曼的警告能被多少人記住，難說，但它指向的操作面每天開在使用者眼前。每次彈窗亮起，介面都在替我們回答同一個問題：這一次，算有意，還是算無意。設計能做的，是把問題問得夠清楚，並且讓回答保留反悔的餘地，讓撤銷鍵始終找得到。至於奪回，那個詞在介面裡永遠等不到對應的按鈕，最好的結果，是沒有人需要去找它。