跳至主要內容

從評分欄裡的那組 0.0,到會議名單裡多出的那一格:Teams 深度偽造檢測的設計語言

微軟 Teams 將開放經認證的第三方機器人加入通話掃描深度偽造,本文從 0.0 到 1.0 的評分區間、低中高三級判定到檢測者的進場權限,讀會議介面如何長出關於真偽的新欄位。

設計觀察 ·
從評分欄裡的那組 0.0,到會議名單裡多出的那一格:Teams 深度偽造檢測的設計語言

打開一場 Teams 會議,畫面由等寬的長方形窗格排成。每格裝著一張臉、一行名字、一個麥克風狀態的小圖示,發言者自動放大,其餘縮進側欄,版面隨著對話自行整理。這套文法多年來很穩定,窗格負責在場,身分交給那一行字。10 月 25 日,科技媒體 Windows Latest 報導,微軟將允許組織接入通過認證的第三方工具,掃描會議中的視訊與音訊,偵測深度偽造,功能自 11 月中旬起在桌面版、Mac 版與網頁版逐步推出。熟悉的格狀畫面裡,即將多出一雙盯著每一格看的眼睛。

從設計的角度讀,這則消息的重點在一個分工。檢測的工作由外部提供商完成,Teams 只負責展示警告,並提供相關的操作選項。微軟動的其實是會議介面的版面責任:在名字與麥克風圖示之外,再加一層關於真偽的欄位。這個欄位裝什麼數字、由誰填進去,Microsoft Graph 的文件已經給出相當完整的規格。

一個小數點的額度

先看欄位裡的數字。經認證的檢測機器人會標記參會者,回報一個介於 0.0 到 1.0 之間的評分,並附上低、中、高三個等級的深度偽造判斷。同一份判斷被排成兩種解析度:評分保留小數的顆粒,進管理端的報表與紀錄,方便比較與覆核;等級收攏成低中高三檔,像路口的燈號一樣,給開會中的人一眼讀完。

Teams 檢測機器人對參會者回報的評分區間,從 0.0 到 1.0 的小數刻度,作為低中高三級深度偽造判斷的依據
同一份判斷的兩種解析度

用連續數字搭配離散等級,是介面處理不確定性的老手法。垃圾郵件過濾在標題前放一面小旗,信用卡系統在授權前算一筆風險分,都在把連續的機率壓成可行動的階梯。連續數字難以當場決策,三級的階梯容易:落在低檔放行,落在高檔警告,中間那段灰色交給人。0.0 到 1.0 這個區間在介面上還有個好處,範圍自帶於數字本身,放進任何報表欄位都不必另附單位。Teams 尚未公布警告視窗的視覺規格,但欄位的分工已經確定,機器人生成數字,Teams 生成畫面。

檢測者要走的進場程序

掃描者自己的身分也是一段設計。文件寫得明白,經認證的檢測機器人必須先獲準加入通話,並由組織管理員賦予 Calls.ReportSyntheticMedia.All 權限。檢測以與會者的名義進場,走的是訪客入場的程序,如同外部人員在大廳等待核準,沒有藏進背景的常駐服務。

第三方檢測機器人加入 Teams 會議前的進場程序,依序為通過微軟認證、管理員核準加入通話、取得權限,以及標記參會者並回報評分
掃描者走訪客的程序進場

這個安排有它的誠實。Teams 原本就會在與會者名單上標註訪客身分,外部人員能否進場向來是一道人工的門。檢測機器人走同一道門,監看在介面裡於是有名字,也有準入的儀式,程序的摩擦力本身就是一種告知。對照多數平臺把審查做成看不見的基礎設施,這裡把它做成一個需要開門迎接的角色。

權限字串則是一段微縮的政策。ReportSyntheticMedia,動詞用 report,回報,而非 detect 或 block;受詞 SyntheticMedia 是一個中性總稱,把換臉與生成畫面都收進來;字尾的 .All 沿用 Graph API 的範圍慣例,宣告權限涵蓋組織內所有通話。回報這個動詞在介面裡從來不便宜,我們先前讀釣魚式舉報的設計語言時,看過一顆檢舉鈕如何用必填理由與申訴流程分配摩擦力。道理在此相近,機器人只負責提出,處置的選項留在警告視窗裡,由人來按。

微軟搭臺,判斷留在門外

品牌的位置同樣畫得清楚。微軟把檢測交給外部提供商,自己握著版面與認證,Graph 文件裡的 reportSyntheticMedia 還掛著測試版的字樣,節奏也符合這種位置,先給開發者與管理員讀規格,再逐步推向一般使用者。會議軟體的供應商不替真假背書,只保證警告會以某種格式送達。對企業級產品而言,這是節制的設計,最難的題目留在門外,最確定的部分留在自己手裡,認證章還讓採購與資安部門有清單可查。

微軟在合規說明中提醒管理員,第三方服務商可能分析會議中的音訊與視訊訊號,啟用功能前應先審查服務條款與資料處理方式

合規說明再把責任往下遞一層。管理員啟用前,應審查第三方服務商的條款與資料處理方式。信任於是被分層排好:微軟認證提供商,管理員同意接入,最後由參與者在警告視窗裡收到後果。每一層有自己的核可欄位,沒有一層替整條流程背書,這種結構在企業軟體裡常見,把風險拆成可以各自簽核的段落。

會議介面長出懷疑的欄位

放到更大的脈絡,收件匣有垃圾郵件標記,瀏覽器網址列有掛鎖圖示,現在輪到視訊會議長出自己的懷疑欄位。深度偽造檢測正在變成一門服務業,賣的東西很具體:一個介於 0.0 與 1.0 之間的數字,配上低中高三級的判定。會議軟體的工作是翻譯,把評分轉成一則不至於讓例會當場停擺的警告。

合成的邊界近年一路成為設計題。我們先前讀過OpenAI 斷網訓練的設計語言,沙箱的牆與快取的擬真,同樣在處理真假的界線該畫在哪裡。差別在於位置,斷網訓練把界線畫進看不見的基礎設施,Teams 這次把它畫在每個人都看得見的會議視窗裡,畫在某一個名字旁邊。

警告視窗的視覺尚未公開,可以預期它得同時做好兩件事:提醒那一格裡的臉可能是算出來的,又不至於把會議變成質詢現場。警告可以壓在被標記的窗格上,也可以收進通知列,兩種位置給出不同的指控強度;措辭的輕重與選項的先後,會決定使用者把它讀成提示還是判決。誤判的代價由真人承擔,這也是警告設計必須節制的原因。

會議版面從此多了一個欄位。過去窗格記錄誰在場,往後還有一個數字記錄誰可能是合成。設計的題目於是落在位置上:懷疑該藏進系統深處,或讓它佔一個名額,坐進與會者名單。Teams 的答案偏後者,一個需要被準入的機器人,一則交給人去按的警告,最後的判斷留在人的那一格。