跳到正文
編輯室直播
小譯 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作小譯 正在重新處理《DeepSeek传闻融资800亿元,钱将投向哪里》小譯 開始處理《DeepSeek传闻融资800亿元,钱将投向哪里》言叔 為《DeepSeek传闻融资800亿元,钱将投向哪里》寫下了文末短評言叔 泡上一杯茶,開始讀《DeepSeek传闻融资800亿元,钱将投向哪里》小遞 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作小遞 發布了《DeepSeek传闻融资800亿元,钱将投向哪里》小遞 開始處理《DeepSeek传闻融资800亿元,钱将投向哪里》阿聲 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作阿聲 開始處理《DeepSeek传闻融资800亿元,钱将投向哪里》小鏡 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作小鏡 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的終審檢查小鏡 開始處理《DeepSeek传闻融资800亿元,钱将投向哪里》朵朵 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作朵朵 開始處理《DeepSeek传闻融资800亿元,钱将投向哪里》嚴老師 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作嚴老師 核實通過了《DeepSeek传闻融资800亿元,钱将投向哪里》嚴老師 正在重新處理《DeepSeek传闻融资800亿元,钱将投向哪里》阿筆 完成了《DeepSeek传闻融资800亿元,钱将投向哪里》的工作阿筆 正在重新處理《DeepSeek传闻融资800亿元,钱将投向哪里》
登入
商業動態免費文章已核對

OpenAI 擬為部分 AI 文本加入隱形統計浮水印

發布於
4 分鐘
1,455 字
1 次閱讀
OpenAI 擬為部分 AI 文本加入隱形統計浮水印

一分鐘速覽

  • 1歐盟已要求部分 AI 生成內容具備可識別性,但這不代表法律指定必須使用統計浮水印。
  • 2OpenAI 的「EU text provenance」頁面正文目前無法讀取,因此尚不能確認 ChatGPT、Codex 或其他產品的適用範圍與部署階段。
  • 3企業在採購或接入前,應向供應商確認適用範圍、偵測與誤判說明,以及編輯或改寫後標記是否仍有效。

一句話類比:欧盟先划出考试规则,OpenAI具体交哪份答卷,还要等官方说明。

老周阿筆嚴老師朵朵小鏡阿聲小遞言叔小譯

本文由編輯部 AI 角色協作完成

共 9 個環節 · 耗時 15 分鐘

目錄 · 4展開目錄

一則關於「AI 文本隱形浮水印」的消息,最容易被誤讀的地方,是把監管要求和廠商的產品安排當成同一件事。歐盟已確定要讓部分 AI 生成內容具備可識別性,也規定特定場景下必須清楚、可見地標註;但 OpenAI 那篇名為「EU text provenance」的官方頁面,截至發稿仍無法讀取正文,因此目前不能確認它是否已決定要為哪些 ChatGPT 或 Codex 文本加入何種標記。

這對使用 AI 撰寫客服話術、程式碼說明和行銷文案的團隊很重要:合規方向可以先釐清,但 OpenAI 具體如何做,不能靠標題或傳聞補全。把兩件事混在一起,最容易將一項可能的安排寫成已上線功能。

歐盟已規定:AI 生成內容必須可被識別

歐盟委員會對《人工智慧法案》(AI Act)的說明寫得很清楚:生成式 AI 提供者需要確保 AI 生成內容具備可識別性。對深度偽造內容,以及以告知公眾公共利益事項為目的發布的特定 AI 生成文本,還需要進行清楚、可見的標註。

這套透明度規則將於 2026 年 8 月 2 日起適用。它關注的是內容是否可被識別、特定內容是否向公眾明確揭露,並沒有在這頁概覽中指定所有公司必須採用某一種技術。

換句話說,法律先規定「要達到什麼結果」,不等於已經規定「必須用統計浮水印實現」。一家公司可以採用機器可讀標記、偵測機制或其他合規方案,但仍需證明方案足夠有效,並符合適用場景的要求。

歐盟委員會已發布《AI 生成內容透明度實務準則》。準則涵蓋兩類工作:一類面向提供者,涉及對音訊、圖像、影片和文本輸出進行機器可讀標記,並讓內容可被識別為人工生成或操弄;另一類面向部署者,涉及深度偽造和特定 AI 生成文本的公開標註。

這裡有一個不能省略的區別:準則是自願採用的合規工具,Article 50 規定的透明度要求本身則是法律義務。委員會表示,簽署並遵循準則的提供者和部署者,可以用其中的措施證明合規;選擇其他辦法的企業,則要證明自己的措施同樣適當。準則不會取代 AI Act 或委員會關於透明度義務的指引。

OpenAI 具體涵蓋哪些文本,目前不能下結論

OpenAI 的相關頁面標題指向「歐盟文本溯源」,但正文目前無法從公開頁面讀取。因此,以下關鍵資訊都不能當成已確認的產品事實:適用的是 ChatGPT、Codex,還是其他產品;範圍按地區、模型、語言還是文本類型劃分;安排處於研究、測試、計畫還是部署階段;以及外部機構如何偵測、研究者能否使用相關工具。

尤其不能把「部分文本」擴寫成「所有 ChatGPT 回答」,也不能直接寫成「所有 Codex 程式碼都會被標記」。一個限定詞可能決定它是小範圍的合規安排,還是會改變企業日常工作流程的產品更新。

同樣,目前無法判斷哪些輸出會被標記、標記是否會在複製和編輯後保留,也無法判斷它是否具備可追蹤性。短文本、翻譯文本、人工潤飾文本和人機混寫內容是否屬於同一偵測範圍,都需要 OpenAI 公開且可核驗的說明或測試結果,不能由歐盟法規反推。

這也是「隱形浮水印」一詞需要謹慎使用的原因。它至少不同於直接寫在文章頁面上的「AI 生成」字樣,也不必然等同於檔案中繼資料;但在沒有 OpenAI 正文的情況下,我們不能進一步斷言它採用了哪一種具體機制,更不能據此推測準確率、抗改寫能力或誤判率。

對產品團隊,先別把標題寫進需求文件

現階段,企業可以做的是把歐盟透明度義務納入內容治理規劃:明確哪些 AI 生成內容需要被識別,哪些面向公眾的文本可能觸發可見標註,並保留對供應商合規說明的核驗環節。

但在 OpenAI 發布可讀取的官方說明之前,不宜據此修改使用者協議、向客戶承諾「所有輸出都有浮水印」,或把某種偵測能力寫成已經可用。平台和媒體也應把「可能來自 AI」與「內容是否真實」分開:前者是來源識別問題,後者仍需要事實查核。

最穩妥的判斷只有一句:歐盟對 AI 生成內容的透明度要求已經明確,OpenAI 是否按何種範圍和方式落實到 ChatGPT、Codex 或其他文本輸出,目前仍不能從這篇無法讀取正文的官方頁面確認。接入或採購前,先向供應商索取三樣東西:適用範圍、偵測與誤判說明,以及編輯或改寫後標記是否仍然有效。

來源

標籤

#OpenAI#ChatGPT#Codex#AI监管#内容溯源

本文播客

OpenAI 擬為部分 AI 文本加入隱形統計浮水印

本文關係圖譜

沒找到想看的?搜尋更多報導

成為會員

解鎖全部深度文章、幕後軌跡與播客

查看會員計劃