現在網路上已經有很多工具可以檢測文章是不是用 AI 寫的,不過有時候還是會辨識錯誤,我就測試過幾篇文章明明是人寫的,卻被辨識出 AI,同時這類工具也沒有公開辨識標準,因此會讓人無法完全信服。
如果你都是用 ChatGPT,那這裡有一個小小壞消息,根據 OpenAI 透露,他們已經開發出為 AI 生成內容添加浮水印的方法,代表說未來的內容如果想知道是不是用 ChatGPT ,那只需要用這功能檢查一下,就能立刻辨識出,準確性相當高。
圖片來源:ebsedu
未來你用 ChatGPT 生成的文字內容,很可能輕鬆就被檢測出
幾天前 OpenAI 在一篇舊文更新了新內容,這篇文章主要關於「OpenAI 正在推出新的工具,來幫助研究人員研究內容的真實性。」避免學生或內容創作者,濫用 ChatGPT 工具來生成內容。
而在最新內容 OpenAI 提到,他們已經開發出為文字添加浮水印的方法,準確度非常高,尤其是在局部篡改(如:改寫段落)特別有效。不過是怎麼做到浮水印的?OpenAI 就沒有特別說明。
除了浮水印,OpenAI 也在探索另一個「文字元數據」的方法,跟浮水印不同在,元數據是經過加密簽名的,因此不會發生有任何誤報的情形。浮水印方法當使用在大量文字內容時,整體的誤報情形就很多。
無論是哪一種方法,都是為了檢測內容是否使用 ChatGPT 來生成,這雖然對檢視者來說很不錯,可以快速發現,但對創作者就沒有那麼好。
圖片來源:OpenAI
已經有 30% 的 ChatGPT 用戶說,如果這個檢測系統推出,他們有可能就不會那麼頻繁使用這款工具。
這其實蠻正常的,我想現在應該沒有一個用戶,會希望自己使用 AI 生成內容,被業主、讀者發現,
內容創作者或其他工作者,會用 ChatGPT 無疑就是為了提升自己產生文字的效率,而目前大多數人還沒辦法接受 AI 生成內容,像是業主付了錢,會希望內容是對方全部自己產生、讀者也希望看到真人寫的內容。
而官方推出這樣一款工具,大喇喇的公開內容是不是 ChatGPT 產生,真的會造成大反彈。
這可能也是為什麼,就算浮水印已經開發出來,準確度也相當高,OpenAI 依舊還沒推出這工具的原因之一,在外媒 TechCrunch 報導中就寫到:
由於 “涉及的複雜性及其對 OpenAI 之外更廣泛生態系統的可能影響”,他們正在採取 “慎重的方法”。
我反而覺得現在網路上一些 AI 偵測工具還比較好,準確度雖然沒有 100%,但還是能參考,既不影響內容創作者,也能讓檢視者心裡有一個大概答案。
資料來源:ChatGPT