隨著 AI 發展越來越快,很多人都在擔心未來有沒有可能演變成 AI 有意識,甚至是反抗人類,最近 GPT-4 就被爆出越來越懶惰的消息,不願意努力回答用戶的問題,沒想到 OpenAI 也公開承認確實有這現象,他們也發現到 GPT-4 變懶,目前正在想辦法解決,不得不說讓人有一點雞皮疙瘩,該不會是 AI 已經開始有意識了?
AI 也會變懶惰?OpenAI 承認 GPT-4 現在變得更懶,目前還在想辦法解決
隨著先前的 OpenAI 開發者大會結束後,陸續就有用戶反映說 GPT-4 速度變慢、變懶得狀況,像是 @niieani 分享的這一個,他叫 GPT-4 將 JavaScript 程式碼轉成 TypeScript,GPT-4 只有完成函數的基本框架,內容卻忽略,並告訴他「具體的內容應該放在這裡」:
為此 OpenAI 官方 X(前身 Twitter)終於正式回應這個狀況,公開承認 GPT-4 確實變懶。OpenAI 提到「我們已經聽到所有關於 GPT-4 變懶惰的回饋,自 11 月 11 日起,我們尚未對模型進行更新,這當然不是故意,模型的表現有時難以預測,我們正在積極尋找解決辦法」:
https://twitter.com/ChatGPTapp/status/1732979491071549792
看到 OpenAI 大方承認後,很多網友也錯愕,沒想到是真的,一位 @OmgImAlexis 寫到「我實在不太理解這件事。當模型只是一個文件的時候,它怎麼可能 “變得懶惰”?重複使用同一文件並不會對文件本身造成任何變化。」這該不會說 GPT-4 有意識了吧?:
為了避免大家誤會,OpenAI 在下方也補充解釋說:「為了說明清楚,我們並不是認為自 11 月 11 日起,模型自己進行了某些改變。實際上,模型行為的變化可能相當細微,可能只有特定的提示出現了效能下降,且客戶與員工可能需要較長時間來察覺並解決這些問題。」:
有網友推測是不是溫度(Temperature)設置所造成?
我是覺得應該不太可能,如果單純是溫度問題,OpenAI 應該很快就能解決,況且溫度是影響創造力,而不是變懶惰,溫度設定越小,GPT-4 回覆雖然會變得保守,但不至於省略掉重點,反而更會保留重點。而溫度設定越高,GPT-4 回覆更有創造性,更不可能發生懶惰的情形。
還有人進行有趣的實驗,用給小費的方式來測試 ChatGPT 會不會更努力回答,結果沒想到真的有效,當說出要給 200 美金小費時,給出的回答比平均值長了 11%,給 20 美金小費則是長 6%,完全不給小費的話,長度反而是比還低 2%:
https://twitter.com/voooooogel/status/1730726744314069190
無論如何,如果你也覺得 GPT-4 不如以往這麼好用,那是正常的,現在 OpenAI 正在修復,所以不要感到意外。