外媒 Gizmodo 的母公司 G/O Media,最近被內部爆出執意發展由 Google Bard 搭配 OpenAI ChatGPT 所打造的 AI 寫作機器人。這個 AI 機器人的首發之作發生的眾多錯誤,乃至於不顧內部認為不該草率採用 AI 作者獨立撰寫文章執意而為的做法。在《華盛頓郵報》的專文揭露後,引發包括內部、其他媒體以及新聞查核組織 NewsGuard 的檢討聲浪。繼續閱讀外媒 Gizmodo AI 機器人文章接連出包,員工直指 AI 生成了更多問題(編輯觀點)報導內文。
外媒 Gizmodo AI 機器人文章接連出包,員工直指 AI 生成了更多問題(編輯觀點)
這一年來生成式 AI 的突然爆紅,從科技產業快速擴散到其他領域 – 無論目的是真正要加強功能效率或只是「人家有我也有」的概念,似乎已經變成了包括企業與個人需要標配的技能或技術。
儘管有著被取代的危機存在,但身為報導這類科技新聞的媒體也還是有著許多利用 AI 的積極嘗試 – 只是基本上到目前為止,結果都不盡如人意,全部指向這類技術根本還無法完全取代人工。
不過對於希望能發展出領先他人技術所產生的焦慮(或藏在背後的取巧或貪婪心態)萌芽後,似乎也開始有了不顧後果趕鴨子上架,讓理論上應該要有正面幫助的 AI 產生了更多問題的案例出現。
▲圖片來源:9to5Mac
外媒 Gizmodo 的母公司 G/O Media,最近被內部爆出執意發展由 Google Bard 搭配 OpenAI ChatGPT 所打造的 AI 寫作機器人 – 這個 AI 機器人的首發之作「A Chronological List of Star Wars Movies & TV Shows(《星際大戰》電影和電視節目的時序統整)」發生的眾多錯誤,乃至於不顧內部認為不該草率採用 AI 作者獨立撰寫文章執意而為的做法。
在《華盛頓郵報》的專文揭露後,引發包括內部、其他媒體以及新聞查核組織 NewsGuard 的檢討聲浪。
G/O Media 高層以發展這類技術是「使命」與「責任」為由,採取有點突襲的方式針對旗下的媒體包括本次爆出嚴重錯誤問題的 Gizmodo 科技網站,還有 Deadspin、The Root、Jezebel 與 The Onion 等媒體。開始透過「媒體名稱+Bot」的作者 ID 突襲式地發出文章(至於有多突襲,大致上就是公告之後約 10 分鐘文章就刊出了。
然而不只是 Gizmodo 的 AI 機器人出了大包,就連其他像是運動報導網站 Deadspin 就被指其 AI 生成的文章除了缺乏進行球隊價值評估的背景資訊外, 更沒有針對該文章後續的更正啟事說明出錯的地方在哪;Takeout Bot 對於全美快餐店銷量的報導也被指缺乏相關的銷售數字資訊 – 不能說是錯誤百出,但首發的錯誤率也算是高得驚人了吧。
人非聖賢孰能無過,其實機器「人」(目前)也是。
雖然我們對於現階段爆紅的 AI 技術曾抱有極高的期待。但單就目前已知的技術來講,這些 AI 不僅會出現錯誤,更可怕的問題其實是「它」還會嘗試潤飾說服其他人相信這些資訊。
有意思的是,即便內部有大量的聲音認為草率地直接讓 Bot 上線寫作,將導致公司信譽與聲譽的損害。但 G/O Media 的總監 Merrill Brown 在報導中還是喊話,認為自己有責任要盡其所能在科技進化的早期階段就開發人工智慧相關的技術。提到雖然會有錯誤發生,但保證會盡可能快速進行修正。
《華盛頓郵報》引述了不少內部的說法。包括掛著 Gizmodo 之名(雖然後面是「Bot」)所發出的文章,居然可以犯下如此基礎的錯誤,認為完全不值得信任;專家則是在報導中指出,貿然採用這類技術之後對於媒體可信度的衝擊,將隨著時間的推移更趨於嚴重。
內部員工也表示,如果你需要一篇文章,大可直接要求。提到自己團隊明明有知道會自己在做什麼的人(編按:還包含了審核的機制吧),認為這做法基本上就是在浪費大家的時間。還直指「(AI)是個在找麻煩的解決方案(a solution looking for a problem)。」
觀點:高層為何要獨排眾議推「純 AI」Bot?
其實這波 G/O Media 的新政策搖著的發展革新技術的大旗,即使是身為員工以及編輯的筆者自己,也覺得並不為過,而且也是必然的發展 – 反而可能還會有點羨慕大集團可以有資源發展自己的技術。
▲圖片來源:Pixabay
加上其實美國那邊的媒體,也早已有了不少實驗性質的文章放在網路上給大家看了。
所以個人相信國外的這些專業編輯,並不是擔心自己的工作會面臨挑戰,才會抵制甚至由工會在推特上發起拒看「Bot」作者的文章的活動。而是覺得,高層這種不經編輯台校稿就貿然刊登,結果還發生很低級的錯誤的案例。代表這技術背後的開發標準不僅低到不可思議,令人難以相信這些 Bot 之後能產出多專業的文章。
更對於主事者對不成熟技術可能導致的公司形象損害,卻有點不太在意的態度進行譴責。
然而即便如此,個人還是會很好奇為什麼 G/O Media 明知技術仍不成熟,卻還是執意讓旗下媒體的各種 Bot 全面上線的理由。
這波《華盛頓郵報》報導裡面有個員工所提到的說法,提到「None of our job descriptions include editing or reviewing AI-produced content」也就是認為自己的工作範圍並不包含編輯或檢視這些 AI 生成的內容。我覺得可能會是原因之一。
不得不說,以十分重視工作權益的美國來說。若工會是以這樣的態度看待與人類與「AI 作者」的合作的話。代表公司即便引進發展相關技術,也很難對於降低營運成本起到太大的幫助。
其實若嘗試以營運者的角度思考的話,不難想像 AI 的最大優勢很大程度是在「單次支付」就有無限用的特色 – 至少想像中會是這樣(有夢最美囉)。
即便 G/O Media 早早就對外宣稱並不會因為發展 AI 而刪減編輯人數,也不是想要躲在 AI 的背後。然而以該集團這麼眼高手低的發展這個技術的作法來猜測其思路,會無法接受發展這個技術還需要加諸額外的人事成本,應該也不太奇怪(吧)。
此外,資方是否會信守不砍人的約定先放一旁。光是看到目前這類大型語言模型,即便在其原生語言也就是英文語系的國家裡,明明就還是不太可用的現狀下卻還是想要硬推的態度。就讓人很難相信,他們口口聲聲說並非要躲在這些「Bot」背後的說法了。
就筆者個人觀點,這種疑似想要省成本又透過旗下媒體的 Bot 發低劣品質文章的做法,真的讓人想到前幾年曾一度非常流行的內容農場的發展方向 – AI 內容農場是不是聽起來很省成本?
若是問我 Gizmodo 母公司 G/O Media 到底走錯了哪步,居然搞到內部與各大媒體都踏伐的窘境。個人認為他們既然要發展開創性的技術的話。正確的做法應該是要跟能夠緊緊抓住讀者胃口的編輯好好協調,給予適當的報酬來訓練與輔助這種專業用途的生成式 AI 的機器學習。進而發展出能發揮出同等專業寫作能耐以及吸引人題材的 AI 機器人。
以這樣的發展來看。隨著 Bot 的成長,編輯也會因為危機意識彼此切磋而更精進自己,甚至可能與更強的 AI 合作撰寫更高水準的文章。這樣的正向發展,想必也能讓集團旗下的所有媒體平台都能受益。還有機會像是 OpenAI 這樣,能以自己語言模型來與其他企業發展更深度的商業合作。
不過目前看來,G/O Media 似乎完全沒有展現出朝向這樣發展的遠見。更因為對編輯/媒體專業的不尊重,極有可能導致花了大量資源卻還是走向失敗的未來。