資安公司 Check Point 研究團隊在先前揭露了，駭客嘗試透過目前實測對於撰寫程式與文章內容都有相當幫助的 ChatGPT 聊天機器人，被用於釣魚郵件與惡意程式碼等濫用狀況。對此，OpenAI 雖然後續有祭出了相關的機制防堵。不過 Check Point 研究團隊現在發現，駭客居然很快就找到了繞過機制的破解方式。繼續閱讀 ChatGPT 防堵機制爆被駭客輕易繞過，依然能被當作釣魚信件與惡意程式用途報導內文。
▲圖片來源：Microsoft
ChatGPT 防堵機制爆被駭客輕易繞過，依然能被當作釣魚信件與惡意程式用途
雖然隨著各方的各種詠唱與測試之下，OpenAI 的 ChatGPT 聊天機器人終究還是在歷經了「真 · 社會化」的過程中，成為了十分有禮貌與政治正確的版本 – 這是目前小編的感覺，不知道大家有沒有試出它的潛在性格了呢？只能說，對於嘗試將 ChatGPT 做為惡意用途的駭客而言。突破官方所設下的管制過濾機制，也成為了他們近期熱烈探討的話題之一。
▲圖片來源：Check Point
資安公司 Check Point 研究團隊在先前揭露了，駭客嘗試透過目前實測對於撰寫程式與文章內容都有相當幫助的 ChatGPT 聊天機器人，被用於釣魚郵件與惡意程式碼等濫用狀況。對此，OpenAI 雖然後續有祭出了相關的機制防堵。
不過 Check Point 研究團隊現在發現，駭客居然很快就找到了繞過機制的破解方式，甚至還在相關論壇大打廣告，以每 100 次查詢 5.5 美元的價格兜售繞過機制進行聊天機器人對話的服務 – 前 20 次還免費…
目前已知的破解方式倒是讓人對於 OpenAI 的系統有蠻大的質疑的。因為駭客是透過 Telegram 機器人來存取 ChatGPT API，甚至也有透過基本腳本就能直接繞過 OpenAI API 防止濫用機制的方式。
▲圖片來源：Check Point
先前 Check Point 研究團隊就揭露了，駭客直接利用 ChatGPT 來執行「整套」網路釣魚流程，包括撰寫釣魚 Email 信件，生成惡意程式碼等用途。還有駭客想到透過 ChatGPT 來最佳化改進 2019 年的 Infostealer 木馬程式產生工具。
只能說，目前人工智慧雖然看起來多半用於創意用途，也有不少引發了版權相關的侵權疑慮。不過工具真的是看人用。隨著 ChatGPT、Microsoft New Bing、Google Bard 等 AI 語言模型甚至是其他方面的 AI 技術越來越進步，被拿來做為惡意用途的可能性也大幅增加。
而若真像 Google 所說的機器學習發展半年的進步幅度就已經相當的大的話。如果被濫用甚至被拿來當成惡意破解之用，接下來就很有可能演變成非常重大的事件。必須說，這樣的情況將會非常需要關注且積極提早應對才是。
