有媒體爆料，其實在去年的時候，堪稱有著相當深淵源的 OpenAI 與 Anthropic 之間，發生了參雜了惡作劇、警告與幽默成分的事件。繼續閱讀報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的末日危機報導內文。
報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的末日危機
人們對於負責任 AI ／人工智慧安全性的危機感，其實早在去年甚至更早之前，就已經有許多討論。這些早期的警覺心，甚至還造成了目前正在浪頭上的生成式 AI 的代表性品牌 OpenAI 的前成員，在 2021 年就選擇因如何更負責任地開發 AI 技術而分道揚鑣開立新的公司 Anthropic。
有意思的是，在最近 OpenAI 因董事會開除 Sam Altman（好啦我知道回鍋了）的事件延燒之下，除了傳出董事會曾尋求 Anthropic 執行長 Dario Amodei 接任甚至將兩間公司合併的消息（顯然是沒成功）。甚至還有媒體爆料，其實在去年的時候，兩家堪稱有著相當深淵源的公司裡，還發生了參雜了惡作劇、警告與幽默成分的事件。
根據外媒報導，Anthropic 的一名員工在去年時，曾將上千枚組合成類似 OpenAI Logo 形狀的迴紋針，寄到了 OpenAI 位於舊金山的公司。雖然直覺看，會覺得這好像是個還蠻不錯（且有心）的禮物。不過就報導中的解讀，其實以迴紋針（Paper Clips）在人工智慧的領域來說，是可以聯想到著名的「paper clip maximizer」一種類似於黑鏡的科技走鐘的發展情境腳本。
所以，這被判斷為一種惡作劇警告的行為。
「迴紋針最大化」這樣的假設，據稱是出自於牛津大學哲學家 Nick Bostrom 對於 AI 人工智慧發展的風險所做出的實驗假設。其所假設的狀況，就是當你命令 AI 去盡可能大量製造迴紋針時，其可能會因為極致遵從指令，導致像是現實資源如金屬、勞力、能源，還有不斷改進製造方式而變得越來越強大到難以想像地步，以致於反過來威脅人類生存的情況。
（BTW，上面的解釋我是問 AI 得來的答案）
在 Bostrom 的結論裡，就有提到我們應該要對於向超級智慧所下的願望感到戒慎恐懼，因為它很可能會成真（編按：顯然這裡講的是會「意想不到」的那種成真法）。因此 Anthropic 的員工會因為認同自己公司的理念而想要進一步警示當時已經有了發展突破的 OpenAI，好像也不是太難理解？
最近這一波宛如宮鬥一般的 OpenAI 人事劇變的新聞。據稱也與 AI 發展安全性的政策做法有很大的關聯。其實這樣的議題在去年生成式 AI 突然大熱門的潮流中也曾引發需要急踩煞車的討論。只能說，隨著 AI 在軟硬體方面都更高度發展之後，類似的話題被提到的頻率很可能也將越來越高。只希望，各方的警告將可以讓人類能避開所有黑鏡等科技大走鐘劇情中的發展…（希望）
引用來源｜
