更新／阿特曼被炒疑因AGI發展突破　OpenAI員工密函示警恐危及人類

美國OpenAI公司的「宮鬥劇」22日暫時落幕，執行長阿特曼17日遭董事會無預警開除，經過一番戲劇化轉折後又回任，董事會也大幅改組。此時卻傳出，阿特曼遭開除是因為OpenAI內部研究人員致函董事會，示警公司的AI研發有突破性進展，可能對人類構成危害。

路透社引述兩名知情人士指出，一度暫代執行長職位的OpenAI技術長穆拉提（Mira Murati）22日向員工表示，阿特曼（Sam Altman）被開除的導火線之一，是公司內部研究人員致函當時的董事會，表示OpenAI的「通用人工智慧」AGI研究計畫「Q星」（Q*）取得了突破性進展。

知情人士指，這封信成為董事會對阿特曼長期累積的種種不滿之一，也成為開除他的導火線。

這封信此前並未公開。阿特曼遭開除後，OpenAI約770名員工有700多人都簽署聯名信，指責董事會未公開將阿特曼解職的理由，並揚言要出走微軟。

知情人士：OpenAI高層揭密函存在

路透社發布報導後，OpenAI一名發言人表示，穆拉提已向員工透露媒體將做出報導，但她未證實報導的真確性。路透社表示，該社記者沒有看過這封研究人員寫給前董事會的信，發出信件的研究人員也不願回應。

研發生成式人工智慧系統ChatGPT的OpenAI公司，將AGI定義為比人類更聰明的AI系統。知情人士指，由於OpenAI建置了龐大的電腦運算能力，讓Q*計畫研發出的新模型有能力解決特定的數學問題，成為AGI研究的一大突破。

雖然Q*的新模型目前只計算中小學程度的數學問題，但接受測驗時都取得優異成績，讓研究人員對這套新模型未來成功的可能性相當樂觀。然而部分研究員憂心Q*繼續發展下去，將建構出超越人類智慧的電腦，因此致函董事會。

由於AGI不必使用者提示就能完成更複雜的任務。在此之前，已經有人擔憂AGI工具可能自行接管國防系統、產生政治文宣或自行生產武器。

Q*模型很會算數學　AGI研發重大進展

研究人員為。數學是生成式AI發展的前線。目前的生成式AI很擅長寫作及翻譯，因為它可透過統計預測下一個字，對同一個問題會做出各種不同的回答。但數學題目只有一個標準答案，生成式AI要算對數學題目，必須擁有更強大的推理能力，與人類智慧相似。

AI科學家認為，生成式AI若具備這種能力，可應用於新的科學研究。

不同於計算機只能做有限的運算，AGI可以自動生成、學習、理解。知情人士指出，OpenAI研究人員在給前董事會的信中，對AI的高超能力與潛力提出警告，不過知情人士並未說明研究人員在信中提出哪些確切的憂慮之處。

信中也對OpenAI內部「AI科學家」團隊的研究成果提出警訊。先前已有多個來源證實這個團隊的存在，它由先前的Code Gen與Math Gen兩個團隊合併，任務是探究如何將現有的AI模型最佳化，改善其推理能力，讓它們最終能進行科學研究工作。

電腦科學界長久以來一直在討論由超級智慧機器可能帶來的危險，例如它們可能決定摧毀人類，以符合它們自己的利益。

阿特曼在APEC暗示AGI有進展　隔天被炒

在此背景之下，阿特曼率領OpenAI積極研究，使ChatGPT成為史上成長速度最快的應用程式之一，也吸引微軟投入大量資金與運算資源，也使得AGI的誕生更加接近。

阿特曼不僅於本月6日在OpenAI首場開發者大會上，介紹了一系列ChatGPT的新產品，16日還在舊金山亞太經濟合作組織（APEC）峰會一場論壇中暗示，他相信AGI已近在眼前。

當時他說：「OpenAI成立以來，我有四次機會，最近一次機會就發生在過去幾週內。我們得以揭開無知的面紗，一窺發明成果的前沿。能夠做到這一點，是我在專業上的畢生榮耀。」

隔天，阿特曼就被前董事會以「溝通不坦誠」為由解僱，揭開OpenAI四天「宮鬥劇」的序幕。

發稿時間：08:24
更新時間：10:58（更新AGI進展、OpenAI「AI科學家」團隊相關內容）