「AI教父」再示警：人工智慧對人類威脅　可能比氣候變遷更急迫

人工智慧界教父級人物辛頓（Geoffrey Hinton）日前宣布從谷歌（Google）離職，警告若再毫無節制地發展人工智慧（AI），最終可能如核彈般對人類構成重大傷害。辛頓本月5日接受路透社專訪時再次強調危險近在眼前，稱AI對人類的威脅「可能比氣候變遷更迫切」。

路透社報導，有「AI教父」之稱的辛頓上月底離開谷歌，並表示離職原因是為了在不影響公司的狀況下暢所欲言提出AI科技發展的風險。辛頓對路透社表示，「我不是要教大家不必擔心氣候變遷的嚴重性，這當然也是一個巨大的風險，但我認為這（AI發展）最後可能會變得比氣候變遷更急迫」。

辛頓說，面對氣候變遷，大家其實都知道該怎麼做，「你就是要停止燃燒碳氫化合物。只要這麼做，最後一切還是會好起來的。但是面對AI，你不知道自己應該怎麼辦」。

微軟投資的OpenAI去年推出聊天機器人ChatGPT後，每月使用者人數在2個月內上衝到1億人，是史上成長最快的應用程式。隨著這份熱潮，大眾很快發現ChatGPT比起為人類服務，更可能被用於創造假資訊、搶奪人類工作。上月，特斯拉創辦人暨推特執行長馬斯克（Elon Musk）等科技高手連署呼籲，暫停開發更強大的AI語言模型。

其他簽署者還包含影像生成公司Stability AI執行長莫斯塔克（Emad Mostaque）、蘋果（Apple）共同創辦人沃茲尼亞克（Steve Wozniak）、谷歌母公司Alphabet旗下AI部門DeepMind的研究人員、AI先驅電腦科學家班吉歐（Yoshua Bengio）和羅素（Stuart Russell）等人。

辛頓沒有參與連署。雖然他也擔心AI可能成為對人類的威脅，不過，他不同意暫停研究，「這太不實際了。我是認為AI是關乎人類存亡風險的那一派，而且危險已經近到我們現下應該全心全力尋找解決方法」。

辛頓表示，對這個產業最了解的AI科技領袖，以及政治人物都必須參與討論，「這會影響到我們全部人，因此所有人都必須好好想一想」。

AI也比核彈更難監管

歐洲議會一個委員會回應了馬斯克等人的聯署信，上週通過了一些對於生成式AI的法案，要求OpenAI這類公司公開所有訓練生成式模型的素材來源。美國總統拜登也和Alphabet執行長皮采（Sundar Pichai）、OpenAI執行長奧特曼（Sam Altman）等AI公司領袖會談，討論如何提供透明度。

辛頓在1972年起開始研究人工神經網路（ANN）系統，1986年一篇他參與撰寫的論文「以誤差反向傳播進行特徵學習」（Learning representations by back-propagating errors）成為AI神經網路發展的骨幹，2012年開發出可辨別圖像的人工神經系統，又是一次飛越，2018年獲得圖靈獎。

日前他接受《紐約時報》專訪時表示，AI在大量數據學習過程中經常產出意外結果，也許總有一天會演變成一種自動化武器；而且演算法的發展不像核彈，其開發速度更快，並只存在於虛擬空間，很難加以監管。