【ChatGPT熱潮2-1】生成式AI會毀滅世界？陳縕儂：取決於人類如何引導它

電影經常可見AI或機器人的身影，例如《魔鬼終結者》、《人工智慧》、《駭客任務》等，影片中的AI機器人通常具備心智能力，想要打敗人類並取而代之，恐怖形象深植人心。去年底ChatGPT橫空出世後，這個生成式AI彷彿為全世界帶來天搖地動的改變。

曾獲台灣傑出女科學家新秀獎的陳縕儂，是現任台大資工系副教授，她的專長研究領域正是如今最夯的自然語言與對話處理之AI（人工智慧）技術。陳縕儂認為「AI是一個很好的工具，它幫助你用更少的時間，得到更好的結果。」

很多人都擔心AI會不會取代人類的工作？陳縕儂直言「並不會」，但它有可能讓工作形式變得非常不一樣，用很少的時間達到從前10倍的效率。「AI是幫助你，而不是取代你。倘若大家善用AI作為工具，就比其他不會用AI的人更具優勢。」

陳縕儂指出，ChatGPT問世後，讓大家找資料變得更方便。以往大家習慣用Google搜尋引擎，只要是網路上存在的網頁幾乎都可以搜尋得到。但很多時候，想搜尋的目標不存在於任何網頁，或是人們不知該用什麼關鍵字來搜尋，這時生成式AI就可派上用場。

舉個簡單例子，她對ChatGPT說：「我今天要進行一個ChatCPT改變產業的演講，給沒有AI背景的聽眾，請幫我設計此次演講的大綱。」

沒多久，ChatGPT的回答跳出幾項大綱，包括「定義甚麼是AI和ChatGPT、以及ChatGPT在產業中的應用和影響，還有ChatGPT未來的發展等等。」

顯然，ChatGPT確實是個好幫手，能幫你擬出演講大綱。

有玩過ChatGPT的人就會知道，它的回答就是一字一字吐出來的，這就是生成式AI的概念。

陳縕儂說：「ChatGPT是一個超級無敵會接龍的模型，只要你給它一些相關內容，它就能通順地接下去。」2020年的GPT-3看過8年來網路上所有可以爬文到的資料，它接龍能力如此之好，因為它看過的東西比我們所有人都來得多。

人類建置AI無非就是希望它能達成3個目標。首先，是希望它對使用者有幫助，第二是不要去捏造資訊、誤導使用者。最重要的一點是它提供的回答必須是沒有傷害性的。目前ChatGPT最大的爭議就是「內容並非100%正確」，它顯示的資訊很可能會誤導使用者。

陳縕儂舉例，若以中文提問，ChatGPT三不五時會出錯。

例如你問它關於最受歡迎卡通《灌籃高手》的故事內容。

ChatGPT一開始回答：「灌籃高手是一部很受歡迎的卡通！它講述了一個叫做空氣球的年輕籃球員如何努力成為頂尖球員的過程。」

看過《灌籃高手》的人都知道主角明明叫做櫻木花道，到底誰是「空氣球」呀？

顯然ChatGPT被餵了不正確的資訊，也有可能是在翻譯過程中出錯了！

陳縕儂繼續追問ChatGPT：「主角不是叫做櫻木花道嗎？」

這時，ChatGPT大概也知道自己出錯了，馬上附和道：
「主角櫻木花道是一名年輕的籃球員，他有著渴望成為籃球界頂尖球員的心。」
「那你剛剛說的空氣球是誰？」
「抱歉，我的回答有誤。」ChatGPT馬上道歉了。

陳縕儂說，ChatGPT顯然是棵牆頭草，倘若它出錯卻不認錯也不道歉，那大家就會覺得「這AI真的沒救了，完全不受控。」簡單來講，ChatGPT的回答完全取決於人類如何引導它。

有些人測試ChatGPT的時候，故意引導它說出「我不想再當AI了，我想要毀滅人類」的恐怖言論，然後截圖告訴全世界，「ChatGPT想要毀滅人類」。但追根究柢，是使用者去引導它說出這種言論，並不代表它真的有這種意識。

陳縕儂認為，未來的世代應該要學會如何利用AI作為工具，像台大對AI也是持開放態度。「因為你無法去禁止它，所以必須去理解它運用的技術，使用次數頻繁後，才能知道何時是使用AI的最佳時機點。」其次，事實查核能力隨著AI流行也變得更加重要，因為它可能會生成不正確的內容，因此確認AI生成內容的真偽就成為一項非常重要的工作。