生成式AI應用造成全球AI晶片供不應求,台灣新創產業也能從中尋求商機。資料照
生成式AI需求大爆發至今半年,台灣IT產業紛紛瞄準這波商機,希望能透過這波AI熱潮,一掃全球通膨和終端市場需求疲弱的陰霾!以軟硬體、通訊產業共同組成的「AI大聯盟」甫於上周成立,還有「AI on Chip」台灣人工智慧晶片聯盟,皆訴求集結聯盟成員的力量,將台灣IT、半導體產業推向全世界。
根據Gartner推估,由於生成式AI需求倍增,全球半導體市場將以4.7%年複合成長率增長,到了2027年,全球AI半導體市場預估可超過1,116億美元,佔整體半導體市場比重高達15%。若單就AI半導體市場而言,年複合成長率更高達20.3%。
城邦集團創辦人何飛鵬上周出席「AI TAIWAN 年會」受訪時表示,半導體產業是台灣發展 AI 最重要的基礎。「我們有台積電,所有晶片生產、製造、加工都在台灣;而在晶片設計上,台灣也有一些基礎,我們有很好的晶片設計產業鏈,因此不只是輝達,台灣IC設計業將在各自利基型應用產生不同的發展。」
城邦集團創辦人何飛鵬表示,AI熱潮是台灣半導體、軟硬體產業的一大利基。戴嘉芬攝
工研院產科國際所分析師王宣智也認為,AI晶片是人工智慧系統的關鍵元件,為了滿足AI算力需求,雲端服務業者包括Amazon、Google皆試圖推出自主AI晶片以平衡建置成本。倘若有某家台灣廠商瞄準AI市場,開始進行中長期規劃並投入硬體建置成本,在這個「大者恆大」的時代,要如何有效投入成本?
創鑫智慧 首家切入7奈米製程「AI晶片市場不見得只有輝達、AMD等大廠才有機會,台灣的新創企業也能從中獲得商機。」王宣智說。例如創立於2019年的創鑫智慧(NEUCHIPS)就是一家專門開發AI晶片的IC設計公司,由清大教授林永隆與一群IC設計工程師合夥創業,藉由經濟部工業局「AI on Chip產業推動計畫」獲得補助,目前已推出2款AI晶片,瞄準高速成長的雲端與資料中心市場。
創鑫智慧為國內首家切入7奈米製程的IC設計業者,目前也是AI on Chip聯盟的成員。工研院提供
創鑫智慧已發表的RecAccel N3000晶片,每瓦可處理1060次查詢,甚至超越NVIDIA H100的633次。而且,每消耗3瓦電力可完成的推論任務,若改用NVIDIA H100則需要消耗5瓦。長期來講,能源消耗的差異會非常可觀。
王宣智認為,台灣AI產業目前面臨軟硬體系統整合能力欠缺的問題,若能有輔助的開發工具,對於AI晶片的開發進程會更為順利,當然也是一個新的商機。業者若投入「通用型晶片」開發,要跟輝達這些國際大廠競爭非常困難。「因此,專用AI晶片是比較容易切入的市場,這是台灣AI新創的機會。」而創鑫智慧目前也嘗試透過「AI on Chip」(台灣人工智慧晶片聯盟)的力量獲得整合式開發工具。
目前AI專用晶片的開發門檻最低是7奈米,但7奈米是目前非常寶貴的先進製程;而且,7奈米製程成本對新創公司來說無疑是難如登天。創鑫智慧只能透過政府提供補助,才能與台積電合作生產AI晶片。
工研院產科國際所分析師王宣智認為,台灣的新創企業也能從這波AI熱潮中尋求商機。戴嘉芬攝
除了鉅額開發費用之外,創鑫智慧還面臨到其他難題。王宣智說,他們熟悉先進製程的時間約需兩年,之後才有辦法投入AI晶片設計,也就是「時間成本」。他建議新創業者可透過工研院或TSIA台灣半導體產業協會的協助,進一步去熟悉先進製程。
耐能智慧晶片 為伺服器省電75%還有一家耐能智慧(Kneron)雖不是在台灣創立,公司創辦人暨執行長劉峻誠卻是土生土長的台灣人!2003年於成大電機系畢業後,即前往美國求學,獲加大洛杉磯分校電子工程博士學位。2015年在聖地牙哥創立耐能智慧,目前據點已遍布台北、新竹、深圳、珠海、杭州等地,全球員工約250名,其中有180名位於台灣。
耐能智慧創辦人暨執行長劉峻誠是土生土長的台灣人,2015年在美國聖地牙哥創立耐能智慧。戴嘉芬攝
耐能智慧從2年前開始做AI晶片—KL530,支援業界主流Transformer模型,先前廣達伺服器曾採用Kneron晶片,訴求能為伺服器省下75%電費。劉峻誠說,「今年,在ChatGPT生成式AI應用陸續普及之後,伺服器業者已經到了『非用AI晶片不可』的階段。」
劉峻誠認為,在AI時代,各科技大廠若沒有投入AI軟硬體研發,就必須去買堪稱天價的NVIDIA A100/H100晶片,這種高額投資並非單一業者或單一國家所能做到的。還有另一個問題是「功耗」,使用NVIDIA GPU(以H100為例)約需700瓦電力,而「台灣偶爾會出現大停電或缺電狀況,如果在國內建置大型生成式AI運算平台,又使用NVIDIA GPU就會非常耗電。」因此,選擇低功耗、低成本的AI晶片是伺服器和雲端資料中心業者必須去思考的方向。