台積電12奈米助攻 耐能AI KL730晶片打造離線GPT。陳俐妏攝
台積電12奈米助攻,AI晶片商成功打造離線GPT!科技大咖鴻海,奇景光電紛紛投資的AI公司耐能智慧,推出搭載台積電12奈米製程、最新款 AI 晶片 KL730,提供每秒 0.35 - 4 tera 有效計算能力,驅動輕量級 GPT 解決方案的大規模應用,預計今年送樣。
耐能自2015年成立,以可重構的 NPU 架構獲得IEEE Darlington Award等諸多產業內認可,2021年耐能發佈了首款支援 Transformer 神經網路架構的邊緣 AI 晶片 KL530。而 Transformer 神經網路是所有 GPT模型的基礎。
使用耐能晶片的終端產品已進入多個產業,從 AIoT 到智慧駕駛安全及邊緣伺服器,包括豐田、廣達、中華電信、Panasonic、韓華等,先前也與提供鴻海MIH相關方案。今天推出重量級AI新晶片,策略聯盟和供應鏈合作夥伴包括鴻海、台達電、雲達、華邦、旺宏等均有與會。
耐能創辦人兼執行長劉峻誠表示,2017年推出第一顆晶片以來,耐能出貨量已逾1億顆,耐能四大產品線包括邊緣伺服器、車用、安控和AI。運行 AI 功能需要專用 AI 晶片,其體系架構與過往晶片完全不同。
KL730 將會是邊緣 AI 的革新者。KL730 晶片提供每秒 0.35 - 4 tera 有效計算能力,對比過往耐能晶片提升了 3 至 4 倍,且比主要產業同等產品提高了 150% 至 200%,KL730成功擴展了支援最先進的輕量級 GPT 大型語言模型(如 nanoGPT)的能力。成功解決了目前人工智慧的廣泛瓶頸之一,普遍的低效能硬體導致的系統高成本。