NVIDIA 生成式 AI 超級電腦。資料照
輝達(NVIDIA)推出體積小巧的新款生成式AI超級電腦,透過軟體升級的方式,以更低價格提供更高效能。新款NVIDIA Jetson Orin Nano Super開發者套件僅手掌大小,鎖定商業AI開發人員與學生,價格也從499美元降至249美元。
Jetson Orin Nano Super與前代產品相比,夠將生成式AI的推論效能提高1.7倍、運算效能提高70%至67 INT8 TOPS,記憶體頻寬加大50%至每秒102 GB。無論是使用檢索增強生成技術來建立LLM聊天機器人、建立視覺AI代理,還是部署AI機器人,都是理想的解決方案。
這款開發者套件包含Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的理想平台。SoM搭載 NVIDIA Ampere 架構GPU及Tensor核心,以及6核心Arm CPU,能夠同時運行多個AI應用管道與進行高效能推論作業。它最多可支援四具攝影機,提供比過去版本更高的解析度與幀率。