創鑫智慧7奈米製程AI雲端加速解決案 明年首季問市
創鑫智慧創辦人暨董事長兼執行長林永隆今(4)日出席竹科管理局記者會。記者李珣瑛/攝影
AI運算加速器IC設計公司創鑫智慧(Neuchips Corp.)董事長暨執行長林永隆博士今(4)日表示,創鑫智慧集結台灣產業鏈,所打造人工智慧雲端加速解決方案,已於台積電(2330)投產7奈米製程ASIC,規劃於今年第4季完整系統將展示全球最領先的節能能效,模組產品將於2023年首季上市。
創鑫智慧是由清華大學林永隆教授及一群IC設計工程師,於2019年創立於清大育成中心,2021年底進獲准遷入園區標準廠房,並於板橋設置台北辦公室。目前有員工38人,其中30人為研發人員,公司資本額10.46億元,主要投資人包括:緯創(3231)旗下的鼎創(5304)、凌陽創業投資、力晶科技、及台灣集富一號創業投資有限合夥(Jafco Taiwan I Venture Capital Limited Partnership)等。
林永隆表示,創鑫智慧甫獲EE Times 專文報導之RecAcce™-ASIC,產品代號為N3000的資料中心推薦系統用AI加速晶片。該晶片內含16萬個乘加器(MAC)及150MB記憶體(SRAM)。只需20Watt每秒便可進行兩千萬次DLRM推論,目前正以7奈米製程生產中,今年第4季完整系統將展示全球最領先的每推論(Inference)只需耗1微焦耳(microjoule)能效。
創鑫智慧深耕AI運算軟硬體技術,研發人員經畢業於主要大學研究所並有多年設計經驗。目前為止獲得8項美國專利與12項台灣專利,另有30項審查中,林永隆表示,公司持續招募系統軟體工程師、系統軟體應用工程師、技術專案經理、AI工程師、軟體工程師等。
會場並展示創鑫智慧在AI奧運會MLPerf Benchmarking中參加評比的RecAccel™-FPGA,也是RecAccel™ -ASIC的產品雛形,自2020年參與MLPerf至今不斷地完善軟硬體整合、效能提升。RecAccel™-ASIC的整體運算能力更為RecAccel™-FPGA的55倍。該產品搭載專利高能效的運算引擎及創新專利8位元浮點數格式,預計能大幅降低雲端資料中心在推薦系統上的能耗,協助資料中心取得最大化的能源效率,進而達到永續性的資料中心。
節能減碳成為全球關注的重要議題,雲端服務大廠資料中心也不例外,環境永續發展(Sustainability)已是不可逆的趨勢,多項報告顯示推薦推論 (Recommendation Inference) 已成為資料中心佔用最多資源的AI運算。而適用於訓練的一般用途圖形處理器(GPGPU)系統並不適於推論(Inference),因此須要專為推薦系統設計的硬體加速器。創鑫智慧極大化推薦系統的商務價值同時,更協助資料中心追求環境永續發展,建立台灣在AI資料中心及半導體設計的新典範。