近日,由電子發燒友網和elexcon2024深圳國際電子展暨嵌入式展、半導體展聯合舉辦的2024第八屆人工智能大會順利舉行,大會表彰了在行業中表現卓越的上游元器件供應廠商,公布了“2024年度市場卓越表現獎”獲獎名單。愛芯元智憑借著AI芯片矩陣產品、解決方案以及AI模型等一系列落地成果榮獲“年度AI創新產品獎”。再次展現出愛芯元智的技術創新與客戶服務上的領先實力。
當前,電子產業發展正經歷前所未有的挑戰,一方面國際環境復雜,市場競爭加劇,導致產業加速內卷,另一方面,新技術不斷更新迭代,又給企業帶來全新的機遇,“危與機”并存之下,產業上下游仍在砥礪前行,持續創新,這也更加彰顯中國半導體企業的韌性。
愛芯元智作為國內AI芯片領域的佼佼者,深入布局端側應用,以原生支持Transformer的網絡模型結構的AI芯片,全面支持端側大模型部署實踐。對此,愛芯元智AI推薦引擎總監唐琦在會上進行了主題分享,唐琦表示,大模型正在從云側向端側遷移部署,端側大模型具有隱私性強、離線部署方便、可定制等優勢。這也帶動了多模態大模型呈現百花齊放之勢。但也應看到,目前端側大模型還存在著選擇性少、成本高、功耗大,還未形成應用落地的閉環等挑戰,為此愛芯元智推出了一系列方案來解決這些問題,包括已經批量生產的NPU、簡單易用的軟件棧等。
唐琦透露,愛芯元智今年已經啟動研發最新的Neutron V6p NPU,這是一顆8位精度每秒運算次數可達128Tops的AI芯片,可以適配多種大模型,幫助實現以文搜圖、一鍵消除、目標采集、單目深度估計等多種AI功能。同時,全新的基于 AX630C的開發板-愛芯派2也已推出,它能夠方便更多社區開發者來端側部署大模型。
今天,AI已經爆發出巨大的應用前景,多功能、多模態的大模型正在顛覆著社會的生產生活,也對算力的要求達到了前所未有的高度,秉持著“普惠AI造就美好生活”的使命,愛芯元智將持續挖掘芯片的AI潛力,讓AI真正走入千行百業,助力推動全社會的智能化進程。