以算子為原子指令集的AI計算處理器愛芯通元NPU采用多線程異構多核設計,實現算子、網絡微結構、數據流和內存訪問優化,高效支持混合精度算法設計,natively支持Transformer網絡結構,為大模型在邊緣側、端側的應用提供良好的基礎。
經過多代產品的量產和客戶反?。⒔岷閑幸登把丶際醯姆⒄骨魘浦攏就ㄔ旌暇?/font>NPU支持豐富的算子種類,支持客戶使用靈活的混合計算模式,優化高效的調度機制,高效率支持包括CNN網絡、Transformer網絡和BEV在內的各種算法模型。愛芯通元NPU的工具鏈——Pulsar2功能完善、易于使用,支持主流深度學習訓練框架的模型部署,支持PTQ、QAT兩種不同的量化操作,內置多種量化算法,滿足各種場景的量化調優功能。