7月9日消息,在近日的信息化百人會上,中國工程院院士、清華大學計算機系教授鄭緯民表示,國產AI芯片的核心問題在于生態(tài)系統(tǒng)不夠完善。
他認為,盡管國產AI芯片在硬件性能上取得了顯著進展,但由于軟件生態(tài)系統(tǒng)的不成熟,導致用戶使用體驗不佳。
鄭緯民強調,算力是大模型產業(yè)的主要開銷,占據了大模型訓練成本的70%以及推理成本的95%。
他指出,如果國產AI芯片生態(tài)系統(tǒng)得到改善,哪怕只能達到國外芯片60%的性能,用戶也會愿意使用。
他進一步闡釋了生態(tài)系統(tǒng)的重要性,認為如果一個原本在英偉達平臺上開發(fā)的人工智能軟件能夠輕松移植到國產系統(tǒng)上,這就意味著生態(tài)系統(tǒng)是良好的。
反之,如果移植過程困難重重,耗時長達一年或兩年,那么生態(tài)系統(tǒng)就是不成熟的。
為了改善國產AI芯片的生態(tài)系統(tǒng),鄭緯民提出了需要做好的“十個軟件”,包括編程框架、并行加速、通信庫、算子庫、AI編譯器、編程語言、調度器、內存分配系統(tǒng)、容錯系統(tǒng)和存儲系統(tǒng)。
他相信,只要這些方面得到優(yōu)化,即使硬件性能不是頂尖,用戶也會因為良好的使用體驗而選擇使用國產AI芯片。