RISC-V+AI將成為撼動(dòng)CUDA生態(tài)的一股力量
在萬(wàn)物智聯(lián)的時(shí)代,RISC-V與人工智能(AI)的結(jié)合正在為未來的計(jì)算領(lǐng)域開辟新的道路。盡管近年來中國(guó)的AI芯片在性能上取得了顯著進(jìn)步,但與國(guó)際領(lǐng)先的英偉達(dá)相比,國(guó)內(nèi)在軟件生態(tài)方面仍存在較大差距。英偉達(dá)的CUDA生態(tài)自2006年推出以來,已經(jīng)發(fā)展出超過450萬(wàn)的開發(fā)者,這一龐大的生態(tài)系統(tǒng)成為其在AI領(lǐng)域占據(jù)主導(dǎo)地位的關(guān)鍵因素。而RISC-V+AI的結(jié)合,有望成為撼動(dòng)CUDA生態(tài)的一股力量。
北京大學(xué)講席教授兼RISC-V國(guó)際基金會(huì)人工智能與機(jī)器學(xué)習(xí)專委會(huì)主席謝濤教授,在第四屆滴水湖中國(guó)RISC-V產(chǎn)業(yè)論壇上受邀探討了這一前沿主題。
國(guó)外AI算力軟件生態(tài)壁壘高筑
面對(duì)國(guó)外AI算力軟件生態(tài)壁壘高筑的這一挑戰(zhàn),許多國(guó)內(nèi)AI芯片公司選擇兼容CUDA生態(tài),以迅速獲取市場(chǎng)份額。然而,這種策略盡管可以在短期內(nèi)奏效,但從長(zhǎng)遠(yuǎn)來看,依然存在受制于人的風(fēng)險(xiǎn)。CUDA的每一次更新,都會(huì)推出優(yōu)化的新API,這些API專為英偉達(dá)的新一代芯片設(shè)計(jì),使得其它芯片公司難以追趕。此外,依賴開源編譯器來規(guī)避法律訴訟的策略,也并非長(zhǎng)久之計(jì)。如果有一天開源編譯器無法支持非英偉達(dá)的AI芯片,將對(duì)這些企業(yè)產(chǎn)生重大沖擊。
與之相對(duì)的是,另一部分AI芯片公司選擇自定義編程語(yǔ)言,這種方法盡管增強(qiáng)了自主性,但也帶來了巨大的成本和技術(shù)壁壘。這些公司需要維護(hù)完整的軟件工程團(tuán)隊(duì),并投入數(shù)十年的研發(fā)資源。然而,由于人才稀缺、力量分散,這種策略難以形成與CUDA抗衡的合力。
在這種背景下,RISC-V作為一種開源的CPU指令集架構(gòu),逐漸受到關(guān)注。RISC-V的開放性和靈活性使得全球的開發(fā)者能夠共同構(gòu)建一個(gè)不受單一企業(yè)控制的生態(tài)系統(tǒng),這一點(diǎn)類似于Android對(duì)iOS生態(tài)的沖擊。RISC-V不僅在AI領(lǐng)域具有巨大潛力,還能夠通過其可擴(kuò)展性和定制化,滿足AI工作負(fù)載快速變化的需求。
RISC-V+AI的兩種主要模式中,緊耦合模式適用于低功耗領(lǐng)域,在這種模式下,RISC-V架構(gòu)將AI計(jì)算單元集成在CPU內(nèi)部,實(shí)現(xiàn)資源共享;而松耦合模式則適用于大算力領(lǐng)域,通過外掛協(xié)處理器的方式來執(zhí)行AI任務(wù),提供更強(qiáng)大的計(jì)算能力。
基于RISC-V構(gòu)建AI算力的優(yōu)勢(shì)在于其開放性、可擴(kuò)展性以及高效的功耗管理。RISC-V架構(gòu)允許設(shè)計(jì)者根據(jù)具體需求添加自定義指令,從而提升AI計(jì)算的性能和效率。此外,RISC-V的簡(jiǎn)潔設(shè)計(jì)和定制化擴(kuò)展能夠有效減少數(shù)據(jù)傳輸?shù)却龝r(shí)間,提高整體計(jì)算效率。同時(shí),RISC-V生態(tài)系統(tǒng)的多樣性和全球開發(fā)者的廣泛參與,為其在AI領(lǐng)域的發(fā)展提供了強(qiáng)大的推動(dòng)力。
然而,盡管RISC-V在技術(shù)上具備諸多優(yōu)勢(shì),但其生態(tài)系統(tǒng)在發(fā)展過程中也面臨挑戰(zhàn)。當(dāng)前,國(guó)內(nèi)外企業(yè)在RISC-V+AI領(lǐng)域的技術(shù)方案各不相同,生態(tài)系統(tǒng)高度碎片化,缺乏統(tǒng)一的標(biāo)準(zhǔn)和協(xié)作。此外,與國(guó)際巨頭相比,我國(guó)在這一領(lǐng)域的資源投入嚴(yán)重不足,組織統(tǒng)籌力度不夠,產(chǎn)學(xué)研之間的協(xié)同也不夠緊密。
謝濤表示,為應(yīng)對(duì)這些挑戰(zhàn),未來的整體思路應(yīng)是自下而上推進(jìn)技術(shù)標(biāo)準(zhǔn)和開源系統(tǒng)軟件棧的建設(shè),以形成“根技術(shù)開源”與“葉技術(shù)競(jìng)爭(zhēng)”的生態(tài)布局。同時(shí),應(yīng)聚焦邊緣計(jì)算與終端側(cè)的應(yīng)用場(chǎng)景,推動(dòng)軟件生態(tài)的發(fā)展,并通過工具創(chuàng)新,依托RISC-V軟硬件生態(tài),積極參與國(guó)際開源工具的開發(fā)。
在國(guó)際舞臺(tái)上,通過推動(dòng)RISC-V國(guó)際標(biāo)準(zhǔn)的制定,依托上游國(guó)際開源社區(qū),中國(guó)企業(yè)可以迅速布局新時(shí)代的新市場(chǎng),特別是在智能終端和AI PC等領(lǐng)域。此外,共建國(guó)際開源軟件生態(tài),探索和制定新的標(biāo)準(zhǔn),如Triton和SYCL,這些新興技術(shù)將為RISC-V生態(tài)的發(fā)展提供堅(jiān)實(shí)的基礎(chǔ)。
Triton和SYCL作為替代CUDA的潛在解決方案,展示了RISC-V在全球范圍內(nèi)構(gòu)建AI系統(tǒng)的潛力。Triton作為硬件無關(guān)的中間層表示,允許各硬件廠商基于Triton進(jìn)行硬件相關(guān)的算子優(yōu)化,實(shí)現(xiàn)對(duì)上層AI框架的高效支持。SYCL則作為開放架構(gòu)的代表,通過社區(qū)驅(qū)動(dòng)的發(fā)展模式,避免了授權(quán)問題,使得技術(shù)發(fā)展不再被少數(shù)公司壟斷。
RACE將團(tuán)結(jié)RISC-V生態(tài)伙伴,以“粗煙筒式”和GPGPU齊頭并進(jìn)
在未來的發(fā)展中,RISC-V+AI的生態(tài)系統(tǒng)將通過推動(dòng)國(guó)際標(biāo)準(zhǔn)和共建開源社區(qū)的雙重手段,逐步壯大并與現(xiàn)有的AI計(jì)算生態(tài)形成有力的競(jìng)爭(zhēng)。在這一過程中,中國(guó)將發(fā)揮關(guān)鍵作用,通過共建、共創(chuàng),推動(dòng)RISC-V在全球AI計(jì)算領(lǐng)域的廣泛應(yīng)用,助力全球科技的可持續(xù)發(fā)展。
謝濤表示,RISC-V+AI算力生態(tài)委員會(huì)(RISC-V+AI Computility Ecosystem, RACE)正在通過執(zhí)行委員會(huì)、秘書處和產(chǎn)業(yè)咨詢委員會(huì)共同推進(jìn)其工作。秘書處(開芯院)由邵恩和高明晉擔(dān)任正、副秘書長(zhǎng),負(fù)責(zé)協(xié)助執(zhí)行委員會(huì)的落實(shí)施工。產(chǎn)業(yè)咨詢委員會(huì)則在孟建熠的領(lǐng)導(dǎo)下,為決策提供建議。RACE的組織架構(gòu)還包括專項(xiàng)工作組和項(xiàng)目協(xié)調(diào)組,兩者協(xié)同工作推動(dòng)各項(xiàng)任務(wù)的開展。目前,RACE的工作組已有28家企業(yè)和16家高校科研院所參與,涵蓋了Matrix、Tensor、GPGPU、存算一體、系統(tǒng)軟件棧等領(lǐng)域。RACE委員會(huì)歡迎更多機(jī)構(gòu)的加入,共同建設(shè)RISC-V+AI生態(tài)。
而由ASE、PLCT、算能公司聯(lián)合發(fā)起的“甲辰計(jì)劃”,旨在到2036年(丙辰年)之前,基于RISC-V構(gòu)建從數(shù)據(jù)中心到桌面辦公、從移動(dòng)穿戴到智能物聯(lián)網(wǎng)全信息產(chǎn)業(yè)覆蓋的開放標(biāo)準(zhǔn)體系及開源系統(tǒng)軟件棧,使RISC-V軟硬件生態(tài)的成熟度達(dá)到或超過其他主流架構(gòu)。該計(jì)劃的目標(biāo)包括:聯(lián)合100家以上處理器及方案廠商、500家以上軟件企業(yè),在18個(gè)以上關(guān)鍵行業(yè)領(lǐng)域完成RISC-V的適配與優(yōu)化,合作完成超過1000款重要行業(yè)及商業(yè)軟件的移植與部署;圍繞SG2380、香山等高性能RISC-V處理器及IP,推動(dòng)基于RISC-V的行業(yè)解決方案在智算加速、邊緣計(jì)算、存儲(chǔ)、機(jī)器人、工業(yè)仿真、醫(yī)療輔助等領(lǐng)域的商業(yè)落地;建立RISC-V人才識(shí)別體系,連接超過1萬(wàn)名具備RISC-V硬件設(shè)計(jì)、軟件開發(fā)、社區(qū)運(yùn)營(yíng)、教育培訓(xùn)專業(yè)人才,實(shí)現(xiàn)RISC-V人才領(lǐng)域的互認(rèn)合作。
這條RISC-V+AI之路,不僅為國(guó)內(nèi)科技企業(yè)帶來了新的發(fā)展機(jī)遇,也為全球技術(shù)合作開辟了新的空間。在萬(wàn)物智聯(lián)的時(shí)代,RISC-V將以其獨(dú)特的優(yōu)勢(shì),成為引領(lǐng)未來AI計(jì)算的核心力量。
謝濤表示,“RACE也將團(tuán)結(jié)企業(yè)一起探索、探討,也要定出Triton,比CUDA要更高層的生態(tài)。英偉達(dá)是GPGPU是Triton主要支撐的,所以也給我們一個(gè)機(jī)會(huì)、讓RISC-V能夠長(zhǎng)出一塊,團(tuán)結(jié)大家一起‘粗煙囪式’的能夠和GPGPU的齊頭并進(jìn)?!?