當(dāng)前位置:首頁 > 廠商動態(tài) > Imagination
[導(dǎo)讀]作為奕斯偉計算的重要合作伙伴,Imagination 公司受邀出席了9月10日在北京亦莊舉辦的“2024奕斯偉計算開發(fā)者伙伴大會”,來自Imagination英國總部的專家在大會上發(fā)表了主題為《用RISC-V CPU + PowerVR GPU迎接邊緣生成式AI的到來》的演講。

作為奕斯偉計算的重要合作伙伴,Imagination 公司受邀出席了9月10日在北京亦莊舉辦的“2024奕斯偉計算開發(fā)者伙伴大會”,來自Imagination英國總部的專家在大會上發(fā)表了主題為《用RISC-V CPU + PowerVR GPU迎接邊緣生成式AI的到來》的演講。

在人工智能(AI)浪潮中成立的奕斯偉計算一直致力于研究和開發(fā)創(chuàng)新的計算架構(gòu),并通過與Imagination這樣的全球領(lǐng)先處理器技術(shù)和IP產(chǎn)品提供商合作,針對多模態(tài)AI大模型技術(shù)帶動多元化人工智能應(yīng)用加速涌現(xiàn)的新需求,開發(fā)了面向邊緣智能和AI PC等多種應(yīng)用場景的EIC77系列芯片。這些AI SoC芯片利用了RISC-V計算架構(gòu)開放、靈活、精簡、可拓展的優(yōu)勢,結(jié)合了該公司自研的NPU以及Imagination的GPU,成為了全球首批可商用的基于RISC-V的高性能、低功耗的邊緣側(cè)、端側(cè)AI推理芯片。

大會中,Imagination公司專家介紹了與奕斯偉計算的合作成果:作為奕斯偉計算向全球發(fā)布的EIC77 系列邊緣智能SoC中的一款產(chǎn)品,全新的EIC7700X 器件基于 12nm 工藝,采用了 Imagination 的 IMG A 系列 GPU IP;該 GPU 擁有 128 寬 ALU 單元和專用 AI 處理通道,可提供 0.25 TFLOPS、1 TOPS 和 8 Gpixels 的性能。EIC7700X也搭載了奕斯偉自研的NPU單元,可提供19.95 TOPS INT8、9.975 TOPS INT16、 9.975 FTOPS FP16 算力。EIC7700X為邊緣智能提供了強(qiáng)勁的計算和圖形處理能力,可支持大語言模型,其在深度神經(jīng)網(wǎng)絡(luò)(DNN)推理上的算力高達(dá)13.3TOPS INT8,可滿足分類、檢測、分割、追蹤等各類需求。

談到邊緣計算的應(yīng)用多元化與架構(gòu)創(chuàng)新,Imagination公司專家表示:首先,我們需要確保邊緣計算架構(gòu)能夠進(jìn)行有效的、可持續(xù)的擴(kuò)展,在系統(tǒng)資源、電能和帶寬等資源稀缺,以及不同應(yīng)用場景對資源需求各不相同的情況下,這一點在邊緣計算領(lǐng)域更為重要。因此,靈活通用的異構(gòu)計算架構(gòu)才能確保我們的邊緣智能解決方案不會因為碎片化而無法實現(xiàn),這要求我們擁有的模型也將是通用的、可持續(xù)的,同時才能保障邊緣系統(tǒng)中內(nèi)計算核的數(shù)量可以合理地縮減以滿足功耗要求。

為了確保足夠的通用性以運(yùn)行目前的工作負(fù)載和未來的工作負(fù)載,就需要對邊緣智能SoC中計劃采用的處理器性能和需求進(jìn)行充分的評估,大家往往首先看的是兩個潛在的選擇。一個選擇可以是 NPU或者在Imagination的產(chǎn)品組合中被稱為AI,這類硬件的每瓦最高性能非常出色,但為了達(dá)到更高的性能,使用NPU就需要犧牲一些靈活性。第二種選擇是 GPU,其優(yōu)點是可以提供可編程的、可擴(kuò)展的硬件加速能力,并可根據(jù)應(yīng)用方向上的需求來選擇相應(yīng)的GPU去支持所需渲染和計算能力。

雖然這兩種器件類型各有優(yōu)勢,邊緣智能最終需要的是能夠完美適用于應(yīng)用的、在高性能和可擴(kuò)展性,定制化和通用化中做出最明智決策的系列解決方案。從我們已有的實踐和Richard Sutton的《苦澀的教訓(xùn)》中大家可以看到,人們在邊緣人工智能中希望能夠利用通用的硬件和軟件解決方案,盡量避免使用特定的解決方案,因為人工智能一直在發(fā)展,所有的解決方案都要確保與時俱進(jìn)。

在確定了要用更加通用的硬件和軟件來推動基礎(chǔ)模型的開發(fā)和應(yīng)用這一方向之后,越來越多的計算技術(shù)正在加速諸如EIC77這樣的邊緣智能芯片走向更廣泛的應(yīng)用:一方面,RISC-V正在向機(jī)器學(xué)習(xí)的核心領(lǐng)域進(jìn)發(fā),不僅是更多RISC-V CPU廠商在向此方向努力,而且RISC-V的相關(guān)標(biāo)準(zhǔn)也在進(jìn)一步完善,使RISC-V成為進(jìn)入AI領(lǐng)域的一條開銷最低的途徑。另一方面,邊緣人工智能軟件也在擺脫其他AI應(yīng)用受制于CUDA生態(tài)的局限,越來越多諸如OneAPI這樣的應(yīng)用程序接口可支持工作負(fù)載的開發(fā)和運(yùn)行,以及諸如UXL等行業(yè)組織也提供了將CUDA上的AI工作負(fù)載轉(zhuǎn)化為SYCL為在 GPU 或 CPU 上運(yùn)行的移植解決方案。

展望未來,Imagination將繼續(xù)支持奕斯偉計算倡導(dǎo)的RISC-V數(shù)字基礎(chǔ)設(shè)施(RISC-V Digital Infrastructure)生態(tài),在GPU 被用于越來越多和越來越廣泛的工作負(fù)載,以及支持越來越多的基礎(chǔ)模型和算法的同時,與更多的合作伙伴在邊緣計算、AI PC和AI加速等領(lǐng)域中,共同打造更多高性能的智能產(chǎn)品。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉