當(dāng)前位置:首頁 > 智能硬件 > 人工智能AI
[導(dǎo)讀] 目前,人工智能基礎(chǔ)性算法已經(jīng)較為成熟,各大廠商紛紛發(fā)力建設(shè)算法模型工具庫,并將其封裝為軟件框架,供開發(fā)者使用,可以說軟件框架是算法的工程實現(xiàn)。企業(yè)的軟件框架實現(xiàn)有閉源和開源兩種形式:蘋果公司等少

目前,人工智能基礎(chǔ)性算法已經(jīng)較為成熟,各大廠商紛紛發(fā)力建設(shè)算法模型工具庫,并將其封裝為軟件框架,供開發(fā)者使用,可以說軟件框架是算法的工程實現(xiàn)。企業(yè)的軟件框架實現(xiàn)有閉源和開源兩種形式:蘋果公司等少數(shù)企業(yè)選擇閉源方式開發(fā)軟件框架,目的是打造技術(shù)壁壘;目前業(yè)內(nèi)主流軟件框架基本都是開源化運營。

基于深度學(xué)習(xí)的推斷的計算量相對訓(xùn)練過程小很多,但仍涉及到大量的矩陣卷積、非線性變換等運算,為了滿足在終端側(cè)限定設(shè)備性能及功耗等因素的場景下,業(yè)界也開發(fā)了眾多開源的終端側(cè)軟件框架。

Caffe2go 是早出現(xiàn)的終端側(cè)推斷軟件框架,能夠讓深層神經(jīng)網(wǎng)絡(luò)在手機上高效的運行。由于終端側(cè)的 GPU 設(shè)備性能有限,Caffe2go是基于 CPU 的優(yōu)化進行設(shè)計。

TensorFlow Lite 可以運行在 AndroidiOS 平臺,結(jié)合 Android 生態(tài)的神經(jīng)網(wǎng)絡(luò)運行時能夠?qū)崿F(xiàn)較為高效的 AI 移動端應(yīng)用速度。

NCNN 是騰訊開源的終端側(cè) AI 軟件框架,支持多種訓(xùn)練軟件框架的模型轉(zhuǎn)換,是主要面向CPU的AI模型應(yīng)用,無第三方依賴具有較高的通用性,運行速度突出,是國內(nèi)目前較為廣泛使用的終端側(cè) AI 軟件框架。

Core ML 是蘋果公司開發(fā)的 iOS AI軟件框架,能夠?qū)?Caffe、PyTorch、MXNet、TensorFlow 等絕大部分 AI 模型,并且自身提供了常用的各種手機端 AI 模型組件,目前也匯集了眾多開發(fā)者及貢獻力量。

Paddle-mobile 是百度自研的移動端深度學(xué)習(xí)軟件框架,主要目的是將 Paddle 模型部署在手機端,其支持 iOS GPU 計算。但目前功能相對單一,支持較為有限。

TensorRT是英偉達(NVIDIA)開發(fā)的深度學(xué)習(xí)推斷工具,已經(jīng)支持 Caffe、Caffe2、TensorFlow、MXNet、PyTorch 等主流深度學(xué)習(xí)庫,其底層針對NVIDIA顯卡做了多方面的優(yōu)化,可以和CUDA編譯器結(jié)合使用。

目前主要產(chǎn)業(yè)巨頭均推出了基于自身技術(shù)體系的訓(xùn)練及推斷軟件框架,但由于目前產(chǎn)業(yè)生態(tài)尚未形成,深度學(xué)習(xí)模型表示及存儲尚未統(tǒng)一,訓(xùn)練軟件框架及推斷軟件框架尚未形成一一對應(yīng)關(guān)系,技術(shù)生態(tài)爭奪將繼續(xù)持續(xù)。

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉