當(dāng)前位置:首頁 > 原創(chuàng) > 劉巖軒
[導(dǎo)讀]英偉達Jetson Orin Nano Super開發(fā)套件不僅讓生成式 AI 和視覺模型能夠在邊緣端高效運行,還通過更低的功耗與更高的性價比,為智能設(shè)備和機器人等物理 AI 應(yīng)用提供了堅實的計算基礎(chǔ)。無論是語言理解、視覺感知,還是多模態(tài)融合,這一平臺都將加速邊緣 AI 的廣泛落地,讓智能設(shè)備在更多場景中實現(xiàn)實時推理與自主決策,為物理世界的智能化帶來巨大變革。

在AI技術(shù)迅猛發(fā)展的今天,人工智能正從“虛擬世界”邁向“物理世界”,迎來一場全新的變革浪潮——物理 AI。這一變革不僅意味著計算與決策能力的飛躍,更是人工智能與現(xiàn)實場景的深度融合,從而推動各類智能實體在真實世界中“動起來”,具備前所未有的自主能力與執(zhí)行力。

在廚房里,有具備精細操作能力的機器人正在為人類服務(wù);在工業(yè)生產(chǎn)線上,AI驅(qū)動的自動化設(shè)備將生產(chǎn)效率提升至新的高度;在手術(shù)室,AI協(xié)同的機械臂幫助醫(yī)生完成更精準(zhǔn)的操作;在農(nóng)田、城市道路和倉儲物流中心,AI正在賦予自動駕駛和智能感知系統(tǒng)以全新能力。這一切都預(yù)示著:人工智能的下一步發(fā)展不僅是計算和決策能力的提升,更是“動手能力”的革命。

未來的AI,不再僅停留在數(shù)據(jù)中心和虛擬模型,它將深入物理世界,幫助人類解決實際問題。而這場物理AI革命,才剛剛拉開帷幕。

為了加速這場變革,NVIDIA 推出了全新的 Jetson Orin Nano Super 開發(fā)套件。從官網(wǎng)的產(chǎn)品圖氛圍并結(jié)合發(fā)布時機來看,這更像是黃教主為邊緣智能玩家們奉上的一份圣誕大禮。作為面向邊緣 AI 領(lǐng)域的入門級平臺,它不僅在性能上實現(xiàn)飛躍,具備67 TOPS算力與102 GB/s 內(nèi)存帶寬,還專為生成式 AI 模型與復(fù)雜推理任務(wù)設(shè)計,成為機器人、無人機、自動化設(shè)備等邊緣設(shè)備開發(fā)者的重要工具。25W 功耗下的高性價比表現(xiàn),讓這一開發(fā)套件能夠以更低成本推動物理 AI 的落地與普及。


AI閉環(huán)生態(tài):三大計算大腦驅(qū)動數(shù)據(jù)、模型與物理世界的智能協(xié)同

隨著人工智能技術(shù)的不斷演進,AI 正從純粹的虛擬世界走向與現(xiàn)實深度融合的閉環(huán)生態(tài)。這一閉環(huán)依托三類核心計算平臺,打通了數(shù)據(jù)生成、模型訓(xùn)練與物理部署的鏈條,實現(xiàn)了智能系統(tǒng)從理論到實踐的完整落地。

首先,通過數(shù)據(jù)生成平臺,高性能計算系統(tǒng)能夠快速生成高質(zhì)量的合成數(shù)據(jù),彌補真實數(shù)據(jù)采集難、成本高的短板。這些數(shù)據(jù)通過虛擬仿真模擬現(xiàn)實場景中的復(fù)雜情況,為 AI 模型的訓(xùn)練提供強大支撐。這一環(huán)節(jié)依賴于NVIDIA Omniverse,這是一個開放的仿真平臺,可以重建復(fù)雜的物理世界并生成接近真實的數(shù)據(jù)。同時,NVIDIA DGX 系列可提供強大的算力支持,確保數(shù)據(jù)生成過程的高效運行。

其次,在模型訓(xùn)練與開發(fā)階段,數(shù)據(jù)被輸入至數(shù)據(jù)中心級的高算力系統(tǒng)中,驅(qū)動深度學(xué)習(xí)模型不斷迭代優(yōu)化。AI 模型在這一過程中逐步具備更高的決策與分析能力,為實際應(yīng)用做好充分準(zhǔn)備。在這一環(huán)節(jié),NVIDIA DGX A100/H100等數(shù)據(jù)中心級算力平臺承擔(dān)著核心角色,為深度學(xué)習(xí)和復(fù)雜 AI 模型提供持續(xù)的訓(xùn)練與優(yōu)化。同時,通過如 AWS、Azure 等提供的基于NVIDIA GPU的云服務(wù)進行分布式訓(xùn)練,AI 模型的開發(fā)效率進一步提升。這一階段實現(xiàn)了從數(shù)據(jù)到智能模型的轉(zhuǎn)化,讓 AI 能夠具備更強的理解與決策能力,迎接復(fù)雜應(yīng)用場景的挑戰(zhàn)。

最終,訓(xùn)練好的模型部署到物理世界的智能設(shè)備與機器人中,廣泛應(yīng)用于自動駕駛、智慧工廠、工業(yè)機器人等場景。在這一環(huán)節(jié),NVIDIA Jetson 系列(如 Jetson Orin Nano、Orin NX、AGX Orin)專為機器人、工業(yè)自動化、智能邊緣設(shè)備等場景設(shè)計,提供高效的 AI 推理能力。同時,面向自動駕駛領(lǐng)域,NVIDIA Drive 平臺支持智能車輛實現(xiàn)實時感知與決策,讓 AI 技術(shù)真正服務(wù)于物理世界。在實際部署過程中,這些設(shè)備設(shè)備通過實際運行持續(xù)收集數(shù)據(jù),并反饋到訓(xùn)練與生成平臺,從而形成了數(shù)據(jù)驅(qū)動的完整閉環(huán)優(yōu)化流程。

這一閉環(huán)生態(tài)讓 AI 技術(shù)具備了從虛擬到物理的全鏈路能力,推動了數(shù)據(jù)、模型與現(xiàn)實場景的深度協(xié)同,構(gòu)建出更加智能、高效的未來世界。


Jetson Orin Nano Super開發(fā)套件:極具性價比的生成式 AI 超級計算平臺

人工智能逐漸融入現(xiàn)實世界,邊緣計算正成為物理 AI 落地的關(guān)鍵。Jetson Orin Nano Super 開發(fā)套件為開發(fā)者提供了高性能、低功耗、經(jīng)濟實惠的物理 AI 開發(fā)平臺,助力智能設(shè)備與機器人實現(xiàn)快速部署和迭代。

從命名中就不難看出此次全新推出的Jetson Orin Nano Super開發(fā)套件在整個Jetson Orin 平臺產(chǎn)品中的定位,它是屬于Nana的性能增強版, 處于入門級的性能增強定位,專為那些需要更高算力更大內(nèi)存帶寬的邊緣 AI 開發(fā)者設(shè)計。

據(jù)悉,這一套件相比Nano套件在性能與數(shù)據(jù)處理方面實現(xiàn)了顯著提升:

· 算力增強:從40 TOPS提升至67 TOPS,在邊緣設(shè)備上支持更復(fù)雜的 AI 推理任務(wù)。

· 內(nèi)存帶寬提升:從68 GB/s增加到102 GB/s,確保大規(guī)模數(shù)據(jù)的高效傳輸與處理。

· 更強的模型推理能力:性能提升高達1.7 倍,適配于實時推理、機器人感知與決策等物理 AI 應(yīng)用。

· 功耗優(yōu)化:運行功耗為25W,在高效能與低能耗之間取得理想平衡,適合邊緣設(shè)備和嵌入式應(yīng)用場景。

總體而言,Jetson Orin Nano Super主要面向中低功耗且需要增強性能的邊緣 AI 應(yīng)用場景,填補了入門級與中端平臺之間的性能空白,為開發(fā)者提供了一個高性能且經(jīng)濟實惠的開發(fā)選擇。

Jetson Orin Nano Super 開發(fā)平臺在邊緣端實現(xiàn)了對生成式 AI 和視覺模型的顯著性能提升,覆蓋大型語言模型(LLMs)、視覺語言模型(VLMs)視覺 Transformer(Vision Transformers)三大領(lǐng)域,為邊緣設(shè)備帶來了更強大的智能推理能力。

1. 大型語言模型(LLMs)

Jetson Orin Nano Super 提供了對主流輕量級大語言模型的性能優(yōu)化。例如:

Llama 3.1、Qwen 2.5、Gemma等模型的推理性能提升最高達1.63 倍(Gemma 2B)。

應(yīng)用場景:這些語言模型可用于邊緣設(shè)備的自然語言處理(NLP)任務(wù),如智能語音助手、邊緣端的實時文本分析,以及工業(yè)和客服場景中的語義理解與對話生成。

這使得即便在低功耗邊緣設(shè)備上,也能實現(xiàn)高效的語言理解與生成,適合需要離線部署的場景,如遠程設(shè)備、無人機和邊緣計算節(jié)點。

2. 視覺語言模型(VLMs)

視覺語言模型通過融合圖像與文本數(shù)據(jù),提升了多模態(tài)理解能力。例如:

InternVL 2.5 4B模型性能提升高達2.04 倍,Qwen2-VL和SmolVLM等也達到1.57 倍以上的提升。

應(yīng)用場景:VLMs 廣泛用于智能機器人與工業(yè)視覺應(yīng)用,比如智能檢測設(shè)備能夠識別圖像中的物體,同時生成描述,幫助物流分揀、自動化質(zhì)量檢測、輔助零售分析等。此外,它們還適用于人機交互界面,如具備視覺識別與對話功能的服務(wù)機器人。

這些性能提升,讓邊緣設(shè)備能夠高效執(zhí)行視覺與語言融合任務(wù),賦能更復(fù)雜的智能感知與決策系統(tǒng)。

3. 視覺 Transformer(ViTs)

視覺 Transformer 模型是近年來計算機視覺領(lǐng)域的重要發(fā)展方向,尤其適用于圖像分析和視覺感知任務(wù)。例如:

CLIP ViT-B/14和DINOv2-B/14等模型性能提升至1.69 倍和1.68 倍,其他模型如Grounding-DINO和ViT-B/16也達到了約1.6 倍的增益。

應(yīng)用場景:這些模型可廣泛用于邊緣設(shè)備的計算機視覺任務(wù),如物體檢測、目標(biāo)跟蹤、圖像分割與分類,具體應(yīng)用包括智慧城市的智能監(jiān)控、自動駕駛系統(tǒng)的環(huán)境感知,以及無人機進行航拍圖像的實時分析。

Jetson Orin Nano Super 的強大性能,使得視覺 Transformer 在邊緣端具備了低延遲、高效能的運行能力,滿足復(fù)雜的實時視覺需求。

而僅僅有硬件是不夠的,在生成式 AI 與邊緣智能快速發(fā)展的浪潮中,NVIDIA Jetson 平臺正通過軟硬件結(jié)合為開發(fā)者提供完整、可落地的解決方案。Jetson 不僅是硬件平臺,更通過整合生態(tài)資源、開源工具和社區(qū)支持,成為推動物理 AI 與生成式 AI 邊緣部署的重要支撐。

NVIDIA Jetson AI 實驗室為來自開源社區(qū)的前沿模型提供即插即用的支持,同時搭配直觀易懂的教程,幫助開發(fā)者快速上手。更重要的是,Jetson 平臺背后有一個活躍的開源社區(qū),開發(fā)者可以從其他項目中汲取靈感,或借助社區(qū)的廣泛技術(shù)支持解決實際開發(fā)難題。

英偉達還提供了包括機器人、視覺與傳感器在內(nèi)的多場景應(yīng)用軟件棧,涵蓋多個核心場景,包括:

· NVIDIA Isaac:面向機器人技術(shù),提供機器人感知、路徑規(guī)劃與自主導(dǎo)航的工具鏈。

· NVIDIA Metropolis:專為視覺 AI 設(shè)計,適用于智能視頻分析、目標(biāo)檢測與環(huán)境感知等應(yīng)用。

· NVIDIA Holoscan:聚焦傳感器數(shù)據(jù)處理,特別適合醫(yī)療、工業(yè)等需要實時傳感器融合的任務(wù)。

圍繞 Jetson 平臺,NVIDIA也已構(gòu)建起成熟的生態(tài)合作體系,為開發(fā)者提供全方位的技術(shù)支持,包括與合作伙伴提供定制化軟件開發(fā)與開發(fā)者工具,滿足不同應(yīng)用場景的需求;提供攝像頭及其他傳感器的技術(shù)支持,確保硬件與系統(tǒng)的高效集成;產(chǎn)品解決方案的定制服務(wù),加速設(shè)備從開發(fā)到市場落地。


寫在最后

英偉達Jetson Orin Nano Super開發(fā)套件不僅讓生成式 AI 和視覺模型能夠在邊緣端高效運行,還通過更低的功耗與更高的性價比,為智能設(shè)備和機器人等物理 AI 應(yīng)用提供了堅實的計算基礎(chǔ)。無論是語言理解、視覺感知,還是多模態(tài)融合,這一平臺都將加速邊緣 AI 的廣泛落地,讓智能設(shè)備在更多場景中實現(xiàn)實時推理與自主決策,為物理世界的智能化帶來巨大變革。

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉