關于如何升級NVIDIA JETSON ORIN NANO到超級動力版本的詳細教程!
作為一個編程愛好者或人工智能項目的粉絲,NVIDIA最近宣布了一個令人興奮的消息。
即通過軟件將Jetson ORIN NANO kit升級為Jetson ORIN NANO Super,從而實現(xiàn)巨大的性能提升。
升級前后的開發(fā)板性能對比如下:
幾乎每個用戶在聽到這個消息后都非常興奮。畢竟,更高的性能意味著更多的可能性和更廣泛的應用場景。
無論是在人工智能推理、機器人開發(fā)、大型語言模型還是邊緣計算項目中,Jetson Orin Nano Super都能提供超乎預期的強大計算能力。開發(fā)人員不僅可以在原有的基礎上進一步優(yōu)化代碼來執(zhí)行更復雜的AI任務,還可以通過改進GPU和CPU性能來實現(xiàn)更高效的實時處理。
更重要的是,升級后的Jetson Orin Nano Super與現(xiàn)有的Orin Nano生態(tài)系統(tǒng)完全兼容,用戶無需更換硬件即可享受新的性能提升。無論是初學者還是經驗豐富的開發(fā)人員,他們都可以使用這個強大的平臺來創(chuàng)建更智能、更快、更高效的項目。
所以很多用戶都有一個疑問。由于NVIDIA已經正式宣布Jetson Orin Nano Super僅通過軟件更新推出。
那么我手中的Jetson Orin NANO 8GB官方套件可以直接升級到Super嗎?
答案是肯定的。
今天,我將分享一個詳細的教程,一步一步地解釋如何通過更新JetPack 6.1將現(xiàn)有的NVIDIA官方Jetson Orin NANO 8GB套件更新到Jetson Orin NANO Super。
1. 準備
方法一:顯示屏;直接下載并使用Yahboom提供的虛擬機系統(tǒng)鏡像文件。
方法二:顯示屏;如果您使用自己的系統(tǒng),則需要下載并安裝最新版本的SDK Manager。
問:如何確定您當前使用的SDK管理器是否是最新版本?
登錄SDK Manager賬號時,頁面提示invalid_request Authorization flow not allowed,提示您需要更新最新版本的SDK Manager。
如果無法正常更新SDK管理器。
請按照以下教程在Jetson Orin NANO 8GB開發(fā)板中重新安裝最新的SDK管理器。
注意:在此之前,您需要準備一臺虛擬機或Ubuntu計算機,并且不能直接在主板上操作。
1.1下載最新的SDK Manager
如下圖所示,耐心等待文件下載完成。
1.2安裝SDK管理器
進入SDK管理器所在的文件夾,打開終端,運行deb package installation命令。
命令,如下所示。
Sudo DPKG -i sdkmanager_2.2.0-12021_amd64.deb
1.3修復依賴
為避免系統(tǒng)出現(xiàn)錯誤,建議在軟件安裝完成后直接執(zhí)行如下命令。
Sudo apt -fix-broken install
1.4安裝與使用
單擊SDK管理器圖標或在終端中輸入如下命令啟動SDK管理器。
2. 讓你的Jeston ORIN NANO進入閃爍模式
2.1使用跳線帽短接核心板下方的FC REC和GND引腳,使用電源適配器為Jetson ORIN NANO板供電,如下圖所示。
2.2然后,將Jetson ORIN NANO板通過Type-C接口連接到安裝了虛擬機的計算機上。
此時,您的計算機將顯示如下提示,請選擇“連接設備到虛擬機”,如下圖所示。
3. 將NVIDIA的官方原始圖像系統(tǒng)寫入Jetson ORIN NANO 8G板
3.1啟動并登錄SDK管理器。
3.2此時SDK管理器檢測到Jetson Orin NANO板,會自動彈出如下界面,需要我們選擇相應的主板型號。
注意:如果SDK管理器提示Jetson ORIN NANO板無法識別。
請斷開Jetson板的直流電源和C型數(shù)據(jù)線,然后重新給Jetson板通電,再用C型數(shù)據(jù)線將Jetson Orin NANO 8GB開發(fā)板重新連接到虛擬機計算機上。
3.3如下圖所示,在查看完相應內容后,點擊右下角的“繼續(xù)”按鈕
3.4檢查如下圖所示。然后點擊右下角的“繼續(xù)”
(這里我們只安裝系統(tǒng)。待系統(tǒng)安裝成功并能夠正常啟動后,再考慮安裝其他組件環(huán)境)
3.5勾選“創(chuàng)建”,如下圖所示。
3.6此時,界面將顯示如下圖所示的進度條。請耐心等待安裝完成。
3.7當進度條達到50%時,系統(tǒng)顯示如下界面。我們需要按照紅線框完成選擇。
在整個過程中,SDK管理器將自動控制Jetson板的彈出和安裝。
由于我們在步驟2.2中將Jetson ORIN NANO板連接到虛擬機,因此這些設置通常會自動掛載到虛擬機中。
當寫入即將完成時,我們需要通過單擊虛擬機選項手動將其掛載到虛擬機。如下所示。
3.8當進度條達到100%時,點擊右下角的“完成”。
4. 啟動系統(tǒng)
斷開Jetson ORIN NANO板的直流電源和C型數(shù)據(jù)線。將核心板下方的FC REC和GND引腳短接并拆除。
然后連接顯示器、鍵盤和鼠標,最后用直流電源適配器重新給它通電,Jetson ORIN NANO板就可以正常啟動了。
5. 安裝Jetson組件
5.1使用電源適配器為Jetson板供電,并通過Type-C接口將Jetson ORIN NANO板連接到安裝了虛擬機的計算機上。
啟動并登錄SDK管理器。如下圖所示,點擊右下角的“Continue”。
5.2檢查需要安裝的組件環(huán)境:SDK Manager會自動下載所有組件,點擊右下角的“Continue”,如下圖所示。
5.3接下來,系統(tǒng)會彈出如下界面。這里我們需要填寫之前啟動系統(tǒng)時設置的用戶名和密碼信息。
然后,點擊“安裝”
整個過程需要很長時間,所以請耐心等待。
5.4安裝完成后,點擊右下角的“完成”按鈕。
5.5設置電源模式為MAXN
6. 使用Jtop命令查看開發(fā)板的當前內部信息
6.1執(zhí)行以下命令,安裝Jtop
安裝python3-pip
sudo pip3安裝-U jetsonstats
6.2安裝完成后重新啟動系統(tǒng)
然后使用如下命令查看系統(tǒng)信息。
完成以上步驟后,您的Jetson ORIN NANO 8GB將變成Jetson ORIN NANO Super。
擁抱臉機器人
NVIDIA已與hug Face合作,加速LeRobot開放式人工智能平臺上的機器人研究。你可以在Jetson Orin Nano Super Developer Kit上運行HuggingFace LeRobot,它運行生成式人工智能模型,根據(jù)視覺輸入和先前的軌跡預測特定任務的動作。
生成AI驅動的聊天機器人與Ollama
在Jetson Orin Nano Super Developer Kit上運行生成式AI聊天機器人。這個聊天機器人的特點是帶有Open web的Ollama,這是一個廣泛使用的開源聊天機器人服務器接口,可以連接到本地運行的llm。它使用檢索增強生成(retrieve -augmented generation, RAG)進一步增強用戶體驗和功能。
與Jetson AI Lab一起推進生成式AI
Jetson人工智能實驗室是發(fā)現(xiàn)和試驗針對邊緣設備優(yōu)化的最新生成人工智能技術的中心。
通過營造一個開放協(xié)作和社區(qū)驅動的環(huán)境,NVIDIA與開發(fā)人員和合作伙伴共同推動開源邊緣人工智能和機器人學習。我們在Jetson設備上全面支持流行的機器學習框架和優(yōu)化的推理微服務,您可以在Jetson計算機上快速構建和部署最新的研究創(chuàng)新和模型,以跟上快速的創(chuàng)新步伐。
如下所示的示例NanoOWL開放詞匯實時對象檢測ViT。
如下圖所示,NanoDB多模態(tài)矢量數(shù)據(jù)庫具有交互式txt2img和img2img相似性搜索。
Jetson AI Lab提供近50個易于遵循的教程和預構建的容器,讓任何經驗水平的開發(fā)人員快速開始使用設備上的llm, slm和多模式vlm,以及vla,擴散策略和語音模型的變體。它們都部署在本地,使用與云中使用的相同的優(yōu)化推理基礎設施。
Jetson AI Lab的協(xié)作、社區(qū)驅動的教程和資源大大降低了將高級生成AI部署到邊緣的進入門檻。
注意:此解決方案目前僅適用于NVIDIA Jetson ORIN NANO 8GB官方套件。
Jetson ORIN NX主板目前不支持此功能。
另一條新聞是,NVIDIA還宣布,JetPack 6.1.1將于2025年1月隨JetPack 6.1.1一起發(fā)布針對JetPack Nano和Orin NX核心模塊的增強性能支持和文檔。
本文編譯自hackster.io