-
Arm Ethos-U85 NPU：利用小語言模型在邊緣側(cè)實現(xiàn)生成式 AI
隨著人工智能 (AI) 的演進，利用小語言模型 (SLM) 在嵌入式設(shè)備上執(zhí)行 AI 工作負(fù)載成為業(yè)界關(guān)注的焦點。Llama、Gemma 和 Phi3 等小語言模型，憑借其出色的成本效益、高效率以及在算力受限設(shè)備上的易部署性，贏得了廣泛認(rèn)可。Arm 預(yù)計這類模型的數(shù)量將在 2025 年繼續(xù)增長。
-
NVIDIA 發(fā)布保障代理式 AI 應(yīng)用安全的 NIM 微服務(wù)
NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務(wù)，能夠為各行業(yè)構(gòu)建 AI 的企業(yè)提高 AI 的準(zhǔn)確性、安全性和可控性。
-
NVIDIA發(fā)布首個數(shù)字人設(shè)備端小語言模型，提升游戲角色的對話能力
首款基于全新 Nemotron-4 4B NIM的游戲亮相，來自西山居游戲的《解限機》(Mecha BREAK)
