華為云CTO張宇昕:ModelArts Studio讓大模型開(kāi)發(fā)應(yīng)用更便捷
在6月21日召開(kāi)的華為開(kāi)發(fā)者大會(huì)2024上,華為云CTO張宇昕表示:“華為云對(duì)AI開(kāi)發(fā)生產(chǎn)線(xiàn)ModelArts進(jìn)行升級(jí),在AI開(kāi)發(fā)基礎(chǔ)設(shè)施和流水線(xiàn)之上,構(gòu)建了大模型即服務(wù)平臺(tái)ModelArts Studio。提供百模千態(tài)的第三方大模型托管服務(wù),支持對(duì)大模型定制開(kāi)發(fā),并提供相應(yīng)的工具和行業(yè)集成套件,讓客戶(hù)可以方便的將大模型與業(yè)務(wù)系統(tǒng)結(jié)合?!?/span>
圖:華為云CTO張宇昕
ModelArts Studio大模型即服務(wù)平臺(tái)具備三大特點(diǎn):
一、支持零代碼、免配置模型開(kāi)發(fā):華為云沉淀盤(pán)古大模型的開(kāi)發(fā)經(jīng)驗(yàn),以及100多個(gè)第三方大模型基于昇騰平臺(tái)適配和調(diào)優(yōu)的經(jīng)驗(yàn),為企業(yè)模型調(diào)優(yōu)自動(dòng)推薦最優(yōu)配置參數(shù)。
二、支持多模型智能路由:ModelArts Studio能夠根據(jù)任務(wù)類(lèi)型、模型效果自動(dòng)選擇合適的模型,例如將復(fù)雜推理類(lèi)任務(wù)路由給盤(pán)古處理,而將簡(jiǎn)單的文案生成類(lèi)請(qǐng)求路由給開(kāi)源模型來(lái)處理。從而提升企業(yè)的模型管理和維護(hù)效率,降低模型調(diào)用成本25%以上。
三、提供多個(gè)智能Agent:ModelArts Studio沉淀了50多個(gè)智能Agent,可以準(zhǔn)確理解業(yè)務(wù)意圖,分解復(fù)雜任務(wù),幫助企業(yè)快速智能構(gòu)建和部署大模型應(yīng)用。