北大CodeShell現(xiàn)身英特爾新品發(fā)布會(huì),展現(xiàn)其卓越性能
每當(dāng)我們提到大模型,通常會(huì)聯(lián)想到龐大的數(shù)據(jù)中心機(jī)房?jī)?nèi)高性能服務(wù)器,或者是動(dòng)輒數(shù)萬(wàn)元的臺(tái)式機(jī)工作站。隨著英特爾酷睿Ultra系列處理器的發(fā)布,大模型的運(yùn)行環(huán)境將發(fā)生翻天覆地的變化。在酷睿Ultra新品發(fā)布活動(dòng)上,CodeShell多語(yǔ)言代碼大模型搬進(jìn)了輕薄的筆記本電腦內(nèi),這意味著未來(lái)的大模型運(yùn)行,不一定只依賴于服務(wù)器或臺(tái)式機(jī),隨身攜帶的輕薄筆記本也可以成為大模型運(yùn)行的主戰(zhàn)場(chǎng)。
CodeShell生來(lái)強(qiáng)大
CodeShell大模型可以看成一個(gè)擅長(zhǎng)編寫(xiě)代碼、檢查代碼缺陷,并完成修復(fù)、測(cè)試的AI代碼助手。在這套大模型的幫助下,開(kāi)發(fā)團(tuán)隊(duì)可以將開(kāi)發(fā)的重心從繁重的代碼編寫(xiě)、Bug修復(fù)中脫離出來(lái),集中資源用在更重要的功能規(guī)劃、創(chuàng)意實(shí)現(xiàn)等推動(dòng)軟件研發(fā)進(jìn)程的工作中。
而事實(shí)上CodeShell在業(yè)內(nèi)頗負(fù)盛名,它由北京大學(xué)知識(shí)計(jì)算實(shí)驗(yàn)室研發(fā),截止今年11月份的Hugging Face國(guó)際權(quán)威開(kāi)源代碼大模型榜單中,CodeShell在同等規(guī)模的多語(yǔ)言代碼大模型中排名第一。同步開(kāi)源代碼智能助手系列解決方案,開(kāi)源VS Code與JetBrains IDE插件,覆蓋代碼生成、代碼缺陷檢測(cè)與修復(fù)、測(cè)試用例生成等常見(jiàn)軟件開(kāi)發(fā)活動(dòng)。
目前為止,北京大學(xué)知識(shí)計(jì)算實(shí)驗(yàn)室開(kāi)發(fā)團(tuán)隊(duì)以CodeShell為基礎(chǔ)擴(kuò)展了一系列優(yōu)秀應(yīng)用。包括以GPT-2為基礎(chǔ),引入Grouped-Query Attention和ROPE位置編碼,最終形成了高性能且易于擴(kuò)展上下文窗口獨(dú)特架構(gòu)、擁有強(qiáng)大性能的CodeShell-Base代碼基座大模型。也包括面向真實(shí)的軟件開(kāi)發(fā)場(chǎng)景,通過(guò)高效微調(diào),訓(xùn)練了支持對(duì)話、代碼生成、代碼補(bǔ)齊、代碼注釋、代碼檢查與測(cè)試用例生成的全能代碼助手模型CodeShell-Chat。
CodeShell強(qiáng)大性能還遠(yuǎn)不止這些。針對(duì)模型訓(xùn)練評(píng)估基準(zhǔn)無(wú)法準(zhǔn)確反映其真實(shí)能力,評(píng)估場(chǎng)景與實(shí)際開(kāi)發(fā)環(huán)境脫節(jié)等問(wèn)題,CodeShell團(tuán)隊(duì)提出了一個(gè)包含完整程序上下文的多任務(wù)編程模型評(píng)估基準(zhǔn),該基準(zhǔn)提供了完整的程序上下文信息,涵蓋了包括代碼生成、測(cè)試用例生成、缺陷檢測(cè)、缺陷修復(fù)等常見(jiàn)的軟件工程任務(wù)。
重要的是,CodeShell大模型已經(jīng)能夠在輕薄筆記本上部署和運(yùn)行。未來(lái)也可能進(jìn)一步加強(qiáng)合作,在公眾面前展示強(qiáng)大性能拭目以待。
AI PC將蓄勢(shì)待發(fā)
在今年9月份硅谷舉行的英特爾On技術(shù)創(chuàng)新峰會(huì)上,英特爾CEO帕特·基辛格正式提出了AI PC概念。這是一套將基于全新酷睿Ultra系列處理器,在離線狀態(tài)下也能輕松運(yùn)行AI的移動(dòng)端PC解決方案,從而讓AI生產(chǎn)力與用戶體驗(yàn)、創(chuàng)造力進(jìn)一步結(jié)合,打造出全新的創(chuàng)作生態(tài)。
酷睿Ultra系列處理器擁有移動(dòng)端強(qiáng)大的性能表現(xiàn),并融入了用于AI加速的NPU模塊,即神經(jīng)網(wǎng)絡(luò)處理單元。這讓AI PC即使不連接云端服務(wù)器,依靠本地的優(yōu)秀AI性能,也能隨時(shí)兼顧AI加速、續(xù)航、流暢操控體驗(yàn)。
英特爾酷睿Ultra處理器是首款基于Intel 4制程工藝打造的處理器,代表了40年來(lái)英特爾架構(gòu)最大的革新。它采用了先進(jìn)的Foveros 3D封裝技術(shù),結(jié)合前沿的知識(shí)產(chǎn)權(quán)成果與先進(jìn)的制程工藝,以優(yōu)化相關(guān)模塊的性能表現(xiàn)。
在未來(lái),包括代碼設(shè)計(jì)、內(nèi)容創(chuàng)作、工程規(guī)劃等海量專業(yè)應(yīng)用也將會(huì)在AI PC上百花齊放。預(yù)計(jì)2025年前,全球會(huì)出貨超過(guò)1億臺(tái)AI PC。合作涉及100家ISV合作伙伴,覆蓋300余項(xiàng)AI加速功能,AI應(yīng)用將會(huì)得到更大范圍的推廣。
英特爾酷睿Ultra系列處理器的推出,也是AI PC正式邁向大眾市場(chǎng)、消費(fèi)者的一個(gè)重要節(jié)點(diǎn)。隨著AI融入開(kāi)發(fā)者、創(chuàng)作者的工作流程中,原本繁瑣、重復(fù)、耗時(shí)的工作將由AI所接管,工作者的工作重心將重新回到未來(lái)布局、思考創(chuàng)意的本身,極大地提升了生產(chǎn)效率。英特爾作為AI PC概念的提出者和重要推動(dòng)者,也將不斷投入更多資源,在生態(tài)層面讓AI與PC高度融合,讓AI PC成為每一位開(kāi)發(fā)者、創(chuàng)作者的工作利器。