英特爾聯(lián)袂百川智能，酷睿Ultra跑上Baichuan 2

成立于2023年4月10日的百川智能，是一家致力于通用人工智能研發(fā)并提供相關(guān)服務(wù)的中國公司。百川智能推出的Baichuan-7B/13B、Baichuan2-7B/13B四款開源可免費(fèi)商用大模型，為AI PC的大語言模型應(yīng)用提供了優(yōu)秀的本地化解決方案。

雖然都是AI，但前兩年的AI、今年的AI與未來的AI實(shí)質(zhì)并不相同?！吧疃葘W(xué)習(xí)”這一概念通過機(jī)器人戰(zhàn)勝人類棋手為人所熟知，ChatGPT用“學(xué)習(xí)”到的知識“創(chuàng)造”內(nèi)容，在這些現(xiàn)象的背后支撐起AI運(yùn)算的是海量數(shù)據(jù)與超高計算能力。而在AI應(yīng)用的另一端，NPU成為智能手機(jī)等終端設(shè)備優(yōu)化照片拍攝的利器。

2024年是屬于AI PC的元年，大幕在2023年年底拉開。面對一個新時代的到來，PC乃至更大范圍的整個生態(tài)鏈上的企業(yè)都活躍起來，無論是努力破局的高通、使用ARM架構(gòu)站穩(wěn)腳跟的蘋果、堅持APU路線的AMD，還是傳統(tǒng)Wintel聯(lián)盟的雙雄，都集中在此刻發(fā)布或透露其圍繞AI概念的PC平臺產(chǎn)品。

AI應(yīng)用的大爆發(fā)，早已不能用ML/DL/LLM或者AIGC這些相對具象的原生AI應(yīng)用方向來涵蓋，對應(yīng)的不同AI應(yīng)用也需要更多更靈活的AI加速硬件。特別是對PC這樣一個通用平臺，其通用性被放在價值的首位，x86更是以應(yīng)用軟件眾多、向前兼容數(shù)十年等優(yōu)勢著稱。在現(xiàn)有的應(yīng)用上增加AI特性，如微軟的Copilot滲透到從Windows到Office的諸多應(yīng)用中，AI加速硬件的匹配與優(yōu)化，將大大提升AI化的應(yīng)用程序的使用體驗(yàn)。

在過去的幾年，英特爾已經(jīng)陸續(xù)在酷睿平臺上標(biāo)配了GNA音頻加速器、IPU影像處理單元、支持DL Boost/DP4a的Iris Xe核顯等AI硬件加速器，實(shí)現(xiàn)了在特定應(yīng)用場景中對應(yīng)的AI加速功能。正式發(fā)布的酷睿Ultra（Meteor Lake）更是英特爾PC平臺全面轉(zhuǎn)向AI化的開始，表面上更是增加了NPU這一全新的AI加速器；而微軟也在此時釋放出更多有關(guān)Windows 12這一AI化的Windows系統(tǒng)的最新消息，將OS層面對AI加速器的支持與優(yōu)化，擴(kuò)展到NPU層面，且包括但不限于Windows ML容器等現(xiàn)有Microsoft AI方案。

英特爾酷睿Ultra處理器是首款基于Intel 4制程工藝打造的處理器，代表了40年來英特爾架構(gòu)最大的革新。它采用了先進(jìn)的Foveros 3D封裝技術(shù)，結(jié)合前沿的知識產(chǎn)權(quán)成果與先進(jìn)的制程工藝，以優(yōu)化相關(guān)模塊的性能表現(xiàn)。

百川智能聯(lián)合創(chuàng)始人、聯(lián)席總裁洪濤表示，百川智能與英特爾合作，對模型在端側(cè)進(jìn)行進(jìn)一步優(yōu)化，使得百川大模型在酷睿Ultra的平臺上良好運(yùn)行。未來，百川智能將與英特爾持續(xù)探索大語言模型在端側(cè)計算和AIGC領(lǐng)域的應(yīng)用和發(fā)展。

酷睿Ultra攜更多軟硬件特性到來，底層的硬件架構(gòu)既可以是CPU、GPU、VPU、FPGA，也可以是全新的NPU，甚至是更多的其他針對不同應(yīng)用的硬件加速器。這些加速器可為包括百川在內(nèi)的大模型提供直接的硬件推理能力，從而使更多模型的推理工作轉(zhuǎn)移到PC平臺，實(shí)現(xiàn)高效、安全的本地化運(yùn)行。此前，英特爾已經(jīng)宣布其酷睿產(chǎn)品可運(yùn)行60億參數(shù)的大模型，酷睿Ultra與百川大模型的組合，將進(jìn)一步提升模型規(guī)模和運(yùn)行效率。

目前，已經(jīng)有包括剪影、天行者、璇米、愛奇藝、百川在內(nèi)的眾多國產(chǎn)軟件廠商，第一時間推出或升級支持酷睿Ultra全新AI特性的產(chǎn)品。作為AI PC加速計劃的一部分，超過100家獨(dú)立軟件供應(yīng)商（ISV）和300余項AI加速功能將針對英特爾酷睿Ultra處理器進(jìn)行專屬優(yōu)化，提供豐富的AI應(yīng)用程序和框架。消費(fèi)者則可在全新的酷睿Ultra產(chǎn)品上市伊始，就體驗(yàn)到AI帶來的變化，無論是文字、腳本、圖片、音頻、視頻等內(nèi)容生成（AIGC）還是摳圖、識別、交互等AI應(yīng)用觸手可及，再無軟硬件相互等待之虞，盡享AI PC盛宴。