為邊緣計(jì)算量身定制 高通推出Cloud AI 100推理芯片
據(jù)外媒報(bào)道,在舊金山舉辦的首屆Qualcomm AI Day會(huì)議上,高通除了發(fā)布面向智能手機(jī)、平板電腦以及其他移動(dòng)設(shè)備的三款全新芯片外,它還推出了一款專為邊緣計(jì)算量身定制的人工智能處理器:Qualcomm Cloud AI 100。
高通產(chǎn)品管理高級(jí)副總裁Keith Kressin表示:“這是一個(gè)專門為人工智能推理設(shè)計(jì)的全新的信號(hào)處理器,產(chǎn)品將在2020年下半年開始生產(chǎn)。
Cloud AI 100集成了各種開發(fā)工具,包括編譯器、調(diào)試器、分析器、監(jiān)視器、服務(wù)、芯片調(diào)試器和量化。此外,它還支持ONNX、Glow和XLA,以及機(jī)器學(xué)習(xí)框架,如谷歌的TensorFlow、Facebook的PyTorch、Keras、MXNet、百度的PaddlePaddle以及微軟的認(rèn)知工具包。
高通公司估計(jì)Cloud AI 100的峰值性能將是Snapdragon 855和Snapdragon 820的3到50倍,并且高通還聲稱,與傳統(tǒng)的現(xiàn)場(chǎng)可編程門陣列(FPGA)相比,Cloud AI 100的推理速度提高了約10倍。此外,Cloud AI 100的運(yùn)算性能將遠(yuǎn)遠(yuǎn)超過100 TOPs(Snapdragon 855最多可達(dá)7 TOPs)。
“FPGA或GPU通??梢愿行У剡M(jìn)行AI推理處理,因?yàn)镚PU更適合用于并行計(jì)算,而CPU適合用于串行計(jì)算,并且GPU芯片的并行計(jì)算非常適用于人工智能海量數(shù)據(jù)處理,”Kressin解釋道。“不過,GPU是專門為圖形運(yùn)算而設(shè)計(jì)的,如果你從頭開始設(shè)計(jì)芯片來加速AI,可以獲得顯著的改進(jìn)。從CPU到FPGA或GPU大約有一個(gè)數(shù)量級(jí)的改進(jìn),但定制的AI加速器能提供再一個(gè)數(shù)量級(jí)的改進(jìn)?!?/p>
當(dāng)然,高德并不是第一個(gè)推出AI推理芯片的公司。華為發(fā)布了業(yè)界最高性能的基于ARM處理器鯤鵬920芯片(Kunpeng 920)。英偉達(dá)于2019年1月在拉斯維加斯舉行的消費(fèi)電子展上,介紹了其即將推出的Nervana神經(jīng)網(wǎng)絡(luò)處理器(NNP-I)。谷歌在2018年首次推出Edge TPU,阿里巴巴于2018年12月宣布,它計(jì)劃在2019年下半年推出首款自主研發(fā)的AI推理芯片。
隨著Qualcomm Cloud AI 100的推出,必將會(huì)為AI推理芯片市場(chǎng)帶來更多可能,同時(shí),這也從側(cè)面證明了AI推理芯片的重要性以及廣闊的發(fā)展前景。