本文根據(jù)完整的基準(zhǔn)測(cè)試,將Achronix Semiconductor公司推出的Speedster7t FPGA與GPU解決方案進(jìn)行比較,在運(yùn)行同一個(gè)Llama2 70B參數(shù)模型時(shí),該項(xiàng)基于FPGA的解決方案實(shí)現(xiàn)了超越性的LLM推理處理。
Bluespec支持加速器功能的RISC-V處理器將Achronix的FPGA轉(zhuǎn)化為可編程SoC
近日舉辦的GTC大會(huì)把人工智能/機(jī)器學(xué)習(xí)(AI/ML)領(lǐng)域中的算力比拼又帶到了一個(gè)新的高度,這不只是說明了通用圖形處理器(GPGPU)時(shí)代的來臨,而是包括GPU、FPGA和NPU等一眾數(shù)據(jù)處理加速器時(shí)代的來臨,就像GPU以更高的計(jì)算密度和能效勝出CPU一樣,各種加速器件在不同的AI/ML應(yīng)用或者細(xì)分市場(chǎng)中將各具優(yōu)勢(shì),未來并不是只要貴的而是更需要對(duì)的。
全球領(lǐng)先的高性能現(xiàn)場(chǎng)可編程門陣列(FPGA)和嵌入式FPGA(eFPGA)半導(dǎo)體知識(shí)產(chǎn)權(quán)(IP)提供商Achronix Semiconductor公司宣布,該公司參加了由私募股權(quán)和風(fēng)險(xiǎn)投資公司Baird Capital舉辦的“Baird車技術(shù)與出行大會(huì)(Baird Vehicle Technology & Mobility Conference)”。Achronix此舉是為了聯(lián)絡(luò)更多的創(chuàng)新者和投資者,共同推動(dòng)更加先進(jìn)的FPGA技術(shù)更廣泛地應(yīng)用于智能汽車、自動(dòng)駕駛、ADAS和其他先進(jìn)出行方式。
長(zhǎng)期以來,Achronix為不同行業(yè)的數(shù)據(jù)密集型和高帶寬應(yīng)用提供了創(chuàng)新性的FPGA產(chǎn)品和技術(shù),并幫助客戶不斷打破性能極限。其中一些應(yīng)用需要與先進(jìn)的模擬/數(shù)字轉(zhuǎn)換器(ADC)和數(shù)字/模擬轉(zhuǎn)換器(DAC)進(jìn)行對(duì)接——可由JESD204C完美地完成這項(xiàng)任務(wù)。
隨著人工智能/機(jī)器學(xué)習(xí)(AI/ML)和其他復(fù)雜的、以數(shù)據(jù)為中心的工作負(fù)載被廣泛部署,市場(chǎng)對(duì)高性能計(jì)算的需求持續(xù)飆升,對(duì)高性能網(wǎng)絡(luò)的需求也呈指數(shù)級(jí)增長(zhǎng)。高性能計(jì)算曾經(jīng)是超級(jí)計(jì)算機(jī)這樣一個(gè)孤立的領(lǐng)域,而現(xiàn)在從超級(jí)計(jì)算機(jī)到邊緣解決方案,在各個(gè)層面都可以看到高性能計(jì)算,隨著我們推動(dòng)更快的解決方案進(jìn)入市場(chǎng),網(wǎng)絡(luò)安全和高復(fù)雜性應(yīng)用在其中也扮演著更重要的角色。
提供超低延遲和極低錯(cuò)誤率(WER)的實(shí)時(shí)流式語音轉(zhuǎn)文本解決方案,可同時(shí)運(yùn)行超過1000個(gè)并發(fā)語音流
在日前落幕的“中國(guó)集成電路設(shè)計(jì)業(yè)2023年會(huì)暨廣州集成電路產(chǎn)業(yè)創(chuàng)新發(fā)展高峰論壇(ICCAD 2023)”上,Achronix的Speedcore?嵌入式FPGA硅知識(shí)產(chǎn)權(quán)(eFPGA IP)受到了廣泛關(guān)注,預(yù)約會(huì)議、專程前往或者駐足詢問的芯片設(shè)計(jì)業(yè)人士的數(shù)量超過了往屆,表明了越來越多的國(guó)內(nèi)開發(fā)者正在考慮為其ASIC或SoC設(shè)計(jì)添加高性能eFPGA邏輯陣列。
隨著大模型、高性能計(jì)算、量化交易和自動(dòng)駕駛等大數(shù)據(jù)量和低延遲計(jì)算場(chǎng)景不斷涌現(xiàn),加速數(shù)據(jù)處理的需求日益增長(zhǎng),對(duì)計(jì)算器件和硬件平臺(tái)提出的要求也越來越高。發(fā)揮核心器件內(nèi)部每一個(gè)計(jì)算單元的作用,以更大帶寬連接內(nèi)外部存儲(chǔ)和周邊計(jì)算以及網(wǎng)絡(luò)資源,已經(jīng)成為智能化技術(shù)的一個(gè)重要趨勢(shì)。這使得片上網(wǎng)絡(luò)(Network-on-Chip)這項(xiàng)已被提及多年,但工程上卻不容易實(shí)現(xiàn)的技術(shù)再次受到關(guān)注。
在眾多行業(yè)的數(shù)字化轉(zhuǎn)型過程中,基于硬件的數(shù)據(jù)處理加速是構(gòu)建高性能、高效率智能系統(tǒng)的關(guān)鍵之處,因而市場(chǎng)上出現(xiàn)了諸如FPGA、GPU和xPU等許多通用或者面向特定應(yīng)用(如NPU)的硬件加速器。盡管它們的性能和效率都高于通用處理器,但是開發(fā)人員還是一直在為各種新興應(yīng)用尋找可重構(gòu)的但性能又如ASIC一樣的硬件加速器,同時(shí)還可以最大限度重用其開發(fā)成果。
探索FPGA加速語言模型如何通過更快的推理、更低的延遲和更好的語言理解來重塑生成式人工智能
中國(guó)上海,2023年8月——高性能FPGA芯片和嵌入式FPGA IP(eFPGA IP)領(lǐng)域內(nèi)的先鋒企業(yè)Achronix半導(dǎo)體公司日前宣布:為幫助用戶利用先進(jìn)的Speedcore eFPGA IP來構(gòu)建先進(jìn)的chiplet解決方案,公司開通專用網(wǎng)頁(yè)介紹相關(guān)技術(shù),以幫助用戶快速構(gòu)建新一代高靈活性、高性價(jià)比的chiplet產(chǎn)品, chiplet設(shè)計(jì)和開發(fā)人員可以透過該公司網(wǎng)站獲得有關(guān)Speedcore eFPGA IP的全面支持。中國(guó)客戶亦可以通過Achronix在中國(guó)的服務(wù)團(tuán)隊(duì)得到同樣的支持。
新推出的Achronix網(wǎng)絡(luò)基礎(chǔ)架構(gòu)代碼提供400 GbE傳輸速度和PCIe Gen 5.0功能
Achronix網(wǎng)絡(luò)基礎(chǔ)架構(gòu)代碼(ANIC)提供400 GbE連接速度
加利福尼亞州硅谷,2023年5月25日——高性能FPGA芯片和嵌入式FPGA IP(eFPGA)領(lǐng)域的領(lǐng)導(dǎo)性企業(yè)Achronix半導(dǎo)體公司今日宣布:其搭載了Speedster?7t FPGA器件的VectorPath加速卡已通過PCI-SIG的PCIe Gen5認(rèn)證,并且是PCI-SIG 集成商列表中的第一款也是唯一一款通過 PCIe Gen5 x16 認(rèn)證的FPGA(CEM)加速卡,傳輸速率達(dá)到了32GT/s。設(shè)計(jì)旨在人工智能(AI)、機(jī)器學(xué)習(xí)(ML)、網(wǎng)絡(luò)和數(shù)據(jù)中心應(yīng)用等領(lǐng)域可以使用VectorPath S7t-VG6加速卡開發(fā)高性能運(yùn)算和加速功能,從而縮短產(chǎn)品上市時(shí)間。VectorPath加速卡目前即可發(fā)貨。
mikeniu
jameswangchip
liqinglong1023