第二代Tensor處理單元TPU 用AI幫你看世界!
Google這是要上天啊!
之前發(fā)布的Google Lens可以用AI幫你看世界:用鏡頭掃一掃路邊的野花,馬上告訴你這是什么品種。
掃一掃路由器條形碼,就能自動(dòng)連上WIFI:
掃一掃路邊的餐廳,立馬跳出該餐廳的評(píng)分信息等:
還能去掉照片中亂七八糟的東西,秒殺修圖軟件:
對(duì)了,它還可以和谷歌翻譯結(jié)合,掃一掃立馬切換語(yǔ)言:
狂甩蘋(píng)果Siri幾條街的節(jié)奏?。?/p>
發(fā)布會(huì)下來(lái),很多用戶(hù)被Google Assistant的智能程度嚇到了。
這些強(qiáng)大的人工智能靠的是強(qiáng)大的第二代Tensor處理單元TPU。它能有效地將Google服務(wù)器變?yōu)榫哂?1.5千萬(wàn)億次浮點(diǎn)計(jì)算能力的超級(jí)計(jì)算機(jī)。
第二代TPU被稱(chēng)作“CloudTPU”,將通過(guò)谷歌云平臺(tái)向所有人開(kāi)放。谷歌云平臺(tái)的開(kāi)發(fā)者仍可以使用傳統(tǒng)芯片去進(jìn)行設(shè)計(jì),如英偉達(dá)VoltaGPU或者英特爾Skylake等。這是一個(gè)云計(jì)算硬件和軟件系統(tǒng),主要是為了提高機(jī)器學(xué)習(xí)計(jì)算處理所需要的大量負(fù)載,包括訓(xùn)練和推理。
TPU為專(zhuān)用的邏輯電路,單一工作,速度快,但由于其實(shí)ASIC,所以成本高。第一代TPU帶來(lái)了突破性進(jìn)步,但并不是會(huì)完全淘汰CPU和GPU,主要是用來(lái)解決集成電路存在的成本高、耐用性差的問(wèn)題。
而而第二代TPU設(shè)備,可提供高達(dá)每秒180萬(wàn)億次浮點(diǎn)運(yùn)算的性能。CloudTPU的最大好處,則是谷歌的開(kāi)源機(jī)器學(xué)習(xí)框架TensorFlow。開(kāi)發(fā)人員和研究者使用高級(jí)API變成這些TPU,可以更輕松地在CPU、GPU或CloudTPU上訓(xùn)練機(jī)器學(xué)習(xí)模型,而且只需很少的代碼更改。Google還為每個(gè)TPU設(shè)計(jì)了一個(gè)定制的高速網(wǎng)絡(luò),可以組合構(gòu)建一個(gè)名為“CloudTPUpod”的機(jī)器學(xué)習(xí)超級(jí)計(jì)算機(jī)。每一個(gè)CloudTPUpod包含64個(gè)第二代TPU,將Google服務(wù)器變?yōu)榱司哂忻棵?1.5千萬(wàn)億次浮點(diǎn)計(jì)算能力的超級(jí)計(jì)算機(jī),可用于訓(xùn)練單一的大型機(jī)器學(xué)習(xí)模型,或多個(gè)較小的模型。谷歌表示,如果想要訓(xùn)練最新的大規(guī)模翻譯模型,那么使用32顆全球最強(qiáng)大的商用GPU需要一整天時(shí)間,而CloudTPUpod卻只需要1/8的性能,就能在6小時(shí)內(nèi)完成對(duì)該模型的訓(xùn)練。據(jù)稱(chēng),谷歌還在研發(fā)由數(shù)以千計(jì)的TPU組成的TensorFlowResearchCloud。
發(fā)布第二代TPU:將成為英偉達(dá)最大威脅?
發(fā)布了第二代的 Tensor 處理單元(TPU),這是一個(gè)云計(jì)算硬件和軟件系統(tǒng),它將上線 Google Cloud,被稱(chēng)為 Cloud TPU,主要是為了提高機(jī)器學(xué)習(xí)計(jì)算處理所需要大量的負(fù)載,包括訓(xùn)練和推理,這個(gè)可以說(shuō)是為 Google 云計(jì)算平臺(tái)帶來(lái)的巨大福音。這次新的 TPU 設(shè)備可提供高達(dá)每秒 180 萬(wàn)億次浮點(diǎn)運(yùn)算的性能。
據(jù)說(shuō):第二代TPU的速度比Nvidia最新的Tesla V100還快5倍!第二代 TPU 設(shè)備單個(gè)的性能就能提供高達(dá) 180 teraflops 的浮點(diǎn)計(jì)算量。不僅如此,谷歌還將這些升級(jí)版的 TPU 集成在一起成為 Cloud TPU。每個(gè) TPU 都包含了一個(gè)定制的高速網(wǎng)絡(luò),構(gòu)成了一個(gè)谷歌稱(chēng)之為“TPU pod”的機(jī)器學(xué)習(xí)超級(jí)計(jì)算機(jī)。一個(gè)TPU pod 包含 64 個(gè)第二代TPU,最高可提供多達(dá) 11.5 petaflops,加速對(duì)單個(gè)大型機(jī)器學(xué)習(xí)模型的培訓(xùn)。
Pichai 還在演講中表示,使用 TPU pods,谷歌已經(jīng)大幅提升了訓(xùn)練神經(jīng)網(wǎng)絡(luò)的時(shí)間。谷歌的一個(gè)新的大型翻譯模型,以前要 32 顆商業(yè)上最好的 GPU 花費(fèi)一整天的時(shí)間來(lái)訓(xùn)練——現(xiàn)在,只需一個(gè)下午,8 個(gè)第二代 TPU 就能達(dá)到同樣的訓(xùn)練精度。這等于向市場(chǎng)宣布“英偉達(dá)的GPU,去你的!”
AI將越來(lái)越快顛覆人類(lèi)社會(huì)秩序,Google Assistant這樣可怕的人工智能將會(huì)逐步掌控我們的生活!