谷歌出手AI芯片和公有云市場 TPU首次對外全面開放

今日報道，谷歌向外宣布TPU將啟動全面開放模式，據(jù)悉這是谷歌TPU首次對外全面開放。TPU的威力極大，它的出現(xiàn)必將給AI芯片和公有云市場將迎來新的變局。Google的機器學習利器Cloud TPU，在今日真的開始面向更多用戶開放了。

谷歌又出手了。又是一個大招。

這次谷歌傳奇Jeff Dean親自在推特上連發(fā)10條，滿懷激動地對外宣布著這個消息：谷歌TPU首次對外全面開放。

AI芯片和公有云市場將迎來新的變局。

之前英偉達的黃仁勛在談到谷歌TPU時，就曾強硬的表示，對TPU的威脅不以為然。當時，老黃還列了列參數(shù)：新的TPU可以實現(xiàn)45 teraflop的運算能力，而英偉達最新的Volta GPU則能達到120 teraflop。

但如果你關(guān)注人工智能，肯定知道TPU的威力。谷歌搜索、翻譯、相冊等應(yīng)用，都有TPU在提供AI加速。更值得一提的是，AlphaGo也是借力TPU，稱霸圍棋界。

而且谷歌這款芯片還專門對AI進行了優(yōu)化。

谷歌在官方博客中表示，在新發(fā)布的Cloud TPU幫助下，不到一天的時間，你就可以在ImageNet上把ResNet-50模型訓練到75%的精度，成本不足200美元。

從現(xiàn)在起，每小時6.5美元，你也能用上谷歌TPU了。

理論上。

Google的機器學習利器Cloud TPU，從今天開始面向更多用戶開放了。

Cloud TPU今天發(fā)布了beta版，這一版本通過谷歌云平臺（Google Cloud Platform， GCP）提供，想幫更多機器學習專家更快地運行模型。

Cloud TPU是谷歌設(shè)計的硬件加速器，專為加速、擴展特定的TensorFlow機器學習工作負載而優(yōu)化。

每個Cloud TPU包含4個定制化的ASIC，單塊板卡的計算能力達到每秒180萬億次浮點運算（180 teraflops），有64GB的高帶寬內(nèi)存。

這些板卡可以單獨使用，也可以通過超高速專用網(wǎng)絡(luò)連接起來，形成“TPU pod”。今年晚些時候，Google會開始通過GCP供應(yīng)這種更大的超級計算機。

Google設(shè)計Cloud TPU的目標，是針對性地為TensorFlow工作負載提供一分錢一分貨的差異化性能，讓研究人員嫩更快地進行迭代。

例如：

你能通過自定義、可控制的Google Compute Engine虛擬機，對聯(lián)網(wǎng)的Cloud TPU進行交互式的、獨享的訪問，而不用等待自己的工作在共享計算集群上排隊。

你能連夜在一組Cloud TPU上訓練出同一個模型的幾個變體，第二天將訓練出來的最精確的模型部署到生產(chǎn)中，而不用等幾天、甚至幾周來訓練關(guān)鍵業(yè)務(wù)機器學習模型。

不到一天的時間，你就可以在ImageNet上把ResNet-50模型訓練到75%的精度，成本不到200美元。

更簡單的機器學習模型訓練

過去，為定制ASIC和超級計算機編程需要深入的專業(yè)知識技能。相比之下，要對Cloud TPU編程，用高級TensorFlow API就可以了，Google還開源了一組高性能的云TPU模型實現(xiàn)，上手更簡單：

Google在博客中說，經(jīng)過對性能和收斂性的不斷測試，這些模型都達到了標準數(shù)據(jù)集的預期精度。

以后，Google會逐漸推出更多模型實現(xiàn)。不過，想要探險的機器學習專家也可以用他們提供的文檔和工具，自行在Cloud TPU上優(yōu)化其他TensorFlow模型。

現(xiàn)在開始用Cloud TPU，等到今年晚些時候Google推出TPU pod的時候，訓練的時間-精度比能得到驚人的提升。

在NIPS 2017上，Google曾宣布ResNet-50和Transformer兩個模型在完整TPU pod上的訓練時間，都從大半天下降到了30分鐘以內(nèi)，不需要改動任何代碼。

云TPU還簡化了機器學習計算資源的規(guī)劃和管理：

你可以為團隊提供最先進的機器學習加速，并根據(jù)需求的變化動態(tài)調(diào)整生產(chǎn)力。

你可以直接用經(jīng)過Google多年優(yōu)化的高度集成機器學習基礎(chǔ)設(shè)施，無需投入大量金錢、時間、專業(yè)人才來設(shè)計、安裝、維護現(xiàn)場機器學習計算集群，不用考慮供電、冷卻、聯(lián)網(wǎng)、存儲要求等問題。

Google Cloud TPU經(jīng)過預先配置，不需要安裝驅(qū)動程序，因此，也不用想方設(shè)法讓一大群工作站和服務(wù)器的驅(qū)動程序保持最新。

和其他Google云服務(wù)一樣，有復雜的安全機制保護著你的數(shù)據(jù)。

Google說要為客戶的每個機器學習負載提供最適合的云服務(wù)，除了TPU之外，他們還提供英特爾Skylake等高性能CPU，和包括英偉達Tesla V100在內(nèi)的高端GPU。

Cloud TPU今天開始提供，數(shù)量有限，按秒計費。每個Cloud TPU每小時6.5美元。

要使用beta版的Cloud TPU，需要填個表，描述一下你要用TPU干什么。

Google說，會盡快讓你用上Cloud TPU。

2月27日，Google還要開一場在線講座，再細致地談一談Cloud TPU。

在Google的博客文章中，提到了兩家客戶使用Cloud TPU的感受。

一家是投資公司Two Sigma。他們的深度學習研究現(xiàn)在主要在云上進行，該公司CTO Alfred Spector說：“將TensorFlow工作負載轉(zhuǎn)移到TPU上，大大降低了編程新模型的復雜性，縮短了訓練時間。”

另一家是共享出行公司Lyft。深度學習正在成為這家公司無人車研究的重要組成部分。