會(huì)自學(xué)的四足機(jī)器人，3.5個(gè)小時(shí)學(xué)會(huì)走路！

近日，Google的最新研究可能會(huì)使這種學(xué)習(xí)過程變得更加簡單。

谷歌，加州大學(xué)伯克利分校和佐治亞理工學(xué)院的研究人員聯(lián)合發(fā)表了一篇論文，構(gòu)建了一個(gè)通過AI自學(xué)走路的四足機(jī)器人，并將它取名為“RainbowDash”。

RainbowDash只需要幾個(gè)小時(shí)就可以完全獨(dú)立的向前走和向后走，以及左右轉(zhuǎn)彎。

研究人員在學(xué)習(xí)如何在三種不同地形上行走的任務(wù)上測試了這個(gè)系統(tǒng)：

平坦的地面，柔軟的床墊和帶有縫隙的門墊。

根據(jù)論文中的測試數(shù)據(jù)顯示，RainbowDash在堅(jiān)硬平坦的地面上學(xué)習(xí)走路需要1.5個(gè)小時(shí)，在由記憶海綿材質(zhì)的床墊上大約需要5.5個(gè)小時(shí)，在鏤空的地毯上大約需要4.5個(gè)小時(shí)。

總結(jié)起來：RainbowDash平均只需要大約3.5小時(shí)來學(xué)習(xí)向前、向后和左右轉(zhuǎn)彎等運(yùn)動(dòng)。

而根據(jù)世界紀(jì)錄，嬰兒從爬行到學(xué)會(huì)行走的最快速度是6個(gè)月。

具體來說，RainbowDash結(jié)合了深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)兩種不同類型的AI技術(shù)。通過深度學(xué)習(xí)，系統(tǒng)可以處理和評估來自其身處環(huán)境的原始輸入數(shù)據(jù)；通過強(qiáng)化學(xué)習(xí)，算法可以反復(fù)試驗(yàn)，以學(xué)習(xí)如何執(zhí)行任務(wù)，并根據(jù)完成的程度來獲得獎(jiǎng)勵(lì)和懲罰。

也就是說，通過上述的這種方式，機(jī)器人便可以在其不了解環(huán)境中實(shí)現(xiàn)自動(dòng)控制策略。

在以往的此類實(shí)驗(yàn)中，研究人員最初都會(huì)讓機(jī)器人通過模擬來學(xué)習(xí)真實(shí)世界的環(huán)境。在仿真環(huán)境中，機(jī)器人的虛擬體首先與虛擬環(huán)境進(jìn)行交互，然后，算法接收這些虛擬數(shù)據(jù)，直到系統(tǒng)有能力應(yīng)對這些數(shù)據(jù)，一個(gè)搭載系統(tǒng)的物理形態(tài)的機(jī)器人才會(huì)被放置到現(xiàn)實(shí)環(huán)境中進(jìn)行實(shí)驗(yàn)。

這種方法有助于避免在試錯(cuò)過程中對機(jī)器人及其周圍環(huán)境造成損害。

不過，環(huán)境雖然容易建模，但通常耗時(shí)長，而且現(xiàn)實(shí)環(huán)境中充滿了各種意想不到的情況，因此，在模擬環(huán)境中訓(xùn)練機(jī)器人的意義有限。畢竟，此類研究的最終目標(biāo)恰恰是讓機(jī)器人為現(xiàn)實(shí)世界的場景做好準(zhǔn)備。

Google和佐治亞理工學(xué)院以及加州大學(xué)伯克利分校的研究人員則在一開始就在真實(shí)環(huán)境中對Rainbow Dash進(jìn)行訓(xùn)練，這樣一來，機(jī)器人不僅能夠很好地適應(yīng)自己所處的環(huán)境，也能夠更好地適應(yīng)相似的環(huán)境。

盡管研究團(tuán)隊(duì)將RainbowDash的學(xué)習(xí)能力歸功于它自己，但人為干預(yù)仍在實(shí)現(xiàn)該目標(biāo)方面發(fā)揮了重要作用。

例如研究人員必須創(chuàng)建邊界，機(jī)器人可以在該邊界內(nèi)學(xué)習(xí)走路，以防止機(jī)器人離開該區(qū)域。他們還必須設(shè)計(jì)特定的算法來防止機(jī)器人摔倒，其中一些算法集中在限制機(jī)器人的運(yùn)動(dòng)上。

為了防止諸如墜落損壞之類的事故，通常在數(shù)字環(huán)境中進(jìn)行機(jī)器人強(qiáng)化學(xué)習(xí)，然后再將算法轉(zhuǎn)移到物理機(jī)器人上以保持其安全性。

據(jù)悉，研究人員希望他們的算法能適用于不同種類的機(jī)器人，或適用于多個(gè)機(jī)器人在同一環(huán)境中同時(shí)進(jìn)行學(xué)習(xí)。研究人員相信，破解機(jī)器人的運(yùn)動(dòng)能力將是解鎖更多實(shí)用機(jī)器人的關(guān)鍵。

最后放上論文下載地址：https://arxiv.org/pdf/2002.08550.pdf

-END-