Google的研究人員開(kāi)源了一個(gè)新框架，該框架可以在數(shù)千臺(tái)機(jī)器上擴(kuò)大人工智能模型的培訓(xùn)。

谷歌在一份研究論文中指出，這是一個(gè)有前途的發(fā)展，因?yàn)樗鼞?yīng)該使AI算法訓(xùn)練能夠以每秒數(shù)百萬(wàn)幀的速度執(zhí)行，同時(shí)將這樣做的成本降低多達(dá)80%。

這種減少可能有助于為那些以前無(wú)法與AI等主要參與者競(jìng)爭(zhēng)的初創(chuàng)公司提供公平的競(jìng)爭(zhēng)環(huán)境。實(shí)際上，在云中訓(xùn)練復(fù)雜的機(jī)器學(xué)習(xí)模型的成本令人驚訝地昂貴。

Synced最近的一份報(bào)告發(fā)現(xiàn)，華盛頓大學(xué)花費(fèi)了25，000美元來(lái)訓(xùn)練其Grover模型，該模型用于檢測(cè)和生成假新聞。同時(shí)，OpenAI每小時(shí)支付256美元來(lái)訓(xùn)練其GPT-2語(yǔ)言模型，而Google本身花費(fèi)約6，912美元來(lái)訓(xùn)練其BERT模型來(lái)進(jìn)行自然語(yǔ)言處理任務(wù)。

SEED RL構(gòu)建在TensorFlow 2.0框架之上，并通過(guò)利用圖形處理單元和張量處理單元的組合來(lái)集中模型推斷。然后使用訓(xùn)練模型的學(xué)習(xí)器組件集中執(zhí)行推斷。

目標(biāo)模型的變量和狀態(tài)信息保持局部狀態(tài)，并在過(guò)程的每個(gè)步驟中將對(duì)它們的觀察結(jié)果發(fā)送給學(xué)習(xí)者。SEED RL還使用基于開(kāi)源通用RPC框架的網(wǎng)絡(luò)庫(kù)來(lái)最大程度地減少延遲。

谷歌的研究人員說(shuō)，SEED RL的學(xué)習(xí)器組件可以擴(kuò)展到數(shù)千個(gè)內(nèi)核，而在環(huán)境中采取步驟與在模型上進(jìn)行推斷以預(yù)測(cè)下一步操作之間進(jìn)行迭代的參與者數(shù)量可以擴(kuò)展到數(shù)千臺(tái)機(jī)器。