近期，來(lái)自于約翰霍普金斯大學(xué)（John Hopkins University）和亞馬遜（Amazon）的研究人員們發(fā)布了一篇論文，介紹他們是如何通過(guò)訓(xùn)練一個(gè)深度學(xué)習(xí)系統(tǒng)來(lái)幫助亞馬遜Alexa語(yǔ)音助手識(shí)別并忽略那些并非是對(duì)她說(shuō)的話，從而將其語(yǔ)義識(shí)別模型的識(shí)別準(zhǔn)確度提高了15%。

研究人員在他們的論文中指出，“諸如Amazon Echo和Google Home的這類(lèi)家用聲控設(shè)備都面臨著一個(gè)問(wèn)題，那就是當(dāng)周?chē)嬖诟蓴_聲源的時(shí)候，設(shè)備如何能夠照常地識(shí)別指令。”

為了讓Alexa更好地識(shí)別指令，研究人員訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，來(lái)匹配和識(shí)別“喚醒詞”（通常是“Alexa”）以及緊隨其后的指令，并忽略那些來(lái)自于其他人或媒體設(shè)備的干擾。

研究人員介紹說(shuō)：“這項(xiàng)任務(wù)的挑戰(zhàn)在于需要從含有特定詞匯的話語(yǔ)片段中學(xué)習(xí)使用者的語(yǔ)言習(xí)慣。借助于兩種不同的神經(jīng)網(wǎng)絡(luò)架構(gòu)，我們最終實(shí)現(xiàn)了這一目標(biāo)。兩個(gè)神經(jīng)網(wǎng)絡(luò)架構(gòu)都是具有注意機(jī)制的序列到序列編碼器 - 解碼器網(wǎng)絡(luò)的變體。”

借助于NVIDIA V100 GPU和OpenSeq2Seq工具，用于序列到序列模型的分布式和混合精度訓(xùn)練，使用TensorFlow建立，團(tuán)隊(duì)用1,200小時(shí)來(lái)自于Amazon Echo的實(shí)時(shí)英文數(shù)據(jù)訓(xùn)練他們的算法。

通過(guò)改進(jìn)所開(kāi)發(fā)的基線網(wǎng)絡(luò)，該團(tuán)隊(duì)還添加了一個(gè)額外的輸入端，能夠通過(guò)優(yōu)先處理類(lèi)似于錨字的語(yǔ)音來(lái)增強(qiáng)注意機(jī)制。研究人員總結(jié)說(shuō)： “在訓(xùn)練期間，注意機(jī)制會(huì)自動(dòng)學(xué)習(xí)喚醒詞的哪些聲學(xué)特征，以便在隨后的演講中尋找?！?/p>

該團(tuán)隊(duì)還開(kāi)發(fā)了一個(gè)mask-based模型，該模型能夠更加明確地將輸入語(yǔ)音與錨字的聲學(xué)輪廓相匹配。

最后的測(cè)試結(jié)果顯示：第一種方法的性能更好，達(dá)到了15%的改進(jìn)；第二種模型也達(dá)到了13%的改進(jìn)。

根據(jù)研究人員介紹，該算法在訓(xùn)練和推理過(guò)程中都采用了NVIDIA GPU。