加持Transformer系統,Google翻譯突出解決語(yǔ)義問(wèn)題
優(yōu)化后的系統將會(huì )利用單詞之間的關(guān)聯(lián)性來(lái)提高正確率。
據了解,9月1日,Google表示,他們利用Transformer系統完成了對Google翻譯的優(yōu)化,解決了同一單詞在文章中出現不同翻譯結果的問(wèn)題。
對于Google翻譯此前存在的問(wèn)題,Google自然語(yǔ)言部門(mén)的Jakob Uszkoreit舉例做出了解釋?zhuān)昧藘蓚€(gè)句子,如下:
I arrived at the bank after crossing the street.
I arrived at the bank after crossing the river.
顯然,兩句中“bank”的意思不同,但是對于Google翻譯系統的算法來(lái)說(shuō),它很難辨別出對于該單詞的哪一種翻譯是正確的,正常翻譯情況下,Google翻譯會(huì )根據前后語(yǔ)義最終決定句子的不確定單詞的釋義。
雖然,研究人員可以通過(guò)修改神經(jīng)網(wǎng)絡(luò ),讓其在翻譯過(guò)程中進(jìn)行反復查錯,但這樣是十分低效的。
對此,Google采取的解決方案是采用注意力機制,他們將其內置一個(gè)稱(chēng)為T(mén)ransformer的系統來(lái)解決這個(gè)問(wèn)題。
具體來(lái)看,它將每個(gè)單詞與句子中的其他單詞進(jìn)行比較,以查看其中的任何一個(gè)是否會(huì )以某種關(guān)鍵的方式相互影響。
當句子在翻譯的過(guò)程中,該機制會(huì )將每個(gè)單詞與相關(guān)單詞組合在一起的意思進(jìn)行匹配比較,如下動(dòng)圖所示:
最后Transformer系統會(huì )根據該單詞與其相關(guān)單詞之間的相關(guān)性打分,從而挑選出最佳釋義。
昨天,若有人嘗試利用Google翻譯,會(huì )發(fā)現頁(yè)面是無(wú)法打開(kāi)的,筆者原以為是網(wǎng)站維護出現問(wèn)題,不曾料想Google已經(jīng)悄然完成了對其翻譯系統的一次升級。不過(guò),雖然Google翻譯已經(jīng)進(jìn)行了優(yōu)化,但如果我們想要看見(jiàn)明顯的效果,還需耐心等待系統自己學(xué)習一段時(shí)間。
最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!
硬科技產(chǎn)業(yè)媒體
關(guān)注技術(shù)驅動(dòng)創(chuàng )新
