陳根：Meta先下手為強推出AI大模型MMS_風聞

文/陳根

你懂幾國語言？據相關資料顯示，世界上一共有7000多種語言。但是，我們懂的可能就只有幾種或者幾十種。而目前的計算機語音識別技術所能覆蓋的則有100多種。這對於很多人來説，已經是天文級的數字了。但Meta新開源的語言模型卻有着更大的突破。

自從和OpenAI、Google分道揚鑣之後，Meta便在開源大模型方向上越走越深。日前，Meta在GitHub上新開源的AI語言模型——Massively Multilingual Speech ( MMS，大規模多語種語音)可以識別4000多種口頭語言，是目前已知技術的40倍之多；還擴展了文本與語音之間的轉化技術的涵蓋範圍，從大約100種語言到1100多種。不僅如此，Meta開源的MMS最突出的特點是不僅支持ASR，還支持TTS，也就是説不僅可以語音轉文字，還可以文字轉語音。

Meta的官網blog上特別提到的Tatuyo語，一種只有幾百人在使用的小語種。雖然對於日常來説沒什麼用，但是對於研究來説卻是一個很好的助手。那麼，對於這種只有幾百人使用的小語種，如何才能找到並有效的提煉數據集呢？

Meta介紹説，他們在數千種語言的音頻數據收集過程中，使用了一種非常規的方法——宗教文本錄音。“我們轉向已被翻譯成許多不同語言的宗教文本（例如《聖經》），並且其翻譯已被廣泛研究用於基於文本的語言翻譯研究。而且，這些譯本都有公開錄音，記錄了人們採用不同語言進行閲讀的情景。”

同時，Meta 在 MMS 模型的訓練中結合使用了公司的 “自監督語音表示學習”模型 wav2vec 2.0，使機器能夠在不依賴標記訓練數據的情況下進行學習；有了它，就可以在更少的數據上訓練語音識別模型。

而對於此種方式可能導致的模型偏向性，Meta聲稱，“雖然這些數據來自特定領域，並且通常由男性閲讀；但我們的分析表明，我們的模型在男性和女性聲音方面表現同樣出色。雖然錄音的內容是宗教的，但我們的分析表明，這並不會使模型偏向於產生更多的宗教語言。”

在使用1B參數的wav2vec 2.0模型對1100多種語言進行多語言語音識別模型的訓練的時候，研發人員發現，隨着語言數量的增加，性能會有所下降，但非常輕微：從61種語言到1107種語言，字符錯誤率只增加約0.4%，但語言覆蓋率卻增加了17倍以上。”

就此問題，Meta還與OpenAI的Whisper做了詳細的對比，在數據上訓練的模型實現了一半的單詞錯誤率，並且訓練數據更少：Meta的訓練數據只有45k小時的標註數據，要比Whisper少10倍，而語言支持卻多了10倍，這是一個大的提高。不過，Meta亦表示它的新模型並不完美，“例如，語音轉文本模型可能會錯誤轉錄選定的單詞或短語，這存在一定風險。但是，我們仍然相信，整個 AI 社區的協作對於負責任地開發 AI 技術至關重要。”而目前，Meta 已經開源了相關的模型和代碼，以便研究社區中的其他人可以在此工作基礎上進行構建。

對於語音大模型的未來，Meta並沒有完全做好設想，但他們希望可以通過稱也做了設想，希望可以通過一個模型解決所有語言的多個語音任務。“我們為語音識別、語音合成和語言識別訓練了不同的模型，但我們有理由相信在未來，一個模型將能夠完成所有這些任務以及更多任務，從而帶來更好的整體性能”，Meta 説道。

放眼未來，Meta希望擴大MMS的覆蓋範圍以支持更多語言，並改進其對方言的處理。進一步打破世界各地人羣之間的語言障礙，讓來自全球每個角落的人們都可以通過聲音正常交流。這是一個美好的願景，但我們相信這一天的遲早是要到來的。