BERT Transformer 李宏毅 Hung-yi Lee
Transformer 李宏毅 Hung-yi Lee 1
Sequence-to-sequence (Seq2seq) Input a sequence,output a sequence The output length is determined by model. Speech 你好嗎 Recognition N T 機 器學 習 machine learning Machine Translation N N' machine learning 機器學習 Speech Translation Language without text 2
Speech Recognition N T Input a sequence, output a sequence The output length is determined by model. Machine Translation N N’ 機 器 學 習 machine learning Sequence-to-sequence (Seq2seq) Speech Translation 機 器 學 習 machine learning 你 好 嗎 Language without text 2
Hokkien(閩南語、台語) Speech →“母湯” Recognition ???? (Speech of Hokkien) Speech “不行” (Speech of Hokkien) Translation Local soap operas(鄉土割)on YouTube (Speech of Hokkien,Chinese subtitle) Using 1500 hours of data for training 什度，沒有榜棒糖了
Hokkien (閩南語、台語) (Speech of Hokkien) Speech Recognition “母湯” Speech Translation “不行” ??????? … Local soap operas (鄉土劇) on YouTube (Speech of Hokkien, Chinese subtitle) Using 1500 hours of data for training (Speech of Hokkien) 3
Hokkien(閩南語、台語) Background music noises? Don't care Noisy transcriptions? Don't care… ·Phonemes of Hokkien? No "硬train一發” (Ying Train Yi Fa)
Hokkien (閩南語、台語) • Background music & noises? • Noisy transcriptions? • Phonemes of Hokkien? “硬train一發” (Ying Train Yi Fa) Don’t care … Don’t care … No …… 4
咸謝李仲翊同學提供實驗結果 Hokkien(閩南語、台語) 你的身體撐不住 沒事你為什麼要請假 要生了嗎 Answer:不會膩嗎 我有幫廠長拜託 Answer::我拜託廠長了 To learn more:https://sites.google.com/speech.ntut.edu.tw/fsw/home/challenge-2020 5
Hokkien (閩南語、台語) 你 的 身 體 撐 不 住 沒 事 你 為 什 麼 要 請 假 要 生 了 嗎 Answer:不 會 膩 嗎 我 有 幫 廠 長 拜 託 Answer: 我 拜 託 廠 長 了 To learn more: https://sites.google.com/speech.ntut.edu.tw/fsw/home/challenge-2020 感謝 李仲翊 同學提供實驗結果 5