Algoritmy rozpoznávání mluvené řeči - NPFL079

• Anglický název: Algorithms in Speech Recognition
• Zajišťuje: Ústav formální a aplikované lingvistiky (32-UFAL)
• Fakulta: Matematicko-fyzikální fakulta
• Platnost: od 2020
• Semestr: letní
• E-Kredity: 5
• Rozsah, examinace: letní s.:2/2, Z+Zk [HT]
• Počet míst: neomezen
• Minimální obsazenost: neomezen
• 4EU+: ne
• Virtuální mobilita / počet míst pro virtuální mobilitu: ne
• Stav předmětu: vyučován
• Jazyk výuky: čeština, angličtina
• Způsob výuky: prezenční
• Způsob výuky: prezenční
• Další informace: https://ufal.mff.cuni.cz/courses/npfl079
• Garant: Mgr. Nino Peterek, Ph.D.
• Třída: DS, matematická lingvistika; Informatika Mgr. - volitelný
• Kategorizace předmětu: Informatika > Počítačová a formální lingvistika
• Je neslučitelnost pro: NPFX079
• Je záměnnost pro: NPFX079

Anotace

čeština

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (25.04.2019)

Přednáška provádí posluchače současnými postupy a nástroji počítačového zpracování mluvené řeči možňujícími budovat systémy pro automatický přepis a rozpoznávání mluvené řeči, hlasové dialogové systémy či hlasovou identifikaci mluvčích. Budou popsány principy, příprava a dekódovací algoritmy akustických a jazykových modelů (HMM, n-gramové a strukturované jazykové modely, FST, grafové modely, heuristické prohledávání, neuronové sítě).

angličtina

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (25.04.2019)

The course presents recent methodologies and software toolkits for speech recognition. Students will learn how to develop systems of automatic speech recognition and transcription, computer dialogue systems and speaker identification. The course shows principles, preparation and decoding algorithms of statistical acoustic and language models (HMM, n-gram and structured language models, final state transducers, graphical models, Viterbi dynamic programming, heuristic hypothesis search strategies, stack decoder, neural networks).

Podmínky zakončení předmětu

čeština

Poslední úprava: Mgr. Nino Peterek, Ph.D. (10.06.2019)

Vypracování tří malých projektů (první dva na společné zadání, třetí jako naprogramování menší řečové aplikace s pomocí dostupných nástrojů nebo naprogramování rozšiřující funkce řečové knihovny) a ústní zkouška z probraných témat předmětu.

angličtina

Poslední úprava: Mgr. Nino Peterek, Ph.D. (10.06.2019)

For successful completion of course programming of three small projects necessary (speech library functions and a small speech application) and oral exam.

Literatura

čeština

Poslední úprava: Mgr. Nino Peterek, Ph.D. (11.05.2022)

[JEL] F. Jelinek, Statistical Methods for Speech Recognition, MIT Press, 1998

[PSU] J. Psutka, L. Müller, J. Matoušek, V. Radová, Mluvíme s počítačem česky, Academia, 2006

[SPO] X. Huang, A. Acero, H. Hon, Spoken Language Processing, Prentice-Hall, 2001

[DLA] Dong Yu, Li Deng, Automatic Speech Recognition A Deep Learning Approach, Springer, 2015

[KLW] U. Kamath, J. Liu, J. Whitaker, Deep Learning for NLP and Speech Recognition, Springer, 2019

Požadavky ke zkoušce

čeština

Poslední úprava: Mgr. Nino Peterek, Ph.D. (10.06.2019)

Zkouška probíhá ústní formou a pokrývá v hodinách probraná témata.

Zápočet není nutnou podmínkou k účasti u zkoušky.

angličtina

Poslední úprava: Mgr. Nino Peterek, Ph.D. (10.06.2019)

Exam covers presented themes, there is only oral exam.

Finalisation of practical part is not necessary before the exam.

Sylabus

čeština

Poslední úprava: Mgr. Nino Peterek, Ph.D. (11.06.2019)

Přehled řečových technologií

• nesamozřejmosti hlasové komunikace,

• hlavní aplikace oboru a jejich architektura,

• použité teorie a modely,

• programátorské nástroje a knihovny,

• knihy a časopisy řečových technologií.

Modelování akustiky (SPO C8-C9 | JEL C2-C3 | PSU C5.3 | DLA C3+C6, částečně opakování z NPFL038)

• struktura a parametry skrytých Markovových modelů(HMM),

• vyhodnocení skóre promluvy (Viterbi algoritmus),

• trénování parametrů HMM (Baum-Welch a Viterbi algoritmus),

• získání příznaků řeči, ohodnocení akustických příznaků (MFCC, složené gausiány, shlukování parametrů),

• adaptace modelů na mluvčího (MAP, MLLR),

• míra důvěryhodnosti rozpoznávání (confidence measure),

• softwarové nástroje rozpoznávání mluvené řeči (Kaldi).

Modelování jazyka (NPFL067 | JEL C4 | SPO C11 | PSU 5.4)

• metody statistického modelování jazyka,

• n-gramy, vyhlazování modelů (Good-Turing, Katz), adaptační jazykové modely,

• strukturované jazykové modely (PCFG),

• odlišnosti modelování mluveného a psaného jazyka,

• transducery a softwarové nástroje jazykového modelování (Kaldi).

Základní dekódovací techniky (SPO C12 | JEL C5-C6 | PSU C6)

• prohledávací algoritmy řeči (stavové prostory a heuristiky),

• kombinace akustiky a jazykového modelu (uni-, bi-, trigramy),

• časově synchronní prohledávání (Viterbi, prořezávání, lexikální stromy),

• stavově synchronní prohledáván.

Algoritmy rozpoznávání pro rozsáhlé slovníky (SPO C13 | JEL C5-C6 | PSU 6.7.3, 6.7.5, 6.10)

• efektivní manipulace lexikálního stromu,

• seznam N-nejlepších hypotéz a víceprůchodová strategie.

Hlasové dialogové systémy (SPO C17 | PSU C11)

• charakteristiky spontánních dialogů,

• prosodie a struktura dialogu,

• sémantická representace,

• řízení dialogu, detekce emocí,

• Voice XML.

Identifikace řečníka (PSU C9)

• typy systémů,

• vybrané charakteristiky řeči pro rozpoznávání řečníka,

• základní přístupy.

Přednáška volně navazuje na úvodní seminář NPFL038 a vhodně se doplňuje s přednáškami NPFL067, NPFL068, NPFL123.

Na cvičení budou představovány a používány softwarové nástroje a knihovny v návaznosti na probíraná témata.

angličtina

Poslední úprava: Mgr. Nino Peterek, Ph.D. (11.06.2019)

Overview of speech technologies

• wonders of speech recognition,

• main applications and their architectures,

• theories and models overview,

• software toolkits and libraries,

• speech processing books and magazines.

Acoustic Modelling (SPO C8-C9 | JEL C2-C3 | PSU C5.3 | DLA C3+C6, partially repetition of NPFL038)

• definition and parameters of the hidden Markov model (HMM),

• evaluation of an HMM (Forward algorithm),

• training of an HMM (Baum-Welch algorithm),

• extracting features of speech, scoring acoustic features (MFCC, Gaussians mixtures, parameters clustering),

• adaptive techniques (MAP, MLLR),

• confidence measures,

• software toolkits for speech recognition.

Language Modelling (NPFL067 | JEL C4 | SPO C11 | PSU 5.4)

• methods of language modelling,

• n-gram models, smoothing (Good-Turing, Katz), adaptive language models,

• structured language models (PCFG),

• specifics of spoken and writen language modelling,

• transducers and software tools for language modelling.

Basic decoding techniques (SPO C12 | JEL C5-C6 | PSU C6)

• search algorithms (search space and heuristics, A*),

• combining acoustic and language models (uni-, bi-, trigrams),

• time-synchronous search (Viterbi, beam, tree lexicon),

• state-synchronous search.

Large vocabulary search algorithms (SPO C13 | JEL C5-C6 | PSU 6.7.3, 6.7.5, 6.10)

• efficient manipulation of tree lexicon,

• N-best and multipass search strategies.

Automatic dialogue systems (SPO C17 | PSU C11)

• characteristics of spontaneous dialogues,

• prosody and structure of dialogues,

• semantic representation,

• dialogue management, emotion detection,

• VoiceXML.

Speaker identification (PSU C9)

• identification systems overview,

• selected speech features for speaker identification,

• basic methods.

This course can be preceded by NPFL038 and combined with NPFL067, NPFL068, NPFL123.

The software tools and libraries will be introduced and trained in the practical part of course.