This course will present advanced problems and current state-of-the-art in the field of dialogue systems, voice assistants, and conversational systems (chatbots). After a brief
introduction into the topic, the course will focus mainly on the application of machine learning – especially deep learning/neural networks – in the individual components of the
traditional dialogue system architecture as well as in end-to-end approaches (joining multiple components together). This course is a loose follow up to the course NPFL123
Dialogue Systems, but can be taken independently.
Last update: Vidová Hladká Barbora, doc. Mgr., Ph.D. (25.01.2019)
Předmět představí pokročilé problémy a aktuální výzkum v oblasti dialogových systémů, hlasových asistentů a konverzačních systémů (chatbotů). Po stručném úvodu do tématu se bude zabývat
především použitím strojového učení – zejména hlubokého učení/neuronových sítí – jak v jednotlivých částech tradiční architektury dialogových systémů, tak v tzv. end-to-end přístupech
(spojování více komponent). Tento předmět volně navazuje na předmět NPFL123 Dialogové systémy, lze ho však absolvovat samostatně. Rozpoznávání a syntéza řeči se v předmětu probírá
pouze okrajově.
Last update: Vidová Hladká Barbora, doc. Mgr., Ph.D. (25.01.2019)
Course completion requirements -
Passing the final exam (written test based on the contents of lectures), finishing lab session homeworks (implementation of machine learning models for dialogue systems).
Last update: Vidová Hladká Barbora, doc. Mgr., Ph.D. (13.05.2019)
Složení zkoušky (písemný test založený na odpřednesené látce), plnění zápočtových úkolů na cvičení (implementace modelů strojového učení pro dialogové systémy).
Last update: Vidová Hladká Barbora, doc. Mgr., Ph.D. (13.05.2019)
Literature -
McTear: Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots. Morgan & Claypool 2021.
McTear et al.: The Conversational Interface: Talking to Smart Devices. Springer 2016.
Gao et al.: Neural Approaches to Conversational AI: Question Answering, Task-oriented Dialogues and Social Chatbots. now publishers 2019. http://arxiv.org/abs/1809.08267
Psutka et al.: Mluvíme s počítačem česky. Academia 2006.
+ current papers from the field
Last update: Dušek Ondřej, Mgr. et Mgr., Ph.D. (10.05.2022)
McTear: Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots. Morgan & Claypool 2021.
McTear et al.: The Conversational Interface: Talking to Smart Devices. Springer 2016.
Gao et al.: Neural Approaches to Conversational AI: Question Answering, Task-oriented Dialogues and Social Chatbots. now publishers 2019. http://arxiv.org/abs/1809.08267
Psutka et al.: Mluvíme s počítačem česky. Academia 2006.
+ aktuální články z oboru
Last update: Dušek Ondřej, Mgr. et Mgr., Ph.D. (10.05.2022)
Syllabus -
Brief introduction into dialogue systems
dialogue systems applications
basic components of dialogue systems
knowledge representation in dialogue systems
data and evaluation
linguistic aspects of dialogue
Natural language understanding (NLU)
semantic representation of utterances
statistical methods for NLU
Dialogue management
dialogue representation as a (Partially Observable) Markov Decision Process
dialogue state tracking
action selection
reinforcement learning
user simulation
deep reinforcement learning (using neural networks)
Response generation (NLG)
introduction to NLG, basic methods (templates)
generation using neural networks
End-to-end dialogue systems
training based on dialogue logs in a limited domain
multi-task learning
multi-domain systems, few-shot learning
use of pretrained language models
Open-domain systems (chatbots)
generative systems (sequence-to-sequence, hierarchical models)
information retrieval
hybrid systems
Ethical issues in dialogue systems
Multimodal systems
classical multimodal dialogue systems
neural systems, visual dialogue
Last update: Dušek Ondřej, Mgr. et Mgr., Ph.D. (10.05.2022)
Dialogové systémy - stručný úvod
uplatnění dialogových systémů
základní komponenty dialogového systému
reprezentace znalostí v dialogovém systému
data a evaluace
lingvistické aspekty dialogu
Porozumění jazyku (NLU)
sémantická reprezentace promluv
statistické metody pro NLU
Řízení dialogu
reprezentace dialogu jako (částečně pozorovatelný) markovovský rozhodovací proces (PO)MDP
sledování stavu dialogu
výběr optimální akce
zpětnovazební učení
simulace uživatele
hluboké zpětnovazební učení (pomocí neuronových sítí)
Generování odpovědi (NLG)
úvod do NLG, základní metody (šablony)
generování pomocí neuronových sítí
End-to-end dialogové systémy
trénování z konverzací na omezené doméně
multi-task learning
vícedoménové systémy, few-shot learning
použití předtrénovaných jazykových modelů
Systémy pro otevřené domény (chatboty)
generativní systémy (sequence-to-sequence, hierarchické modely)
vyhledávání informací
hybridní systémy
Etické otázky dialogových systémů
Multimodální systémy
klasické multimodální systémy
neuronové systémy, visual dialogue
Last update: Dušek Ondřej, Mgr. et Mgr., Ph.D. (10.05.2022)
