Statistické dialogové systémy - NPFX099

• Anglický název: Statistical Dialogue Systems
• Zajišťuje: Studijní oddělení (32-STUD)
• Fakulta: Matematicko-fyzikální fakulta
• Platnost: od 2022
• Semestr: zimní
• E-Kredity: 5
• Rozsah, examinace: zimní s.:2/1, Z+Zk [HT]
• Počet míst: neomezen
• Minimální obsazenost: neomezen
• Virtuální mobilita / počet míst pro virtuální mobilitu: ne
• Stav předmětu: vyučován
• Jazyk výuky: čeština
• Způsob výuky: prezenční
• Způsob výuky: prezenční
• Je zajišťováno předmětem: NPFL099
• Garant: Mgr. et Mgr. Ondřej Dušek, Ph.D.
• Prerekvizity : {NXXX011, NXXX012, NXXX013, NXXX070, NXXX071}
• Neslučitelnost : NPFL099
• Záměnnost : NPFL099
• Je neslučitelnost pro: NPFL099
• Je záměnnost pro: NPFL099

Anotace

čeština

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (25.01.2019)

Předmět představí pokročilé problémy a aktuální výzkum v oblasti dialogových systémů, hlasových asistentů a konverzačních systémů (chatbotů). Po stručném úvodu do tématu se bude zabývat především použitím strojového učení – zejména hlubokého učení/neuronových sítí – jak v jednotlivých částech tradiční architektury dialogových systémů, tak v tzv. end-to-end přístupech (spojování více komponent). Tento předmět volně navazuje na předmět NPFL123 Dialogové systémy, lze ho však absolvovat samostatně. Rozpoznávání a syntéza řeči se v předmětu probírá pouze okrajově.

angličtina

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (25.01.2019)

This course will present advanced problems and current state-of-the-art in the field of dialogue systems, voice assistants, and conversational systems (chatbots). After a brief introduction into the topic, the course will focus mainly on the application of machine learning – especially deep learning/neural networks – in the individual components of the traditional dialogue system architecture as well as in end-to-end approaches (joining multiple components together). This course is a loose follow up to the course NPFL123 Dialogue Systems, but can be taken independently.

Podmínky zakončení předmětu

čeština

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (13.05.2019)

Složení zkoušky (písemný test založený na odpřednesené látce), plnění zápočtových úkolů na cvičení (implementace modelů strojového učení pro dialogové systémy).

angličtina

Poslední úprava: doc. Mgr. Barbora Vidová Hladká, Ph.D. (13.05.2019)

Passing the final exam (written test based on the contents of lectures), finishing lab session homeworks (implementation of machine learning models for dialogue systems).

Literatura

čeština

Poslední úprava: Mgr. et Mgr. Ondřej Dušek, Ph.D. (10.05.2022)

• McTear: Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots. Morgan & Claypool 2021.

• Jurafsky & Martin: Speech & Language processing. 3rd ed. draft, kap. 24-25, https://web.stanford.edu/~jurafsky/slp3/

• Lemon & Pietquin (eds.): Data-Driven Methods for Adaptive Spoken Dialogue Systems. Springer 2012, http://www.springer.com/gb/book/9781461448020

• Rieser & Lemon: Reinforcement learning for adaptive dialogue systems. Springer 2011. http://www.springer.com/gp/book/9783642249419

• Jokinen & McTear: Spoken dialogue systems. Morgan & Claypool 2010. https://books.google.co.uk/books/about/Spoken_Dialogue_Systems.html?id=ualwulnD020C

• McTear et al.: The Conversational Interface: Talking to Smart Devices. Springer 2016.

• Gao et al.: Neural Approaches to Conversational AI: Question Answering, Task-oriented Dialogues and Social Chatbots. now publishers 2019. http://arxiv.org/abs/1809.08267

• Psutka et al.: Mluvíme s počítačem česky. Academia 2006.

• + aktuální články z oboru

angličtina

Poslední úprava: Mgr. et Mgr. Ondřej Dušek, Ph.D. (10.05.2022)

• McTear: Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots. Morgan & Claypool 2021.

• Jurafsky & Martin: Speech & Language processing. 3rd ed. draft, Chapter 24-25, https://web.stanford.edu/~jurafsky/slp3/

• Lemon & Pietquin (eds.): Data-Driven Methods for Adaptive Spoken Dialogue Systems. Springer 2012. http://www.springer.com/gb/book/9781461448020

• Rieser & Lemon: Reinforcement learning for adaptive dialogue systems. Springer 2011. http://www.springer.com/gp/book/9783642249419

• Jokinen & McTear: Spoken dialogue systems. Morgan & Claypool 2010. https://books.google.co.uk/books/about/Spoken_Dialogue_Systems.html?id=ualwulnD020C

• McTear et al.: The Conversational Interface: Talking to Smart Devices. Springer 2016.

• Gao et al.: Neural Approaches to Conversational AI: Question Answering, Task-oriented Dialogues and Social Chatbots. now publishers 2019. http://arxiv.org/abs/1809.08267

• Psutka et al.: Mluvíme s počítačem česky. Academia 2006.

• + current papers from the field

Sylabus

čeština

Poslední úprava: Mgr. et Mgr. Ondřej Dušek, Ph.D. (10.05.2022)

Dialogové systémy - stručný úvod

• uplatnění dialogových systémů

• základní komponenty dialogového systému

• reprezentace znalostí v dialogovém systému

• data a evaluace

• lingvistické aspekty dialogu

Porozumění jazyku (NLU)

• sémantická reprezentace promluv

• statistické metody pro NLU

Řízení dialogu

• reprezentace dialogu jako (částečně pozorovatelný) markovovský rozhodovací proces (PO)MDP

• sledování stavu dialogu

• výběr optimální akce

• zpětnovazební učení

• simulace uživatele

• hluboké zpětnovazební učení (pomocí neuronových sítí)

Generování odpovědi (NLG)

• úvod do NLG, základní metody (šablony)

• generování pomocí neuronových sítí

End-to-end dialogové systémy

• trénování z konverzací na omezené doméně

• multi-task learning

• vícedoménové systémy, few-shot learning

• použití předtrénovaných jazykových modelů

Systémy pro otevřené domény (chatboty)

• generativní systémy (sequence-to-sequence, hierarchické modely)

• vyhledávání informací

• hybridní systémy

Etické otázky dialogových systémů

Multimodální systémy

• klasické multimodální systémy

• neuronové systémy, visual dialogue

angličtina

Poslední úprava: Mgr. et Mgr. Ondřej Dušek, Ph.D. (10.05.2022)

Brief introduction into dialogue systems

• dialogue systems applications

• basic components of dialogue systems

• knowledge representation in dialogue systems

• data and evaluation

• linguistic aspects of dialogue

Natural language understanding (NLU)

• semantic representation of utterances

• statistical methods for NLU

Dialogue management

• dialogue representation as a (Partially Observable) Markov Decision Process

• dialogue state tracking

• action selection

• reinforcement learning

• user simulation

• deep reinforcement learning (using neural networks)

Response generation (NLG)

• introduction to NLG, basic methods (templates)

• generation using neural networks

End-to-end dialogue systems

• training based on dialogue logs in a limited domain

• multi-task learning

• multi-domain systems, few-shot learning

• use of pretrained language models

Open-domain systems (chatbots)

• generative systems (sequence-to-sequence, hierarchical models)

• information retrieval

• hybrid systems

Ethical issues in dialogue systems

Multimodal systems

• classical multimodal dialogue systems

• neural systems, visual dialogue