Statistické metody zpracování přirozených jazyků - NPFL147

• Anglický název: Statistical Methods in Natural Language Processing
• Podoba výuky: přednáška+cvičení
• Zajišťuje: Ústav formální a aplikované lingvistiky (32-UFAL)
• Fakulta: Matematicko-fyzikální fakulta
• Platnost: od 2025
• Počet semestrů výuky: 1
• Semestr: zimní
• E-Kredity: 6
• Rozsah, examinace: zimní s.:2/2, Z+Zk [HT]
• Počet míst: neomezen
• Maximální kapacita předmětu: neomezen
• Minimální obsazenost: neomezen
• 4EU+: ne
• Virtuální mobilita / počet míst pro virtuální mobilitu: ne
• Stav předmětu: vyučován
• Jazyk výuky: čeština, angličtina
• Forma uskutečňování: prezenční
• Další informace: https://ufal.mff.cuni.cz/courses/npfl147
• Možnost opakovaného zápisu: 2 / 2 / 2 / 2
• Garant: doc. RNDr. Pavel Pecina, Ph.D.
• Vyučující: Mgr. Jindřich Helcl, Ph.D.; doc. RNDr. Pavel Pecina, Ph.D.
• Třída: DS, matematická lingvistika; Informatika Mgr. - Matematická lingvistika
• Kategorizace předmětu: Informatika > Počítačová a formální lingvistika
• Je záměnnost pro: NPFL068, NPFL067

Anotace

čeština

Cílem je seznámit posluchače se základními pojmy z počítačové lingvistiky a se základy pravděpodobnostních a statistických metod pro jazykové modelování.

Poslední úprava: Mírovský Jiří, RNDr., Ph.D. (23.05.2025)

angličtina

The aim is to familiarize students with basic concepts of computational linguistics and the basics of probabilistic and statistical methods for language modeling.

Poslední úprava: Mírovský Jiří, RNDr., Ph.D. (23.05.2025)

Podmínky zakončení předmětu

čeština

K absolvování předmětu je zapotřebí zápočet i zkouška.

Zápočet bude udělen po splnění domácích úkolů. Na domácí úkoly jsou k dispozici celkem dva opravné pokusy, v každém z nich lze opravit jeden nebo více úkolů najednou.

Výsledná známka bude záviset na výsledcích zkoušky a řešení domácích úkolů.

Zkouška je písemnou formou a je dovoleno mít k ruce učebnici nebo kopie slajdů k přednášce nebo používat internet. Pro určení výsledné známky je váha zkoušky stejná jako váha jednoho domácího úkolu.

Poslední úprava: Helcl Jindřich, Mgr., Ph.D. (19.08.2026)

angličtina

To pass the course, both the course credit and the exam must be completed.

The course credit will be awarded upon completion of the homework assignments. There are two resubmission attempts available in total, each of which may cover one or more assignments at the same time.

The final grade will be based on the results of the exam and the homework assignments.

The open-book exam is in written form. Students are allowed to use a textbook, lecture slide printouts, or the internet. The exam carries the same weight in the final grade as one homework assignment.

Poslední úprava: Helcl Jindřich, Mgr., Ph.D. (19.08.2026)

Literatura

čeština

Jurafsky, D. and J. Martin: Speech and Language Processing. Prentice Hall. 3rd edition, 2025.

Cover, T. M. and J. A. Thomas: Elements of Information Theory. Wiley. 1991. ISBN 0-471-06259-6.

Manning, C. D. and H. Schütze: Foundations of Statistical Natural Language Processing. The MIT Press. 1999. ISBN 0-262-13360-1.

Poslední úprava: Mírovský Jiří, RNDr., Ph.D. (23.05.2025)

Sylabus

čeština

1. Úvod, pravděpodobnost, základy teorie informace

2. Statistické jazykové modelování (n-gram)

3. Statistické vlastnosti slov

4. Vektorové reprezentace slov (word embeddings)

5. Skryté Markovovy modely, značkování (tagging)

Poslední úprava: Mírovský Jiří, RNDr., Ph.D. (23.05.2025)

angličtina

1. Introduction, Probability, Essential Information Theory

2. Statistical language modelling (n-gram)

3. Statistical properties of words

4. Word embeddings

5. Hidden Markov models, Tagging

Poslední úprava: Mírovský Jiří, RNDr., Ph.D. (23.05.2025)