11000 - Univerzita Karlova | |
249/24 | |
29.5.2024 | |
29.5.2034 |
Univerzita Karlova | |
Hluboké učení | |
Prezenční | |
angličtina | |
Hluboké učení | |
Cílem kurzu je poskytnout ucelený úvod do hlubokých neuronových sítí, které dosahují vynikající úspěšnosti při zpracování a generování obrázků, textu a řeči. Kurz se zaměřuje jak na teorii od základů po nejnovější pokroky, tak na praktické implementace v jazyce Python a frameworku PyTorch (studenti implementují a trénují hluboké neuronové sítě provádějící klasifikaci obrazu, segmentaci obrazu, detekci objektů, morfologické značkování, lemmatizaci, rozpoznávání řeči, porozumění čtenému textu a generování obrázků). Jsou vyžadovány základní znalosti algebry a jazyka Python, ale není nutná předchozí znalost umělých neuronových sítí; výhodou je základní znalost strojového učení. Studenti pracují buď samostatně, nebo v malých týmech na týdenních úkolech, včetně soutěžních úloh, kde je cílem dosáhnout co nejlepších výsledků z odevzdaných řešení. |
|
Kurz pokrývá následující techniky a úlohy: • Dopředné hluboké neuronové sítě (základní architektury a aktivační funkce; optimalizační algoritmy) • Regularizace hlubokých modelů (L2, dropout, label smoothing, batch normalization) • Konvoluční neuronové sítě (klasifikace obrazu, segmentace obrazu, rozpoznání objektů v obrazu, dotrénování předtrénovaných modelů) • Rekurentní neuronové sítě (LSTM, GRU, seq2seq) • Transformer architektura • Zpracování přirozeného jazyka (distribuovaná a kontextualizovaná reprezentace slov, BERT, morfologické značkování, rozpoznávání pojmenovaných entit, lemmatizace, strojový překlad) • Hluboké generativní modely (variační autoenkodéry, generativní protivnické sítě, difúzní modely, generování obrazu a řeči) • Strukturovaná predikce (CTC a rozpoznání řeči, seq2seq) • Úvod do hlubokého zpětnovazebního učení |
|
Uchazeči by měli mít základní znalosti programování v jazyce Python a základní znalosti algebry (matice, vektory) a matematické analýzy (co je derivace). Tyto znalosti je ale případně možné získat v průběhu kurzu samostudiem. Předchozí znalosti strojového učení nejsou nutné. | |
Znalosti: Student popíše a vysvětlí základní stavební kameny hlubokých neuronových sítí (FFN, RNN, CNN, Transformer), základní architektury (zpracování a generování obrazu, textu, řeči), optimalizační algoritmy (SGD, Adam) a regularizační techniky (dropout, batch norm, …). Student charakterizuje základní frameworky a hardwarové akcelerátory pro implementaci hlubokých sítí. Dovednosti: Student implementuje výše uvedené základní architektury ve frameworku pro implementaci hlubokých neuronových sítí. Student dokáže k trénování využít HW akcelerátor. Student porozumí odbornému vědeckému článku z oblasti hlubokého učení. Kompetence: Student navrhne způsob řešení nové (jemu dosud neznámé) úlohy z oblasti zpracování obrazu, textu, řeči a sám ho naimplementuje a vyhodnotí. |
|
https://ufal.mff.cuni.cz/courses/npfl138 | |
RNDr. Milan Straka, Ph.D. |
11000 - Univerzita Karlova | |
249/24 | |
29.5.2024 | |
29.5.2034 |
8 | |
210 hodin | |
délka kurzu je včetně očekávané domácí práce (to je přesně z žádosti o akreditaci; vychází pak 26.25 hodin práce na jeden kredit; tato hodnota musí být v rozsahu 25-30). Samotná přímá výuka činí necelých 50 šedesátiminutých hodin (65 vyučovacích hodin o délce 45 minut), zbytek je samostatná práce. | |
1 | |
Vývoj a analýzy softwaru a aplikací | |
Hodnocený úkol Písemná zkouška |
|
Úroveň 7 | |
Institucionální mechanismus zajišťování kvality |
18.02.2025 | |
30.9.2025 | |
samotné přednášky končí 22. května 2025, úkoly je možné vypracovávat do 30. června 2025, zkoušku je možné složit do konce akademického roku | |
2024/2025 | |
letní semestr | |
Malostranské náměstí 25 , 118 00, Praha | |
S5 / S3 / S9 (jsou dvě paralelní přednášky, dvě paralelní cvičení a nepovinná konzultace; vše je vždy z jedné z uvedených učeben) |
RNDr. Milan Straka, Ph.D. | |
5000 Kč / kurz | |
03.02.2025 - 30.09.2025 | |
Bc. Magdaléna Kokešová | |
magdalena.kokesova@matfyz.cuni.cz | |
95155 1630 |