OS - Artificial neural networks in biomedical research - DV01152

• Title: VP - Umělé neuronové sítě v biomedicínském výzkumu
• Guaranteed by: Ústav bioinformatiky (13-831)
• Faculty: Second Faculty of Medicine
• Actual: from 2023
• Semester: winter
• Points: 3
• E-Credits: 3
• Examination process: winter s.:
• Hours per week, examination: winter s.:0/20, C [HS]
• Capacity: unknown / 10 (10)
• Min. number of students: 3
• 4EU+: no
• Virtual mobility / capacity: no
• State of the course: taught
• Language: Czech
• Teaching methods: full-time
• Teaching methods: full-time
• Note: course can be enrolled in outside the study plan; enabled for web enrollment; priority enrollment if the course is part of the study plan
• Guarantor: Mgr. Jan Stuchlý, Ph.D.

Annotation

Last update: Stanislava Palowska (13.09.2021)

Předmět je určen studentům, kteří se chtějí seznámit s moderními technikami strojového učení a jejich aplikacemi v biomedicínském výzkumu. V uplynulých zhruba 10 letech se techniky "hlubokého učení" (deep learning) prosadily napříč obory a v posledních letech se navíc staly díky vývoji software s vysokou úrovní abstrakce (např. modul Keras v jazyce python) přístupnými pro vědce a specialisty bez rozsáhlých technických znalostí. Cílem tohoto jednosemestrálního kurzu je i) vyložit základní myšlenky hlubokého učení, ii) vysvětlit praktickou problematiku trénování modelu, iii) vyzkoušet si tvorbu modelů v prostředí Tensorflow/Keras a iv) aplikovat vyložené na medicínsky zajímavé problémy. Hloubka a rozsah těchto čtyř okruhů bude do značné míry záviset na odborném zájmu posluchačů a přes relativně technický sylabus (viz níže) bude kladen důraz zejména na abstrakci od technických detailů a aplikace na praktické problémy.

Course completion requirements

Last update: Mgr. Jan Stuchlý, Ph.D. (28.08.2023)

Aktivní účast na seminářích, vyřešení 2 domácích úkolů.

Requirements to the exam

Last update: Stanislava Palowska (13.09.2021)

žádné požadavky, předmět zakončen zápočtem

Syllabus

Last update: Mgr. Jan Stuchlý, Ph.D. (25.07.2023)

Předmět je určen studentům, kteří se chtějí seznámit s moderními technikami strojového učení a jejich aplikacemi v biomedicínském výzkumu. V uplynulých zhruba 10 letech se techniky "hlubokého učení" (deep learning) prosadily napříč obory a posledních letech se navíc staly díky vývoji software s vysokou úrovní abstrakce (např. modul Keras v jazyce python) přístupnými pro vědce a specialisty bez rozsáhlých technických znalostí. Cílem tohoto jednosemestrálního kurzu je i) vyložit základní myšlenky hlubokého učení, ii) vysvětlit praktickou problematiku trénování modelu, iii) vyzkoušet si tvorbu modelů v prostředí Tensorflow/Keras a iv) aplikovat vyložené na medicínsky zajímavé problémy. Hloubka a rozsah těchto čtyř okruhů bude do značné míry záviset na odborném zájmu posluchačů a přes relativně technický sylabus (viz níže) bude kladen důraz zejména na abstrakci od technických detailů a aplikace na praktické problémy.

Základní témata:

okruh i) Feedforward neural network, základní zapojení uzlů (husté zapojení, konvoluční vrstvy), aktivační funkce, základní typy modelů (klasifikační modely, autoencodery, supervised/unsupervised,...), representation learning, transformery a velké jazykové modely

okruh ii) trénování modelu, stochastic gradient descent, overfitting a regularizace

okruh iii) základy modulu Keras (Sequential model, functional API)

okruh iv) rozsáhlá mnohodimenzionální single-cell data (průtoková/hmotnostní cytometrie, single-cell RNAseq), zpracování obrazu – vizualizace biologických dat, klasifikace vzorků, klasifikace buněčných populací, detekce znaků asociovaných s klinickým stavem,...

Rozšiřující partie:

okruh i) rekurentní neuronové sítě, attention mechanismy, deep generative models (generative adversarial networks),variační inference

okruh ii) základní koncepty optimalizace

okruh iii) model subclassing, custom training (gradient tape), integrace s jazykem R

okruh iv) podle zájmu posluchačů

prerekvizity: základy jazyka python - stačí opravdu jen základy (import modulů, definice funkce, indentace, přístup k atributům a metodám objektu - operátor ".", lists/dictionaries). Případně zkušenost s jakýmkoli jiným moderním skriptovacím/programovacím jazykem (např. R, C, C#, julia,…) – nezbytné základy jazyka python pak není problém dovysvětlit.