Studium sítí typu LSTM na datech z přírodních věd

• Thesis title in Czech: Studium sítí typu LSTM na datech z přírodních věd
• Thesis title in English: Study of LSTM networks on natural sciences data
• Academic year of topic announcement: 2021/2022
• Thesis type: diploma thesis
• Department: Department of Theoretical Computer Science and Mathematical Logic (32-KTIML)
• Supervisor: prof. RNDr. Ing. Martin Holeňa, CSc.
• Author: hidden - assigned and confirmed by the Study Dept.
• Date of registration: 01.10.2021
• Date of assignment: 01.10.2021
• Confirmed by Study dept. on: 26.04.2022

Guidelines

Koncepce LSTM sítí byla poprvé publikována v r. 1997 a od té doby byla navržena celá řada jejich variant. Většinou ale byly zkoumány a porovnávány v kontextu úloh a dat ze zpracování jazyka. Navržená diplomová práce by se naproti tomu měla LSTM sítěmi zabývat v kontextu úloh z přírodních věd. K tomu účelu by měly být důležité varianty LSTM sítí studovány a porovnávány na reálných datech týkajících se růstu krystalů.

References

viz https://www.cs.cas.cz/~martin/diplomka60.html

Preliminary scope of work

Mezi moderními umělými neuronovými sítěmi (tzv. hlubokými), které přispěly k velkému rozvoji strojového učení v posledních 15 letech, patří k nejúspěšnějším sítě typu LSTM (long short-term memory). Nejčastěji se používají při zpracování jazyka, a to jak psaného textu, tak mluvené řeči. Jde o sítě rekurentní, zpracovávané signály se tedy do některých vrstev sítě s určitým zpožděním vrací. Velkým pokrokem LSTM sítí ve srovnání se staršími typy rekurentních síti je, že dokáží zabránit vymizení gradientu v důsldku rekurentního výpočtu. Aby toho bylo dosaženo, probíhají somatické operace v rekurentních vrstvách sítě nikoliv jako sekvence atomických operací, ale paralelně v různých částech strukturovaných buněk, které v těchto vrstvách nahrazují tradiční neurony umělých neuronových sítí.