Optimalizační algoritmy pro trénování neuronových sítí

• Název práce v češtině: Optimalizační algoritmy pro trénování neuronových sítí
• Název v anglickém jazyce: Optimization algorithms for neural network training
• Klíčová slova: Optimalizace|neuronové sítě|metoda největšího spádu
• Klíčová slova anglicky: Optimization|neural networks|steepest descent method
• Akademický rok vypsání: 2023/2024
• Typ práce: bakalářská práce
• Jazyk práce: čeština
• Ústav: Katedra numerické matematiky (32-KNM)
• Vedoucí / školitel: doc. RNDr. Václav Kučera, Ph.D.
• Řešitel: skrytý - zadáno a potvrzeno stud. odd.
• Datum přihlášení: 25.10.2023
• Datum zadání: 25.10.2023
• Datum potvrzení stud. oddělením: 26.10.2023
• Datum a čas obhajoby: 21.06.2024 09:00
• Datum odevzdání elektronické podoby: 07.05.2024
• Datum odevzdání tištěné podoby: 07.05.2024
• Datum proběhlé obhajoby: 21.06.2024
• Oponenti: doc. RNDr. Petr Tichý, Ph.D.

Zásady pro vypracování

Práce se bude zabývat odvozením, implementací a testováním nejčastěji používaných optimalizačních metod pro trénování neuronových sítí. Zejména se budeme zabývat metodou největšího spádu a jejími modifikacemi.

Seznam odborné literatury

Ruder, S. (2016) An overview of gradient descent optimization algorithms, arXiv:1609.04747
Kingma, D.P. and Ba, J.L. (2014) Adam: A Method for Stochastic Optimization, arXiv:1412.6980
Aatila, M. and Lachgar, M. Mohamed and Kartit, A. (2020) Comparative study of optimization techniques in deep learning: Application in the ophthalmology field, The International Conference on Mathematics & Data Science (ICMDS).