Algoritmy založené na stochastickém gradientu pro úlohy strojového učení
| Název práce v češtině: | Algoritmy založené na stochastickém gradientu pro úlohy strojového učení |
|---|---|
| Název v anglickém jazyce: | Algorithms based on stochastic gradient descent for machine learning problems |
| Akademický rok vypsání: | 2023/2024 |
| Typ práce: | diplomová práce |
| Jazyk práce: | |
| Ústav: | Katedra pravděpodobnosti a matematické statistiky (32-KPMS) |
| Vedoucí / školitel: | doc. RNDr. Martin Branda, Ph.D. |
| Řešitel: | skrytý - zadáno a potvrzeno stud. odd. |
| Datum přihlášení: | 14.03.2024 |
| Datum zadání: | 14.03.2024 |
| Datum potvrzení stud. oddělením: | 14.03.2024 |
| Zásady pro vypracování |
| Diplomant(-ka) se bude zabývat algoritmy založenými na stochastické gradientu, které vhodným způsobem aproximují gradient účelové funkce. Popíše základních principy těchto metod včetně předpokladů a kritérií pro konvergenci. Dále budou diskutována možná porušení těchto předpokladů, například nestrannosti odhadu gradientu. Součástí práce bude i numerická studie, kde budou představené postupy využity ve vybrané úloze strojového učení a aplikovány na vhodná data. |
| Seznam odborné literatury |
| L. Bottou, F. Curtis, and J. Nocedal. Optimization methods for large-scale machine learning. SIAM Review, 60(2):223–311, 2018.
D. Driggs, J. Lian, C.-B. Schönlieb. On Biased Stochastic Gradient Estimation. Journal of Machine Learning Research 23, 1-43, 2022. S. Ghadimi, G. Lan, H. Zhang. Mini-batch stochastic approximation methods for nonconvex stochastic composite optimization. Mathematical Programming, Ser. A, 155, 267–305, 2016. |