Deep Learning for Symbolic Regression
| Thesis title in Czech: | Hluboké učení pro symbolickou regresi |
|---|---|
| Thesis title in English: | Deep Learning for Symbolic Regression |
| Key words: | hluboké učení|symbolická regrese|transformer |
| English key words: | deep learning|symbolic regression|transformer |
| Academic year of topic announcement: | 2021/2022 |
| Thesis type: | diploma thesis |
| Thesis language: | angličtina |
| Department: | Department of Theoretical Computer Science and Mathematical Logic (32-KTIML) |
| Supervisor: | Mgr. Martin Pilát, Ph.D. |
| Author: | hidden - assigned and confirmed by the Study Dept. |
| Date of registration: | 16.02.2022 |
| Date of assignment: | 16.02.2022 |
| Confirmed by Study dept. on: | 08.03.2022 |
| Date and time of defence: | 15.06.2022 09:00 |
| Date of electronic submission: | 05.05.2022 |
| Date of submission of printed version: | 16.05.2022 |
| Date of proceeded defence: | 15.06.2022 |
| Opponents: | Mgr. Roman Neruda, CSc. |
| Guidelines |
| Úkolem symbolické regrese je najít na základě zadaných vstupů a výstupů předpis funkce, která tyto body generuje. Tradičně se pro řešení tohoto problému používá genetické programování, ale v posledních letech se rozvíjejí i metody založené na hlubokém učení. Jejich výhodou je, že jsou schopné odhadnout předpis funkce jen na základě vstupních dat, bez potřeby další optimalizace. Cílem práce je právě vytvoření takové hluboké neuronové sítě.
Student nastuduje dostupnou literaturu týkající se problému symbolické regrese. Na základě získaných informací potom navrhne vlastní algoritmus založený na hlubokém učení, který bude tento problém schopný řešit, a porovná ho s existujícími algoritmy. |
| References |
| [1] Goodfellow, Ian, Yoshua Bengio, and Aaron Courville. _Deep learning_. MIT press, 2016.
[2] Valipour, Mojtaba, Bowen You, Maysum Panju, and Ali Ghodsi. "SymbolicGPT: A Generative Transformer Model for Symbolic Regression." arXiv preprint arXiv:2106.14131 (2021). [3] Petersen, Brenden K., Mikel Landajuela Larma, Terrell N. Mundhenk, Claudio Prata Santiago, Soo Kyung Kim, and Joanne Taery Kim. "Deep symbolic regression: Recovering mathematical expressions from data via risk-seeking policy gradients." In International Conference on Learning Representations. 2021. [4] Biggio, Luca, Tommaso Bendinelli, Alexander Neitz, Aurelien Lucchi, and Giambattista Parascandolo. "Neural Symbolic Regression that Scales." In International Conference on Machine Learning, pp. 936-945. PMLR, 2021. |