Adversarial examples generation for deep neural networks
| Thesis title in Czech: | Generování adversariáních vzorů pro hluboké neuronové sítě |
|---|---|
| Thesis title in English: | Adversarial examples generation for deep neural networks |
| Key words: | strojové učení, adversariální vzory, evoluční algoritmy, hluboké učení |
| English key words: | machine learning, adversarial examples, evolutionary algorithms, deep learning |
| Academic year of topic announcement: | 2017/2018 |
| Thesis type: | Bachelor's thesis |
| Thesis language: | angličtina |
| Department: | Department of Theoretical Computer Science and Mathematical Logic (32-KTIML) |
| Supervisor: | Mgr. Roman Neruda, CSc. |
| Author: | hidden - assigned and confirmed by the Study Dept. |
| Date of registration: | 03.05.2018 |
| Date of assignment: | 03.05.2018 |
| Confirmed by Study dept. on: | 14.05.2018 |
| Date and time of defence: | 06.09.2018 09:00 |
| Date of electronic submission: | 05.09.2018 |
| Date of submission of printed version: | 20.07.2018 |
| Date of proceeded defence: | 06.09.2018 |
| Opponents: | RNDr. Miroslav Kratochvíl, Ph.D. |
| Guidelines |
| Cílem práce je navrhnout a implementovat metody generování adversariálních vzorů pro modely hlubokých neuronových sítí použité na problém klasifikace obrazových dat. Student prozkoumá stávající metody generování typu black-box i white-box a na jejich základě navrhne své vlastní řešení. Při návrhu metod generování adversariálních vzorů se využijí zejména evoluční algoritmy a metody založené na propagaci gradientu. Součástí práce je implementace navržených metod a jejich porovnání s existujícími přístupy. |
| References |
| 1. Ian Goodfellow, Yoshua Bengio, Aaron Courville: Deep Learning. MIT Press, 2016. http://www.deeplearningbook.org
2. Gamaleldin F. Elsayed, Shreya Shankar, Brian Cheung, Nicolas Papernot, Alex Kurakin, Ian Goodfellow, Jascha Sohl-Dickstein: Adversarial Examples: Attacks and Defenses for Deep Learning, 2018. arXiv:1802.08195 [cs.LG] 3. Xiaoyong Yuan, Pan He, Qile Zhu, Rajendra Rana Bhat, Xiaolin Li: Adversarial Examples: Attacks and Defenses for Deep Learning. 2017. arXiv:1712.07107 [cs.LG] 4. Nicolas Papernot, Patrick McDaniel, Ian Goodfellow, Somesh Jha, Z. Berkay Celik, Ananthram Swami: Practical Black-Box Attacks against Machine Learning. 2016. arXiv:1602.02697 [cs.CR] 5. Petra Vidnerová, Roman Neruda: Evolutionary generation of adversarial examples for deep and shallow machine learning models. Proc. of the MISCN 2016 Conf, ACM, 2016. http://doi.acm.org/10.1145/2955129.2955178 |