Adversarial Examples in Machine Learning

• Thesis title in Czech: Matoucí vzory ve strojovém učení
• Thesis title in English: Adversarial Examples in Machine Learning
• Key words: matoucí vzory, strojové učení, neuronové sítě
• English key words: adversarial examples, machine learning, neural networks
• Academic year of topic announcement: 2016/2017
• Thesis type: diploma thesis
• Thesis language: angličtina
• Department: Department of Theoretical Computer Science and Mathematical Logic (32-KTIML)
• Supervisor: Mgr. Martin Pilát, Ph.D.
• Author: hidden - assigned and confirmed by the Study Dept.
• Date of registration: 26.03.2017
• Date of assignment: 27.03.2017
• Confirmed by Study dept. on: 07.04.2017
• Date and time of defence: 14.06.2018 09:00
• Date of electronic submission: 11.05.2018
• Date of submission of printed version: 11.05.2018
• Date of proceeded defence: 14.06.2018
• Opponents: Mgr. Roman Neruda, CSc.

Guidelines

V současnosti oblíbené metody strojového učení založené na hlubokých neuronových sítích trpí tím, že je velmi snadné najít vzory, které hluboká neuronová síť klasifikuje špatně [1]. V některých případech jsou takové vzory dokonce velmi podobné správně klasifikovaným vzorům [2]. Tyto, tzv. matoucí, vzory, omezují možnost praktického použití těchto metod v případech, kde vstupní data mohou být někým manipulována [3].

Student se seznámí s dostupnou literaturou o matení neuronových sítí a jiných modelů strojového učení a na základě zjištěných informací se pokusí navrhnout nové techniky pro vytváření matoucích vzorů. Student také prozkoumá nové architektury hlubokých sítí s cílem nalézt architektury, které je obtížnější zmást.

References

[1] Nguyen A, Yosinski J, Clune J.: "Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images". In: Computer Vision and Pattern Recognition (CVPR '15), IEEE, 2015.
[2] Ian Goodfellow, Jon Shlens, and Christian Szegedy: "Explaining and Harnessing Adversarial Examples". arXiv preprint arXiv:1412.6572, 2015.
[3] Alexey Kurakin, Ian Goodfellow, Samy Bengio: "Adversarial examples in the physical world". arXiv preprint arXiv:1607.02533, 2016.
[4] Petra Vidnerová, Roman Neruda: "Evolutionary generation of adversarial examples for deep and shallow machine learning models". In: MISNC, SI, DS 2016 Proceedings of the The 3rd Multidisciplinary International Social Networks Conference on SocialInformatics 2016, Data Science 2016. ACM, 2016.