Adversarial Examples in Machine Learning

• Název práce v češtině: Matoucí vzory ve strojovém učení
• Název v anglickém jazyce: Adversarial Examples in Machine Learning
• Klíčová slova: matoucí vzory, strojové učení, neuronové sítě
• Klíčová slova anglicky: adversarial examples, machine learning, neural networks
• Akademický rok vypsání: 2016/2017
• Typ práce: diplomová práce
• Jazyk práce: angličtina
• Ústav: Katedra teoretické informatiky a matematické logiky (32-KTIML)
• Vedoucí / školitel: Mgr. Martin Pilát, Ph.D.
• Řešitel: skrytý - zadáno a potvrzeno stud. odd.
• Datum přihlášení: 26.03.2017
• Datum zadání: 27.03.2017
• Datum potvrzení stud. oddělením: 07.04.2017
• Datum a čas obhajoby: 14.06.2018 09:00
• Datum odevzdání elektronické podoby: 11.05.2018
• Datum odevzdání tištěné podoby: 11.05.2018
• Datum proběhlé obhajoby: 14.06.2018
• Oponenti: Mgr. Roman Neruda, CSc.

Zásady pro vypracování

V současnosti oblíbené metody strojového učení založené na hlubokých neuronových sítích trpí tím, že je velmi snadné najít vzory, které hluboká neuronová síť klasifikuje špatně [1]. V některých případech jsou takové vzory dokonce velmi podobné správně klasifikovaným vzorům [2]. Tyto, tzv. matoucí, vzory, omezují možnost praktického použití těchto metod v případech, kde vstupní data mohou být někým manipulována [3].

Student se seznámí s dostupnou literaturou o matení neuronových sítí a jiných modelů strojového učení a na základě zjištěných informací se pokusí navrhnout nové techniky pro vytváření matoucích vzorů. Student také prozkoumá nové architektury hlubokých sítí s cílem nalézt architektury, které je obtížnější zmást.

Seznam odborné literatury

[1] Nguyen A, Yosinski J, Clune J.: "Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images". In: Computer Vision and Pattern Recognition (CVPR '15), IEEE, 2015.
[2] Ian Goodfellow, Jon Shlens, and Christian Szegedy: "Explaining and Harnessing Adversarial Examples". arXiv preprint arXiv:1412.6572, 2015.
[3] Alexey Kurakin, Ian Goodfellow, Samy Bengio: "Adversarial examples in the physical world". arXiv preprint arXiv:1607.02533, 2016.
[4] Petra Vidnerová, Roman Neruda: "Evolutionary generation of adversarial examples for deep and shallow machine learning models". In: MISNC, SI, DS 2016 Proceedings of the The 3rd Multidisciplinary International Social Networks Conference on SocialInformatics 2016, Data Science 2016. ACM, 2016.