Adversarial examples design by deep generative models
| Název práce v češtině: | Tvorba nepřátelských vzorů hlubokými generativními modely |
|---|---|
| Název v anglickém jazyce: | Adversarial examples design by deep generative models |
| Klíčová slova: | Hluboké učení|klasifikace|generativní modely|nepřátelské vzory |
| Klíčová slova anglicky: | Deep learning|classification|generative models|adversarial examples |
| Akademický rok vypsání: | 2018/2019 |
| Typ práce: | diplomová práce |
| Jazyk práce: | angličtina |
| Ústav: | Katedra teoretické informatiky a matematické logiky (32-KTIML) |
| Vedoucí / školitel: | Mgr. Roman Neruda, CSc. |
| Řešitel: | skrytý - zadáno a potvrzeno stud. odd. |
| Datum přihlášení: | 04.03.2019 |
| Datum zadání: | 04.03.2019 |
| Datum potvrzení stud. oddělením: | 22.03.2019 |
| Datum a čas obhajoby: | 22.06.2021 09:00 |
| Datum odevzdání elektronické podoby: | 21.05.2021 |
| Datum odevzdání tištěné podoby: | 21.05.2021 |
| Datum proběhlé obhajoby: | 22.06.2021 |
| Oponenti: | doc. Mgr. Martin Pilát, Ph.D. |
| Zásady pro vypracování |
| Current deep learning systems are vulnerable to artificially constructed adversarial examples that can lead the model to misclassify its output. While the main approach to adversarial examples is based on gradient methods, the possibility to use generative models such as GAN has been proposed in recent research. The goal of this thesis is to explore the possibility of generative models to design successful adversarial examples for deep neural network classifiers. The student will propose an algorithm that uses generative models in the context of adversarial attacks on a trained neural network. The algorithm will be implemented and tested on currently used benchmark data sets to assess its usability both in successful attacks and in the possible defences against them. |
| Seznam odborné literatury |
| [1] A. Chakraborty et al.: Adversarial Attacks and Defences: A Survey. ACM Comp. Surv. (to appear), 2019. (arXiv:1810.00069)
[2] Y. Song et al: Constructing Unrestricted Adversarial Examples with Generative Models. Advances in Neural Information Processing Systems 31, 8312-8323, 2018. [3] Ch. Xiao et al: Generating Adversarial Examples with Adversarial Networks. 2019. (arXiv:1801.02610v5) [4] I. Goodfellow et al: Deep Learning. MIT Press, 2016. |