Nepřátelské vzory v klasifikaci obrazu
| Název práce v češtině: | Nepřátelské vzory v klasifikaci obrazu |
|---|---|
| Název v anglickém jazyce: | Adversarial Examples in Image Classification |
| Klíčová slova: | Nepřátelské vzory|Hluboké učení|Klasifikace obrazu|Aktivační mapy |
| Klíčová slova anglicky: | Adversarial examples|Deep learning|Image classification|Activation maps |
| Akademický rok vypsání: | 2023/2024 |
| Typ práce: | bakalářská práce |
| Jazyk práce: | |
| Ústav: | Katedra teoretické informatiky a matematické logiky (32-KTIML) |
| Vedoucí / školitel: | RNDr. Věra Flídrová |
| Řešitel: | skrytý - zadáno a potvrzeno stud. odd. |
| Datum přihlášení: | 05.10.2023 |
| Datum zadání: | 12.11.2023 |
| Datum potvrzení stud. oddělením: | 13.11.2023 |
| Zásady pro vypracování |
| Neuronové sítě dosahují skvělých výsledků v oblasti rozpoznávání obrazu. Bohužel jsou však citlivé na tzv. matoucí vzory, což jsou vstupy záměrně upravené tak, aby se lidskému oku zdály neupravené, ale neuronová síť je klasifikuje špatně, a to často s vysokou konfidencí. Cílem této práce je nastudování matoucích vzorů a jejich vlastností, které mohou být patrné i díky vizualizacím aktivačních map, na základě kterých se neuronová síť rozhoduje při klasifikaci.
Student nastuduje dostupnou literaturu týkající se matoucích vzorů a vizualizací aktivačních map. Na základě získaných znalostí potom navrhne postupy, které budou schopné efektivně vytvářet matoucí vzory. |
| Seznam odborné literatury |
| [1] Ian Goodfellow and Yoshua Bengio and Aaron Courville. Deep Learning. MIT Press, 2016. ISBN: 978-0-26-203561-3
[2] Ian J. Goodfellow, Jonathon Shlens, Christian Szegedy. Explaining and Harnessing Adversarial Examples. In: International Conference on Learning Representations 2015 (ICLR 2015). arXiv:1412.6572 [3] Szegedy, Christian, Zaremba, Wojciech, Sutskever, Ilya, Bruna, Joan, Erhan, Dumitru, Goodfellow, Ian J.,and Fergus, Rob. Intriguing properties of neural networks. In: International Conference on Learning Representations 2014 (ICLR 2014), abs/1312.6199, 2014 [4] Ramprasaath R. Selvaraju, Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh, Dhruv Batra. Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization. In: International Journal of Computer Vision (IJCV) in 2019. arXiv:1610.02391 |