Přenositelnost nepřátelských vzorů ve strojovém učení
| Název práce v češtině: | Přenositelnost nepřátelských vzorů ve strojovém učení |
|---|---|
| Název v anglickém jazyce: | Transferability of Adversarial Examples in Machine Learning |
| Akademický rok vypsání: | 2023/2024 |
| Typ práce: | diplomová práce |
| Jazyk práce: | |
| Ústav: | Katedra teoretické informatiky a matematické logiky (32-KTIML) |
| Vedoucí / školitel: | Mgr. Martin Pilát, Ph.D. |
| Řešitel: | skrytý - zadáno a potvrzeno stud. odd. |
| Datum přihlášení: | 08.04.2024 |
| Datum zadání: | 10.04.2024 |
| Datum potvrzení stud. oddělením: | 10.04.2024 |
| Oponenti: | Mgr. Roman Neruda, CSc. |
| Zásady pro vypracování |
| Nepřátelské vzory ve strojovém učení jsou speciálně upravené vstupy, které vedou k tomu, že je model strojového učení klasifikuje nesprávně, ačkoliv původní vstup byl klasifikovaný správně. Některé z technik pro jejich vytváření využívají jejich přenositelnosti - faktu, že nepřátelský vzor vytvořený pro jeden model funguje i na modely jiné. Cílem práce je tuto přenositelnost zkoumat s ohledem na nalezení skupin modelů, mezi kterými je přenositelnost nízká. To by mohlo v budoucnu vést k vytvoření robustních ensemblů.
Student prostuduje dostupnou literaturu o nepřátelských vzorech a jejich přenositelnosti. Na základě této literatury identifikuje typy modelů a jejich parametrů (kódování vstupů, typy aktivačních funkcí apod.), mezi kterými je přenositelnost nízká. Výsledkem by mělo být vyhodnocení přenositelnosti mezi různými typy modelů vzhledem k jejich parametrům a metodám pro vytváření nepřátelských vzorů. |
| Seznam odborné literatury |
| [1] Dai, Sihui, Saeed Mahloujifar, and Prateek Mittal. "Parameterizing activation functions for adversarial robustness." In 2022 IEEE Security and Privacy Workshops (SPW), pp. 80-87. IEEE, 2022.
[2] Kariyappa, Sanjay, and Moinuddin K. Qureshi. "Improving adversarial robustness of ensembles with diversity training." arXiv preprint arXiv:1901.09981 (2019). [3] Mahmood, Kaleel, Rigel Mahmood, and Marten Van Dijk. "On the robustness of vision transformers to adversarial examples." In Proceedings of the IEEE/CVF international conference on computer vision, pp. 7838-7847. 2021. [4] Gowda, Shreyank N., and Chun Yuan. "ColorNet: Investigating the importance of color spaces for image classification." In Computer Vision–ACCV 2018: 14th Asian Conference on Computer Vision, Perth, Australia, December 2–6, 2018, Revised Selected Papers, Part IV 14, pp. 581-596. Springer International Publishing, 2019. |