Přenositelnost nepřátelských vzorů ve strojovém učení
| Thesis title in Czech: | Přenositelnost nepřátelských vzorů ve strojovém učení |
|---|---|
| Thesis title in English: | Transferability of Adversarial Examples in Machine Learning |
| Academic year of topic announcement: | 2023/2024 |
| Thesis type: | diploma thesis |
| Thesis language: | |
| Department: | Department of Theoretical Computer Science and Mathematical Logic (32-KTIML) |
| Supervisor: | Mgr. Martin Pilát, Ph.D. |
| Author: | hidden - assigned and confirmed by the Study Dept. |
| Date of registration: | 08.04.2024 |
| Date of assignment: | 10.04.2024 |
| Confirmed by Study dept. on: | 10.04.2024 |
| Opponents: | Mgr. Roman Neruda, CSc. |
| Guidelines |
| Nepřátelské vzory ve strojovém učení jsou speciálně upravené vstupy, které vedou k tomu, že je model strojového učení klasifikuje nesprávně, ačkoliv původní vstup byl klasifikovaný správně. Některé z technik pro jejich vytváření využívají jejich přenositelnosti - faktu, že nepřátelský vzor vytvořený pro jeden model funguje i na modely jiné. Cílem práce je tuto přenositelnost zkoumat s ohledem na nalezení skupin modelů, mezi kterými je přenositelnost nízká. To by mohlo v budoucnu vést k vytvoření robustních ensemblů.
Student prostuduje dostupnou literaturu o nepřátelských vzorech a jejich přenositelnosti. Na základě této literatury identifikuje typy modelů a jejich parametrů (kódování vstupů, typy aktivačních funkcí apod.), mezi kterými je přenositelnost nízká. Výsledkem by mělo být vyhodnocení přenositelnosti mezi různými typy modelů vzhledem k jejich parametrům a metodám pro vytváření nepřátelských vzorů. |
| References |
| [1] Dai, Sihui, Saeed Mahloujifar, and Prateek Mittal. "Parameterizing activation functions for adversarial robustness." In 2022 IEEE Security and Privacy Workshops (SPW), pp. 80-87. IEEE, 2022.
[2] Kariyappa, Sanjay, and Moinuddin K. Qureshi. "Improving adversarial robustness of ensembles with diversity training." arXiv preprint arXiv:1901.09981 (2019). [3] Mahmood, Kaleel, Rigel Mahmood, and Marten Van Dijk. "On the robustness of vision transformers to adversarial examples." In Proceedings of the IEEE/CVF international conference on computer vision, pp. 7838-7847. 2021. [4] Gowda, Shreyank N., and Chun Yuan. "ColorNet: Investigating the importance of color spaces for image classification." In Computer Vision–ACCV 2018: 14th Asian Conference on Computer Vision, Perth, Australia, December 2–6, 2018, Revised Selected Papers, Part IV 14, pp. 581-596. Springer International Publishing, 2019. |