Bezpečnost strojového učení
| Thesis title in Czech: | Bezpečnost strojového učení |
|---|---|
| Thesis title in English: | Machine Learning Security |
| Academic year of topic announcement: | 2021/2022 |
| Thesis type: | dissertation |
| Thesis language: | |
| Department: | Department of Theoretical Computer Science and Mathematical Logic (32-KTIML) |
| Supervisor: | Mgr. Martin Pilát, Ph.D. |
| Author: | hidden - assigned and confirmed by the Study Dept. |
| Date of registration: | 02.08.2022 |
| Date of assignment: | 02.08.2022 |
| Confirmed by Study dept. on: | 03.10.2022 |
| Guidelines |
| Metody strojového učení a především hlubokého učení dosáhly v posledních letech významných úspěchů v mnoha oblastech umělé inteligence a počítačového vidění. Tyto techniky jsou ale náchylné k takzvaným nepřátelským vzorům (adversarial examples). To jsou mírně upravené vzory, které pro člověka vypadají, jako že patří do jedné třídy, ale model strojového učení je klasifikuje jako třídu jinou, ačkoliv původní, neupravený, vzor klasifikoval správně. Existence takových vzorů může mít významné důsledky pro bezpečnost systémů založených na strojovém učení. Na druhou stranu mohou být techniky hlubokého učení použity k vytváření tzv. deep-fakes, což jsou uměle vytvořená videa, která se snaží tvářit jako reálná. Taková videa potom mohou být použita k vytváření dezinformací nebo ke zmatení biometrických systémů.
Cílem práce je zkoumat metody strojového učení z hlediska jejich robustnosti a jejich vlivu na bezpečnost. Práce by se měla věnovat mimo jiné problémům popsaným výše - nepřátelským vzorům a deep-fakes, a to jak z hlediska obrany proti nim, tak i z hlediska jejich vytváření. |
| References |
| [1] Xue, Mingfu, Chengxiang Yuan, Heyi Wu, Yushu Zhang, and Weiqiang Liu. "Machine learning security: Threats, countermeasures, and evaluations." IEEE Access 8 (2020): 74720-74742.
[2] Nguyen, Thanh Thi, Quoc Viet Hung Nguyen, Cuong M. Nguyen, Dung Nguyen, Duc Thanh Nguyen, and Saeid Nahavandi. "Deep learning for deepfakes creation and detection: A survey." arXiv preprint arXiv:1909.11573 (2019). [3] Agarwal, Shruti, Hany Farid, Yuming Gu, Mingming He, Koki Nagano, and Hao Li. "Protecting World Leaders Against Deep Fakes." In CVPR workshops, vol. 1. 2019. [4] Yuan, Xiaoyong, Pan He, Qile Zhu, and Xiaolin Li. "Adversarial examples: Attacks and defenses for deep learning." IEEE transactions on neural networks and learning systems 30, no. 9 (2019): 2805-2824. |