Sparse Approximate Inverse for Enhanced Scalability in Recommender Systems
| Thesis title in Czech: | Zlepšování škálovatelnosti doporučovacích systémů pomocí řídkých přibližných inverzů |
|---|---|
| Thesis title in English: | Sparse Approximate Inverse for Enhanced Scalability in Recommender Systems |
| Key words: | EASE^R|(Sparse) approximate inverse|recommender systems |
| English key words: | EASE^R|(Sparse) approximate inverse|recommender systems |
| Academic year of topic announcement: | 2022/2023 |
| Thesis type: | diploma thesis |
| Thesis language: | angličtina |
| Department: | Department of Software Engineering (32-KSI) |
| Supervisor: | Mgr. Ladislav Peška, Ph.D. |
| Author: | Mgr. Martin Spišák - assigned and confirmed by the Study Dept. |
| Date of registration: | 20.12.2022 |
| Date of assignment: | 20.12.2022 |
| Confirmed by Study dept. on: | 31.03.2023 |
| Date and time of defence: | 07.09.2023 09:00 |
| Date of electronic submission: | 20.07.2023 |
| Date of submission of printed version: | 24.07.2023 |
| Date of proceeded defence: | 07.09.2023 |
| Opponents: | Ing. Vojtěch Vančura |
| Advisors: | prof. Ing. Miroslav Tůma, CSc. |
| Guidelines |
| Embarrassingly Shallow AutoEncoder (EASE^R) je doporučovací model na princípe kolaboratívneho filtrovania, ktorý dosahuje výsledky na úrovni state-of-the-art na viacerých známych datasetoch. Medzi jeho výhody patrí existencia analytického riešenia, ale tréning modelu zahŕňa výpočet Gramovej matice príslušnej k matici používateľských hodnotení a následne výpočet jej inverzu. Natrénovaná váhová matica je hustá a môže byť príliš veľká na uloženie do pamäte, kvôli čomu je EASE^R nepoužiteľný na filtrovanie katalógov obsahujúcich priveľa položiek. Riešením tohto problému by mohlo byť nahradenie inverznej matice za jej riedku aproximáciu.
Riešiteľ najskôr získa prehľad v oblasti doporučovacích systémov, zameria sa primárne na techniky kolaboratívneho filtrovania (metódy na báze maticových rozkladov a hlbokého učenia) a význam autoenkodérov. Ďalej popíše model EASE^R (vrátane odvodenia analytického riešenia) a vysvetlí jeho prednosti a limitácie. Následne sa zoznámi s teóriou efektívnych výpočtov s riedkymi maticami, špeciálne s riedkym Choleského rozkladom, a rozoberie metódy výpočtu riedkych približných inverzov, používaných na konštrukciu predpodmienenia pre iteračné riešiče sústav lineárnych rovníc. Na základe špecifických vlastností problému riešiteľ vyberie vhodnú metódu na výpočet riedkeho približného inverzu (prípadne navrhne vlastnú) a porovná kvalitu modifikovaného doporučovacieho systému oproti pôvodnému modelu EASE^R na niekoľkých populárnych datasetoch. |
| References |
| 1. Ricci, Francesco & Rokach, Lior & Shapira, Bracha. (2022). Recommender Systems Handbook. https://link.springer.com/book/10.1007/978-1-0716-2197-4.
2. Kim Falk: Practical Recommender Systems, Manning, 2019 3. Steck, Harald. (2019). Embarrassingly Shallow Autoencoders for Sparse Data. 4. Benzi, M., & Tuma, M. (1999). A comparative study of sparse approximate inverse preconditioners. Applied Numerical Mathematics, 30, 305-340. 5. Benzi, Michele. (1996). A Sparse Approximate Inverse Preconditioner For The Conjugate Gradient Method. SIAM J Sci Comput. 17. 10.1137/S1064827594271421. 6. Huckle, T., Sedlacek, M. (2011). SPAI (SParse Approximate Inverse). In: Padua, D. (eds) Encyclopedia of Parallel Computing. Springer, Boston, MA. https://doi.org/10.1007/978-0-387-09766-4_144 |