Environmentální dopady velkých jazykových modelů a jejich možná řešení
| Název práce v češtině: | Environmentální dopady velkých jazykových modelů a jejich možná řešení |
|---|---|
| Název v anglickém jazyce: | Environmental impacts of large language models and their possible solutions |
| Klíčová slova: | Velké jazykové modely, green AI, umělá inteligence, udržitelnost, regulace, transparentnost |
| Klíčová slova anglicky: | Large language models, green AI, artificial intelligence, sustainibility, regulation, transparency |
| Akademický rok vypsání: | 2024/2025 |
| Typ práce: | diplomová práce |
| Jazyk práce: | čeština |
| Ústav: | Katedra žurnalistiky (23-KZ) |
| Vedoucí / školitel: | Mgr. Martin Richter |
| Řešitel: | skrytý - zadáno vedoucím/školitelem |
| Datum přihlášení: | 29.10.2024 |
| Datum zadání: | 29.10.2024 |
| Datum a čas obhajoby: | 24.06.2025 09:00 |
| Místo konání obhajoby: | Hollar, H011, 11, Hollar - místn. č. 011 |
| Datum odevzdání elektronické podoby: | 28.04.2025 |
| Datum proběhlé obhajoby: | 24.06.2025 |
| Oponenti: | Mgr. Anna Hrbáčková |
| Seznam odborné literatury |
| 1) MIOVSKÝ, Michal. Kvalitativní přístup a metody v psychologickém výzkumu. Psyché (Grada). Praha: Grada, 2006. ISBN 80-247-1362-4.
- Kniha se věnuje vývoji, současné podobě a metodám psychologického výzkumu z hlediska aplikačních možností kvalitativního přístupu ke zkoumané problematice. 2) HENDL, Jan. Kvalitativní výzkum: základní teorie, metody a aplikace. Čtvrté, přepracované a rozšířené vydání. Praha: Portál, 2016. ISBN 978-80-262-0982-9. - Kniha představuje příručku či učebnici metod kvalitativního výzkumu a ukazuje, z jakého zdroje vycházejí. Pozornost věnuje i výzkumným plánům užívaným v této oblasti. 3) ŠVAŘÍČEK, Roman a ŠEĎOVÁ, Klára. Kvalitativní výzkum v pedagogických vědách. Praha: Portál, 2007. ISBN 978-80-7367-313-0. - Kniha představuje příručku, jak sestavit výzkumnou zprávu. Věnuje se metodologickým otázkám kvalitativního výzkumu a různým částem průběhu výzkumu. 4) KOČÍ, Vladimír. Environmentální dopady: posuzování životního cyklu. Praha: Vysoká škola chemicko-technologická v Praze, 2013. ISBN 978-80-7080-858-0. - Kniha se zabývá ekologií, životním prostředím, ochranou živé i neživé přírody a zaměřuje se také na negativní vlivy průmyslu na přírodu. 5) AMARATUNGA, Thimira. Understanding Large Language Models: Learning Their Underlying Concepts and Technologies. Apress Berkeley, CA, 2023. ISBN 979-8-8688-0016-0. - Kniha popisuje základní koncepty velkých jazykových modelů a také technologie s nimi spojené. Zabývá se i nebezpečím zneužití těchto modelů. 6) LI, Baolin; JIANG, Yankai; GADEPALLY, Vijay a TIWARI, Devesh. Toward Sustainable GenAI using Generation Directives for Carbon-Friendly Large Language Model Inference. Online. Cornell University. 2024. Dostupné z: https://arxiv.org/abs/2403.12900. [cit. 2024-09-03]. - Odborný článek se zabývá rozvojem umělé inteligence napříč různými sektory a obavami z hlediska životního prostředí, zejména kvůli uhlíkovým emisím. Autoři v něm představují možnosti, jak lze snížit uhlíkovou stopu u velkých jazykových modelů. 7) M. BENDER, Emily; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina a SHMITCHELL, Shmargaret. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Online. 2021, roč. ACM Digital Library. Dostupné z: https://dl.acm.org/doi/10.1145/3442188.3445922. [cit. 2024-09-03]. - Odborný článek se zabývá riziky, která s sebou přináší vytváření velkých jazykových modelů. Mezi hlavní rizika zahrnuje právě environemtální dopady těchto jazkových modelů a podrobně je rozebírá. |
| Předběžná náplň práce |
| Velké jazykové modely jako je ChatGPT jsou konverzační nástroje umělé inteligence, které lidským a kreativním způsobem reagují na naše vstupy. Už při jejich trénování vzniká uhlíková stopa, která svou velikostí rozhodně není zanedbatelná a zvyšuje se i v dalších fázích vývoje těchto nástrojů.
Téma environmentálních dopadů velkých jazykových modelů se v posledních několika měsících stále častěji objevuje v různých zahraničních vědeckých článcích, ale i přesto se zatím jedná o velmi neprobádanou oblast, o které se v českém mediálním a vědeckém prostředí příliš nemluví ani nepublikuje. Jedná se i proto o velice zajímavé a aktuální téma. Cílem práce by měl být pokus o vytvoření obecného návodu či seznamu doporučení, které by pomohly problém environmentálních dopadů velkých jazykových modelů zmírnit či dokonce odstranit. Tato doporučení budou sestavena na základě výpovědí odborníků, se kterými nahraji polostrukturované rozhovory. Práce se tedy bude věnovat kvalitativnímu výzkumu. |
| Předběžná náplň práce v anglickém jazyce |
| Large language models like ChatGPT are conversational AI tools that respond to our inputs in a human-like and creative manner. Even during their training, they generate a carbon footprint that is by no means negligible, and it continues to grow in the later stages of these tools' development.
In recent months, the topic of the environmental impacts of large language models has been appearing more and more frequently in various international scientific articles. Nevertheless, it remains a largely unexplored area, especially in the Czech media and scientific environment, where it is still rarely discussed or published. This makes it a very interesting and timely topic. The aim of the thesis will be to attempt to create a general guide or a set of recommendations that could help mitigate or even eliminate the environmental impacts of large language models. These recommendations will be based on the statements of experts, with whom I will conduct semi-structured interviews. Therefore, the thesis will focus on qualitative research. |