PředmětyPředměty(verze: 945)
Předmět, akademický rok 2023/2024
   Přihlásit přes CAS
Etika právního užití umělé inteligence - AFSV00421
Anglický název: Ethical aspects of legal use of AI
Zajišťuje: Ústav filosofie a religionistiky (21-UFAR)
Fakulta: Filozofická fakulta
Platnost: od 2023 do 2023
Semestr: letní
Body: 0
E-Kredity: 3
Způsob provedení zkoušky: letní s.:
Rozsah, examinace: letní s.:0/2, Z [HT]
Počet míst: neurčen / neomezen (neurčen)
Minimální obsazenost: neomezen
4EU+: ne
Virtuální mobilita / počet míst pro virtuální mobilitu: ne
Kompetence:  
Stav předmětu: vyučován
Jazyk výuky: čeština
Způsob výuky: prezenční
Způsob výuky: prezenční
Úroveň:  
Další informace: https://dl1.cuni.cz/course/view.php?id=15947
Poznámka: předmět je možno zapsat mimo plán
povolen pro zápis po webu
Garant: doc. Jakub Jirsa, Ph.D.
Vyučující: JUDr. Mgr. Martin Koloušek, Ph.D.
JUDr. Petr Roháček
Anotace
Poslední úprava: JUDr. Petr Roháček (28.02.2024)
SEMINÁŘ ZAČÍNÁ až 29.2.<br>
<br>
Tento seminář představuje pro studenty možnost seznámit se s průsečíky mezi umělou inteligencí, etikou a právem. Je strukturován tak, aby poskytl studentům pevný základ v základních pojmech AI a jejích implikacích v etických a právních kontextech. Seminář však není pouze o teorii, vede studenty také k přemýšlení o tom, jak využít technologie umělé inteligence do svého vlastního studia či akademického výzkumu.<br>
<br>
Součástí semináře jsou dvě úvodní přednášky expertů v oboru. Dr. Václav Janeček (University of Bristol) a Dr. Laura Fearnley (University of Glasgow/Charles University) studenty uvedou do problematiky AI v právu a etice.<br>
<br>
Samotné semináře vedené Dr. Martinem Kolouškem a Dr. Petrem Roháčkem pokrývají širokou škálu témat, která jsou nezbytná pro každého, kdo se zajímá o etické a právní výzvy, které představuje AI. Začínajíc od úvodu k AI v kontextu etiky a práva, seminář postupuje k více specifickým otázkám, jako jsou předsudky v AI, diskriminace a vývoj etických rámců pro implementaci AI v právním rozhodování. Tento postup zajišťuje, že studenti nejen pochopí teoretické základy etiky a práva AI, ale také se zapojí do aktuálních debat a praktických výzev v oboru.<br>
<br>
Důraz na interaktivní diskusi a prezentaci skupinových projektů zdůrazňuje praktický přístup semináře, který podněcuje studenty k aplikaci teoretických znalostí na reálné scénáře. Tento způsob výuky je obzvláště účinný v oborech, jako je AI, kde tempo technologického vývoje vyžaduje praktické porozumění etickým i právním konotacím.<br>
<br>
Závěrečné prezentace studentských projektů nabízejí platformu pro ukázku aplikace znalostí získaných během semináře, což posiluje cíl semináře podporovat kritické myšlení a inovativní řešení etických a právních problémů v AI.
Sylabus
Poslední úprava: JUDr. Petr Roháček (28.02.2024)

Úvodní odborné přednášky

1. Přednáška Dr. Václava Janečka - „Umělá inteligence v právu“ (29.2.)

  • Co je AI? Sci-fi versus realita. Netechnický úvod do moderní umělé intelligence a generativní AI (30 minut).
  • AI jako robo-soudce a “předpovídání” soudních rozhodnutí (30 minut).
  • Vady a selhání AI. Kdo je odpovědný a co s tím právo zmůže. (30 minut).

2. Přednáška Dr. Laury Fearnley (přednáška bude v angličtině) -  „Responsibility Gaps and Unexplainable Decisions“ (7.3.)

Semináře

1. Úvod do AI v kontextu etiky a práva

- Přednášející: Dr. Koloušek a Dr. Roháček

- Představení a úvod do základů AI v kontextu etiky a práva. Doporučené: https://www.youtube.com/watch?v=F46lwq0Rl4k AI in Law: A New Era of Accessible Justice | Noah Wong | TEDxMenloSchool https://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now/ Courts Are Using AI to Sentence Criminals. That Must Stop Now – Jason Tashea; https://en.wikipedia.org/wiki/COMPAS_(software) https://www.youtube.com/watch?v=eXdVDhOGqoE AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

2. AI a etika

- Přednášející: Dr. Koloušek

- Prozkoumání etických dilemat spojených s vývojem a používáním AI.

- Doporučená literatura: Thomas M. Powers, Jean-Gabriel Ganascia: The Ethics of the Ethics of AI. In: Marcus D. Dubber (ed.) et al.: The Oxford Handbook of Ethic of AI, 2020. https://doi.org/10.1093/oxfordhb/9780190067397.001.0001

3. Etické důsledky AI v právu

- Přednášející: Dr. Koloušek

- Diskuze o vlivu AI na právní normy a etické aspekty právních rozhodnutí.

- Doporučená literatura: Matthew Le Bui, Safiya Umoja Noble: We’re Missing a Moral Framework of Justice in Artificial Intelligence: On the Limits, Failings, and Ethics of Fairness. In: Marcus D. Dubber (ed.) et al.: The Oxford Handbook of Ethic of AI, 2020. https://doi.org/10.1093/oxfordhb/9780190067397.013.9

4. Předsudky a diskriminace v AI

- Přednášející: Dr. Koloušek

- Analýza předsudků v AI a jejich dopad na diskriminaci. - Doporučená literatura: Studie zadaná ECRI: https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73 Discrimination, artificial intelligence and algorithmic decision-making

5. Metodologie využití AI pro výzkum v právu a humanitních vědách

- Přednášející: Dr. Roháček

- Přístupy k praktickému využívání AI pro výzkum v právu a dalších humanitních vědách. Doporučené: Projít si Consensus: https://consensus.app/, Elicit: https://elicit.com/?workflow=table-of-papers, Jak fungují GPTs uvnitř ChatGPT: https://openai.com/blog/introducing-gpts OpenRead: https://www.openread.academy/

6. Tvorba etických rámců pro AI v právním rozhodování

- Přednášející: Dr. Roháček

- Tvorba a diskuse o etických rámcích pro regulaci a implementaci AI v právním kontextu.

Doporučené: „Human-aligned artificial intelligence is a multiobjective problem“ discusses the necessity for AI systems to consider multiple, potentially conflicting factors in decision-making, promoting a multiobjective approach to align AI with human ethics and legal standards [(Vamplew et al., 2018)](https://consensus.app/papers/humanaligned-intelligence-multiobjective-problem-vamplew/4781dec10f325b6687d1e368e8d552c5/?utm_source=chatgpt).

„How AI can be a force for good“ outlines an ethical framework to harness AI's potential while ensuring its alignment with human values, emphasizing the need for ethical regulations to mitigate risks associated with AI in legal contexts [(Taddeo & Floridi, 2018)](https://consensus.app/papers/force-good-taddeo/6c623106c8b656deb05c6c5d09c95246/?utm_source=chatgpt).

7. Budoucnost a vize AI v právním rozhodování

- Přednášející: Dr. Roháček

- Průzkum potenciálních budoucích trendů a dopadu AI na právní rozhodování a procesy.

Doporučené: „Adapting to the Digital Transformation“ discusses the legal challenges and jurisdictional approaches to AI, emphasizing the need for legal systems to adapt to the digital transformation brought about by AI in decision-making processes [(O'Leary & Armfield, 2020)](https://consensus.app/papers/adapting-digital-transformation-oleary/82331337e1ac57aa970d1dfc039aa5c0/?utm_source=chatgpt).

8. Prezentace skupinových projektů I

- Studenti prezentují průběh a meziřešení svých skupinových projektů.

9. Prezentace skupinových projektů II

- Finální prezentace studentských projektů a jejich hodnocení.

 
Univerzita Karlova | Informační systém UK