SubjectsSubjects(version: 945)
Course, academic year 2023/2024
   Login via CAS
Ethical aspects of legal use of AI - AFSV00421
Title: Etika právního užití umělé inteligence
Guaranteed by: Institute of Philosophy and Religious Studies (21-UFAR)
Faculty: Faculty of Arts
Actual: from 2023 to 2023
Semester: summer
Points: 0
E-Credits: 3
Examination process: summer s.:
Hours per week, examination: summer s.:0/2, C [HT]
Capacity: unknown / unlimited (unknown)
Min. number of students: unlimited
4EU+: no
Virtual mobility / capacity: no
Key competences:  
State of the course: taught
Language: Czech
Teaching methods: full-time
Teaching methods: full-time
Level:  
Additional information: https://dl1.cuni.cz/course/view.php?id=15947
Note: course can be enrolled in outside the study plan
enabled for web enrollment
Guarantor: doc. Jakub Jirsa, Ph.D.
Teacher(s): JUDr. Mgr. Martin Koloušek, Ph.D.
JUDr. Petr Roháček
Annotation - Czech
Last update: JUDr. Petr Roháček (28.02.2024)
SEMINÁŘ ZAČÍNÁ až 29.2.<br>
<br>
Tento seminář představuje pro studenty možnost seznámit se s průsečíky mezi umělou inteligencí, etikou a právem. Je strukturován tak, aby poskytl studentům pevný základ v základních pojmech AI a jejích implikacích v etických a právních kontextech. Seminář však není pouze o teorii, vede studenty také k přemýšlení o tom, jak využít technologie umělé inteligence do svého vlastního studia či akademického výzkumu.<br>
<br>
Součástí semináře jsou dvě úvodní přednášky expertů v oboru. Dr. Václav Janeček (University of Bristol) a Dr. Laura Fearnley (University of Glasgow/Charles University) studenty uvedou do problematiky AI v právu a etice.<br>
<br>
Samotné semináře vedené Dr. Martinem Kolouškem a Dr. Petrem Roháčkem pokrývají širokou škálu témat, která jsou nezbytná pro každého, kdo se zajímá o etické a právní výzvy, které představuje AI. Začínajíc od úvodu k AI v kontextu etiky a práva, seminář postupuje k více specifickým otázkám, jako jsou předsudky v AI, diskriminace a vývoj etických rámců pro implementaci AI v právním rozhodování. Tento postup zajišťuje, že studenti nejen pochopí teoretické základy etiky a práva AI, ale také se zapojí do aktuálních debat a praktických výzev v oboru.<br>
<br>
Důraz na interaktivní diskusi a prezentaci skupinových projektů zdůrazňuje praktický přístup semináře, který podněcuje studenty k aplikaci teoretických znalostí na reálné scénáře. Tento způsob výuky je obzvláště účinný v oborech, jako je AI, kde tempo technologického vývoje vyžaduje praktické porozumění etickým i právním konotacím.<br>
<br>
Závěrečné prezentace studentských projektů nabízejí platformu pro ukázku aplikace znalostí získaných během semináře, což posiluje cíl semináře podporovat kritické myšlení a inovativní řešení etických a právních problémů v AI.
Syllabus - Czech
Last update: JUDr. Petr Roháček (28.02.2024)

Úvodní odborné přednášky

1. Přednáška Dr. Václava Janečka - „Umělá inteligence v právu“ (29.2.)

  • Co je AI? Sci-fi versus realita. Netechnický úvod do moderní umělé intelligence a generativní AI (30 minut).
  • AI jako robo-soudce a “předpovídání” soudních rozhodnutí (30 minut).
  • Vady a selhání AI. Kdo je odpovědný a co s tím právo zmůže. (30 minut).

2. Přednáška Dr. Laury Fearnley (přednáška bude v angličtině) -  „Responsibility Gaps and Unexplainable Decisions“ (7.3.)

Semináře

1. Úvod do AI v kontextu etiky a práva

- Přednášející: Dr. Koloušek a Dr. Roháček

- Představení a úvod do základů AI v kontextu etiky a práva. Doporučené: https://www.youtube.com/watch?v=F46lwq0Rl4k AI in Law: A New Era of Accessible Justice | Noah Wong | TEDxMenloSchool https://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now/ Courts Are Using AI to Sentence Criminals. That Must Stop Now – Jason Tashea; https://en.wikipedia.org/wiki/COMPAS_(software) https://www.youtube.com/watch?v=eXdVDhOGqoE AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

2. AI a etika

- Přednášející: Dr. Koloušek

- Prozkoumání etických dilemat spojených s vývojem a používáním AI.

- Doporučená literatura: Thomas M. Powers, Jean-Gabriel Ganascia: The Ethics of the Ethics of AI. In: Marcus D. Dubber (ed.) et al.: The Oxford Handbook of Ethic of AI, 2020. https://doi.org/10.1093/oxfordhb/9780190067397.001.0001

3. Etické důsledky AI v právu

- Přednášející: Dr. Koloušek

- Diskuze o vlivu AI na právní normy a etické aspekty právních rozhodnutí.

- Doporučená literatura: Matthew Le Bui, Safiya Umoja Noble: We’re Missing a Moral Framework of Justice in Artificial Intelligence: On the Limits, Failings, and Ethics of Fairness. In: Marcus D. Dubber (ed.) et al.: The Oxford Handbook of Ethic of AI, 2020. https://doi.org/10.1093/oxfordhb/9780190067397.013.9

4. Předsudky a diskriminace v AI

- Přednášející: Dr. Koloušek

- Analýza předsudků v AI a jejich dopad na diskriminaci. - Doporučená literatura: Studie zadaná ECRI: https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73 Discrimination, artificial intelligence and algorithmic decision-making

5. Metodologie využití AI pro výzkum v právu a humanitních vědách

- Přednášející: Dr. Roháček

- Přístupy k praktickému využívání AI pro výzkum v právu a dalších humanitních vědách. Doporučené: Projít si Consensus: https://consensus.app/, Elicit: https://elicit.com/?workflow=table-of-papers, Jak fungují GPTs uvnitř ChatGPT: https://openai.com/blog/introducing-gpts OpenRead: https://www.openread.academy/

6. Tvorba etických rámců pro AI v právním rozhodování

- Přednášející: Dr. Roháček

- Tvorba a diskuse o etických rámcích pro regulaci a implementaci AI v právním kontextu.

Doporučené: „Human-aligned artificial intelligence is a multiobjective problem“ discusses the necessity for AI systems to consider multiple, potentially conflicting factors in decision-making, promoting a multiobjective approach to align AI with human ethics and legal standards [(Vamplew et al., 2018)](https://consensus.app/papers/humanaligned-intelligence-multiobjective-problem-vamplew/4781dec10f325b6687d1e368e8d552c5/?utm_source=chatgpt).

„How AI can be a force for good“ outlines an ethical framework to harness AI's potential while ensuring its alignment with human values, emphasizing the need for ethical regulations to mitigate risks associated with AI in legal contexts [(Taddeo & Floridi, 2018)](https://consensus.app/papers/force-good-taddeo/6c623106c8b656deb05c6c5d09c95246/?utm_source=chatgpt).

7. Budoucnost a vize AI v právním rozhodování

- Přednášející: Dr. Roháček

- Průzkum potenciálních budoucích trendů a dopadu AI na právní rozhodování a procesy.

Doporučené: „Adapting to the Digital Transformation“ discusses the legal challenges and jurisdictional approaches to AI, emphasizing the need for legal systems to adapt to the digital transformation brought about by AI in decision-making processes [(O'Leary & Armfield, 2020)](https://consensus.app/papers/adapting-digital-transformation-oleary/82331337e1ac57aa970d1dfc039aa5c0/?utm_source=chatgpt).

8. Prezentace skupinových projektů I

- Studenti prezentují průběh a meziřešení svých skupinových projektů.

9. Prezentace skupinových projektů II

- Finální prezentace studentských projektů a jejich hodnocení.

 
Charles University | Information system of Charles University | http://www.cuni.cz/UKEN-329.html