Literaturliste zum Seminar "KI, Wissenschaft, Gesellschaft und Verantwortung"

Zurück zur Hauptseite des Seminars

Leitfaden zur Gruppendiskussion: bitte alle einmal durchlesen, insbesondere die Moderatoren!

26.4.2019 Einführung ins maschinelle Lernen

Pflichtlektüre: keine, da es die erste Sitzung ist.

Freiwillige Lektüre zum Weiterlesen:

• M. Jordan, T. Mitchel, 2015: ​Machine learning: Trends, perspectives, and prospects​. Science, 2015
• Domingos, Pedro M. "A few useful things to know about machine learning." Communications of the ACM (2012).

3.5.2019 Philosophie und Technik-Determinismus

Kontrollieren wir die Technik oder die Technik uns?

Pflichtlektüre:

• Kapitel 2 aus David Nye: Technology Matters. MIT Press, 2006.

Fragen, die Sie dazu in moodle beantworten muessen (deadline: Donnerstag 12:00):

1. Was besagt die These des Technologie-Determinismus?
2. Beschreiben Sie ein Szenario einer deterministischen technologischen Entwicklung.
3. Beschreiben Sie ein potentielles Gegenbeispiel zur These des Technologie-Determinismus.

10.5. Ethische Ansätze in der KI

Pflichtlektüre:

• Floridi, Luciano et al : AI4People - An Ethical Framework for a Good AI Society. Opportunities, Risks, Principles, and Recommendations. In: Minds and Machines 28 (4), 2018

Fragen, die Sie dazu in moodle beantworten muessen (deadline: Donnerstag 12:00):

1. Geben Sie im Anschluss an Kapitel 4.1 eine Einschätzung dazu ab, ob KI-Technologien Nachhaltigkeitsziele eher fördern oder verhindern?
2. Stichwort "decide-to-delegate" (Kap. 4.3); in welchen Bereichen kann damit gerechnet werden, dass (kollektiv) entschieden wird, Entscheidungen nicht an KI-Systeme zu delegieren?
3. In welchen Bereichen ist der in Kap. 5.1 angesprochene "multistakeholder approach" zu beobachten, in welchen nicht?

Freiwillige Lektüre zum Weiterlesen:

• Taddeo, Floridi: How AI can be a force for good. Science, 2018

17.5. KI und Gesellschaft: Algorithmenethik.

Was wollen wir Algorithmen erlauben, was nicht? Wer ist verantwortlich? Technische Ansätze zu Fairness im maschinellen Lernen?

Pflichtlektüre:

• Binns, Reuben: Algorithmic Accountability and Public Reason. In: Philosophy and Technology 31(4), S. 543-556
• Introduction of Borocas, Hardt, Narayanan: Fairness and Machine Learning, book draft, 2019 (pages 9-33 in the pdf)

Fragen, die Sie dazu in moodle beantworten muessen (deadline: Donnerstag 12:00):

1. "Algorithmic Accountability Aims to Draw Out Embodied Values": welche Werte sollten Ihrer Ansicht nach bei einer algorithmischen Kreditentscheidung berücksichtigt werden? Welche wiederum erachten Sie als nicht zulässig?
2. "Public Reason" als epistemisches und normatives Ideal von algorithmischer Verantwortlichkeit: welche möglichen Fallstricke könnten sich hier sowohl für Entscheidungsträger als auch Datensubjekte ergeben?
3. Zum Fairness-Kapitel: Im Abschnitt "The trouble with measurement" werden verschiedene Beispiele beschrieben, in denen Daten einen Bias enthalten, der nicht unbedingt beabsichtigt ist. Fallen Ihnen weitere Beispiele ein?

Freiwillige Lektüre zur Anwendung von ML im gesellschaftlichen Kontext:

• Predictive policing:
  Mara Hvistendahl: ​Can ‘predictive policing’ prevent crime before it happens? Science online, 2016.
  Blog discussion by Emily Thomas: ​Why Oakland Police Turned Down Predictive Policing
• Wang, Kosinski: ​Deep neural networks can detect sexual orientation from faces​.​ ​2017 (and a blog discussion)
• Kleinberg, Ludwig, Mullainathan: ​A Guide to Solving Social Problems with Machine Learning​, 2016

Freiwillige Lektüre zum Thema Fairness im Maschinellen Lernen:

• Chapter 2 (Demographic classification criteria) of Borocas, Hardt, Narayanan: Fairness and Machine Learning, book draft, 2019
• Video von der FAT 2018 (Conference on Fairness, accountability and transparency): 21 fairness definitions and their politics (FAT* 2018)
• Friedler, Sorelle A., et al. "A comparative study of fairness-enhancing interventions in machine learning." Proceedings of the Conference on Fairness, Accountability, and Transparency. ACM, 2019.
• Verma, Sahil, and Julia Rubin. "Fairness definitions explained." 2018 IEEE/ACM International Workshop on Software Fairness (FairWare). 2018.

24.5. KI und Gesellschaft: Regulierung.

Wie kann man den Einsatz von KI in der Gesellschaft regulieren, und wie funktionieren die zugrundeliegenden politischen und juristischen Prozesse?
Pflichtlektüre:

• Abels: Entscheidungsstrukturen im Mehrebenensystem der EU am Beispiel der Datenschutzrichtlinie der EU. Zeitschrift für Gemeinschaftskunde, Geschichte und Wirtschaft 77, 2019
• Hoffmann-Riem, Verhaltenssteuerung durch Algorithmen – Eine Herausforderung für das Recht, AöR 2017, 1

Fragen, die Sie dazu in moodle beantworten muessen (deadline: Donnerstag 12:00):

1. Zum Text ueber EU-Entscheidungsstrukturen: Welche Entscheidungsebenen und Akteure sind an der Regulierung beteiligt? Und welche Schwierigkeiten gibt es, technologische Innovationen politisch (mit Mitteln des Rechts) zu regulieren?
2. Zum justistischen Text: Ist der Bereich der KI überhaupt einer rechtlichen Regulierung zugänglich? Welche Regelungsinstrumente finden Sie sinnvoll? An wen sollten sich die Regulierungen primär richten – an die Nutzer, die Entwickler oder die anbietenden Unternehmen?
3. Zum justistischen Text: Welche Vorteile, welche Risiken erkennen Sie in der „Governance by Algorithms“? Führt die „Governance durch Algorithmen“ durch Privatunternehmen Ihrer Meinung nach zu einem „Parallelstaat“?

Freiwillige Lektüre zum Weiterlesen:

• Wagner, Forschungsfreiheit und Regulierungsdichte, NVwZ 1998, 1235
• Lewinski, Regulierungsbedarf und Regulierungsfelder von algorithmischen Entscheidungen, InTeR 2018, 168
• Müller-Hengstenberg/Kirn: Intelligente (Software-)Agenten: Eine neue Herausforderung unseres Rechtssystems - Rechtliche Konsequenze der "Verselbstständigung" technischer Systeme, MMR 2014, 307
• Link zur EU-Datenschutzrichtline (in any language you want). The critical part starts on page 46 of the english version (Article 22).
• Helbing, Dirk. Machine Intelligence: Blessing or Curse? It Depends on Us!. Towards Digital Enlightenment: Essays on the Dark and Light Sides of the Digital Revolution. p. 25-39, Springer, 2019.
• Klonick, The New Governors: The People, Rules, and Processes Governing Online Speech, Harvard Law Review 2018, 1598
• Martini/Nink, Wenn Maschinen entscheiden... – vollautomatisierte Verwaltungsverfahren und der Persönlichkeitsschutz, NVwZ Extra 2017, 1
• Veil, Die Datenschutz-Grundverordnung: des Kaisers neue Kleider, NVwZ 2018, 686
• Wischmeyer, Regulierung intelligenter Systeme, AöR 143 (2018), 1

31.5. kein Seminar

7.6. KI und Gesellschaft: Ökonomische Konsequenzen.

Folgen der Automatisierung durch KI auf Industrie, Einkommen, Arbeitslosigkeit, etc

Pflichtlektüre:

• Autor, D. H. (2015). Why Are There Still So Many Jobs? The History and Future of Workplace Automation. Journal of Economic Perspectives, 29(3), 3–30.

Fragen, die Sie dazu in moodle beantworten muessen (deadline: Donnerstag 12:00):

1. Erläutern Sie, was Autor (2015) unter "Employment Polarization" versteht.
2. Im Abschnitt "How Automation and Employment Interact" beschreibt Autor (2015) drei Faktoren, die den Einfluss von technologischer Innovation auf Beschäftigungsverhältnisse abmildern oder verstärken können. Nennen und erläutern Sie diese Faktoren kurz und berücksichtigen Sie dabei die Ideen von "Complementarity" und "Substitution".
3. Bedeutet "Employment Polarization" zwangsläufig auch eine Polarisierung der Löhne?

Freiwillige Lektüre zum Weiterlesen:

• Brynjolfsson, E., Rock, D., and Syverson, C. (2017). Artificial Intelligence and the Modern Productivity Paradox: A Clash of Expectations and Statistics (Working Paper No. 24001). National Bureau of Economic Research
• Athey, S. (2017). Beyond prediction: Using big data for policy problems. Science, 355(6324), 483–485.
• Acemoglu, D., Restrepo, P. (2018). The Race between Man and Machine: Implications of Technology for Growth, Factor Shares, and Employment. American Economic Review, 108(6), 1488–1542
• Brynjolfsson, E., Mitchell, T. (2017). What can machine learning do? Workforce implications. Science, 358(6370), 1530–1534.
• Frey, C. B., Osborne, M. A. (2017). The future of employment: How susceptible are jobs to computerisation? Technological Forecasting and Social Change, 114, 254–280.
• Cave, Steven; OhEigeartaigh, Seán S. (2018): An AI Race for Strategic Advantage: Rhetoric and Risks. AAAI/ACM Conference on Artificial Intelligence, Ethics and Society. 2018

5.7.2019 Kompakter Seminartag in Form einer Studierendenkonferenz

Thema 1: KI und Umweltschutz

• Strubell, Emma; Ganesh, Ananya; McCallum, Andrew: Energy and Policy Considerations for Deep Learning in NLP. Arxiv, 2019.
• Fromhold-Eisebith, Martina; Grote, Ulrike; Matthies, Ellen; Messner, Dirk; Pittel, Karen; Schellnhuber, Hans Joachim et al. (2019): Unsere gemeinsame digitale Zukunft. Herausgegeben vom Wissenschaftlichen Beirat der Bundesregierung Globale Umweltveränderungen, 2019
• Crawford, Kate; Joler, Vladan (2018): Anatomy of an AI System. For full text check out https://anatomyof.ai
• Freiwillig: Rolnick, David; Donti, Priya L.; Kaack, Lynn H.; Kochanski, Kelly; Lacoste, Alexandre; Sankaran, Kris et al. (2019): Tackling Climate Change with Machine Learning. In: Arxiv, 2019

Thema 2: KI: Utopien und Dystopien

• John Danaher: Will life be worth living in a world without work? Technological Unemployment and the Meaning of Life. Science and Engineering Ethics, 2017
• Jens Allwood: Is Digitalization Dehumanization?—Dystopic Traits of Digitalization. Proceedings of the IS4SI Summit DIGITALISATION FOR A SUSTAINABLE SOCIETY, 2017.
• Nick Bostrom: Is the default outcome doom?Chapter 8 of his book "Superintelligence", 2014.

Thema 3: KI: Wirtschaftliche Interessen vs. Persoenlichkeitsschutz

• Tucker, C. (2018). Privacy, algorithms, and artificial intelligence. In A. Agrawal, J. Gans, & A. Goldfarb (Eds.), The Economics of Artificial Intelligence: An Agenda. University of Chicago Press.
• Miller, K. M., & Skiera, B. (2017). Economic Damage of Cookie Lifetime Restrictions NET Institute working paper