KIF495:Resolutionen/Ethik in KI

Ethik als verpflichtender Teil von Lehre im Bereich KI und Machine Learning

Die 49,5. Konferenz der deutschsprachigen Informatikfachschaften fordert Hochschulen, Lehrende und an Studiengangsentwicklung Beteiligte auf, insbesondere auch im Bereich Machine Learning, KI und Data Science die ethische und gesellschaftliche Einordnung der besprochenen Themen als Teil der Lehre sicherzustellen.

Wir verweisen an dieser Stelle auch auf die Resolution "Ethik als Teil des Studiums" der 44,5. Konferenz der deutschsprachigen Informatikfachschaften und die Anforderungen aus § 11 (1) Satz 3 MRVO nach Studienakkreditierungsstaatsvertrag .

Relevant sind für Studierende in Fächern mit Bezug zur KI sowohl die ethisch-theoretischen Grundlagen als auch die Auseinandersetzung mit Alltagssituationen und angewandten Beispielen von gesellschaftlichen Auswirkungen und verantwortungsbewusstem Umgang. Wir begrüßen das Angebot dedizierter Module, insbesondere im Pflicht-, aber auch im Wahlbereich, vor allem für Grundlagen der ethischen Auseinandersetzung und gesellschaftlichen Einordnung, auch unabhängig von KI. Ergänzend sprechen wir uns für die Behandlung im direkten Kontext der restlichen fachlichen Auseinandersetzung (mit KI) aus. Zweck ist die Anwendung, das Einordnen in Kontext und das Üben des Einsatzes der Grundlagen.

Relevant in diesem Bereich sind unter anderem Themen wie:

• kritische Reflexion erfolgter und geplanter Forschung (Forschungsfragen, Methodik, Auswertung, ausführende Personen etc.)
• Grenzen von KI-Systemen: Für was ist KI (nicht) geeignet? Wo sollte sie (nicht) zum Einsatz kommen und warum?
• Diskriminierung und Verstärkung gesellschaftlicher Probleme
• Gefahren des Missbrauchs und Dual-Use-Problematik
• gesellschaftlicher und historischer Kontext
• Aufgaben, Verantwortung und Repräsentation unter Entwickelnden und Anwendenden
• Transparenz, Verantwortung und Nachvollziehbarkeit (im juristischen und gesellschaftlichen Sinne)
• Datenschutz
• Nachhaltigkeit

Begründung

Künstliche Intelligenz beeinflusst einen großen Teil des gesellschaftlichen Alltags. Durch Algorithmen werden Daten und damit gesellschaftliches Verhalten und Individuen analysiert. Wir bekommen Medien und Produkte vorgeschlagen, unsere Kreditwürdigkeit oder Wahrscheinlichkeit zukünftigen Verhaltens 'gemessen' und der Informationsfluss gefiltert. Viele dieser Anwendungen sollen unser Leben vereinfachen; andere fördern die Wirtschaft. Durch Interessenskonflikte und geschlossene Entwicklung ist schon jetzt das eine vom anderen für Endanwender\*innen oft nicht zu unterscheiden.

Damit sind viele Risiken verbunden. Der großflächige Einsatz von KI und verwandten Methoden hat verstärkt, dass diese Risiken immer schlechter überschau- und analysierbar sind. Insbesondere Entscheidungssysteme, die für Menschen nicht interpretierbar sind, stellen uns als Gesellschaft vor diverse Herausforderungen. Beispiele für Probleme, die daraus entstehen, beinhalten Bilderkennungsprogramme, die dunkelhäutige Menschen öfter als weiße Menschen als nicht-menschlich klassifizieren oder nicht erkennen und Bewerbungen, die anhand von Hautfarbe oder Geschlecht klassifiziert werden . Abgesehen von vergangenen Vorfällen sind die aktuellen und zukünftigen Einsatzgebiete (Social Scoring, Predictive Policing, Militär, Medizin etc.) ein Grund für besondere Aufmerksamkeit in der Ausbildung derer, die damit in Zukunft forschen und arbeiten werden.

An vielen deutschen Hochschulen nimmt der Anteil der Lehre in diesem Bereich immer weiter zu, durch Interesse der Studierenden, Berufungen, neue Studiengänge und der Nachfrage der Industrie. Die 49,5. Konferenz der deutschsprachigen Informatikfachschaften stellt allerdings fest, dass die Reflexion und Fähigkeit zum kritischen Hinterfragen, ethische Fragen der Technik und Anwendungsszenarien, sowie viele weitere Themen in diesen neuen Entwicklungen, insb. Studiengängen viel zu wenig beleuchtet werden. Im Ergebnis werden in den nächsten Jahren viele Studierende ihren Abschluss machen und in die Wirtschaft sowie Forschung gehen, ohne ausgebildet und geübt darin zu sein, mit diesen Fragen konfontiert zu werden.

Die 49,5. Konferenz der deutschsprachigen Informatikfachschaften sieht die Verantwortung der Hochschulen, diese Thematik innerhalb der Institutionen und darüber hinaus stärker in den Fokus zu rücken als Grundlage für die obige Forderung. Gleichzeitig ist es nach unserer Auffassung auch grundsätzlich Aufgabe der Hochschulen, neben der reinen Wissensvermittlung eine kritische Auseinandersetzung mit der eigenen Profession hervorzurufen. Dies wird gestützt durch §11 (1) Satz 3 der Musterrechtsverordnung nach Studienakkreditierungsstaatsvertrag.

Kontakt für Rückfragen

Franzi (TU Darmstadt)

---