KIF490:Resolutionsentwürfe/Ethik in Machine Learning Modulen

Ethik als verpflichtender Teil von Machine Learning Modulen

Die ${KIF 49,0} erneuert die Resolution "Ethik als Teil des Studiums" der KIF 44,5 [1]. Zusätzlich fordert die ${KIF 49,0} die Universitäten auf, in Lehrveranstaltungen zum maschinellen Lernen den Themenbereich Ethik verpflichtend zu integrieren.

Hierbei sind insbesondere (abhängig des Veranstaltungsthemas) die Themen:

• Grenzen der KI,
• Diskriminierung,
• Missbrauchsmöglichkeiten und Dual Use,
• gesellschaftlicher Kontext,
• verantwortungsvolle Systeme,
• Verantwortung der Entwickler\*in,
• Abbildbarkeit von gesellschaftlichen Normen und
• Datenschutz

einzubeziehen. Zudem sollen praktische Herangehensweisen an die ethische Entwicklung vorgestellt werden.

[1] Resolution "Ethik als Teil des Studiums", KIF 44,5

Begründung

Bereits heute beeinflusst künstliche Intelligenz einen großen Teil unseres Lebens. Durch Algorithmen werden wir analysiert, uns Videos vorgeschlagen oder unsere Kreditwürdigkeit gemessen. Viele dieser Beeinflussungen vereinfachen unser Leben und helfen uns im Alltag, Andere fördern die Wirtschaft.

Dennoch sind damit viele Risiken verbunden. Während diese bei traditionellen Algorithmen noch überschau- und analysierbar sind, verstehen selbst die Entwickler eines selbstlernenden Systems oft nicht, wonach genau dieses System Entscheidungen fällt. So werden bei einigen Bilderkennungsprogrammen dunkelhäutige Menschen als nicht-menschlich klassifiziert, in anderen Fällen werden Bewerbungen anhand von Hautfarbe oder Geschlecht abgelehnt oder erkennt ein Kundenbindungsprogramm die Schwangerschaft einer Person, bevor sie es selbst weiß. Da bei selbstlernenden Systemen Entscheidungsprozesse durch den Menschen häufig nicht mehr nachzuvollziehen oder zu kontrollieren sind, steht auch die Frage der Eigenverantwortung von selbstlernenden Systemen im Raum.

Bei den in Zukunft geplanten Einsätzen des maschinellen Lernens sind die Risiken noch erheblich größer. In China befindet sich bereits ein Social-Scoring-System in der Entwicklung, in dem Menschen anhand ihres Verhaltens Rechte und Möglichkeiten entzogen oder vorenthalten werden, und auch in Deutschland und der EU finden sich dank Videoüberwachung und ersten Ideen zum "predictive Policing" bereits Systeme, die eine sehr genaue Analyse unseres Verhaltens durch staatliche und private Organe ermöglichen. Auch die Nutzung selbstlernender Systeme im militärischen und medizinischen Kontext wird bereits erforscht, was direkt Menschenleben kosten könnte.

Gleichzeitig ist maschinelles Lernen an vielen deutschen Universitäten bereits ein so heißes Thema, dass sogar spezielle Studiengänge zur "Data Science" eingerichtet werden. Die ${KIF49,0} stellt allerdings fest, dass die Risiken und ethischen Fragen der Technik in diesen und anderen Studiengängen viel zu wenig beleuchtet werden. Im Ergebnis werden in den nächsten Jahren viele Absolventen in die Wirtschaft und die Forschung entlassen werden, ohne jemals mit diesen Fragen konfontiert worden zu sein.

Die ${KIF 49,0} fordert die Universitäten auf, in Lehrveranstaltungen zum maschinellen Lernen den Themenbereich Ethik verpflichtend zu integrieren, um diese Thematik im gesamten Geschäftsbereich stärker in den Fokus zu rücken. Gleichzeitig ist es nach unserer Auffassung auch Aufgabe der Universitäten, neben der reinen Wissensvermittlung auch eine kritische Auseinandersetzung mit der eigenen Profession zu ermöglichen.