KIF530:Resolutionen/KI Tools
Die 53,0. Konferenz der deutschsprachigen Informatikfachschaften und 92. Konferenz der deutschsprachigen Mathematikfachschaften bestätigen und erweitern die Resolution “KI-Tools an Hochschulen”, welche auf der 51,5. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde.
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten. Mit KI-Inhalten bezeichnen wir jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden.
Die 53,0. Konferenz der deutschsprachigen Informatikfachschaften und 92. Konferenz der deutschsprachigen Mathematikfachschaften fordern die Hochschulen dazu auf, den Einsatz von KI-Tools hochschulweit einheitlich zu regeln und dabei folgendes zu beachten:
Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.[Bearbeiten]
Regelungen müssen hochschulweit gelten und passen sich neuen Entwicklungen an, indem sie nicht an spezifische Modelle oder Tools gebunden sind. Ordnungen sollen klarstellen, welche Verwendungen von KI-Tools von der Hochschule ausgeschlossen werden. Die getroffenen Regelungen sind Studierenden transparent zu kommunizieren. Das macht sie für Studierende nachvollziehbar und unabhängig von den Entscheidungen einzelner Dozierender.
Kein generelles Nutzungsverbot von KI-Tools an der Hochschule.[Bearbeiten]
KI-Tools bieten nach unserer Einschätzung keinen größeren Nutzen als menschliche Expert:innen. Die Möglichkeit, Inhalte von anderen erstellen oder verbessern zu lassen und als eigene Leistung auszugeben, besteht bereits ohne technische Hilfsmittel. Prüfungsformen werden durch das Erlauben von KI-Tools nicht empfindlicher gegenüber Fremdleistungen.
Die Lehre ist in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit den neuen Werkzeugen zu vermitteln.[Bearbeiten]
Dabei ist insbesondere die Auseinadersetzung mit den möglichen Risiken der Nutzung essenziell. Ein KI-Tool kann in vielen Fachbereichen Prozesse vereinfachen und zu dem Inhaltlichen Lernerfolg der Studierenden beitragen. Studierenden muss der verantwortungsvolle Umgang vermittelt werden, insbesondere fachspezifische Informationsmaterialien und Veranstaltungen sind notwendig.
Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.[Bearbeiten]
Es ist darauf zu achten, dass geschützte Daten von KI-Tools nicht repliziert werden können und es für das Studium nicht erforderlich ist und sein darf, persönliche Daten an Drittanbieter weiterzugeben.
Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.[Bearbeiten]
Um wissenschaftlichen Standards genüge zu tun, müssen KI-Inhalte und ihren Ursprung eindeutig identifizierbar gemacht werden (Attribution), womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist – wenn möglich – eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.
Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.
Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.[Bearbeiten]
Einige KI-Tools können sehr teuer sein sowie andere Barrieren zur Verwendung aufweisen. Bei verpflichtender Verwendung spezieller KI-Tools muss sowohl die Kostenübernahme als auch die Erfüllung dieser anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.
Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.[Bearbeiten]
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer zielführender, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.
KI-Tools dürfen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.[Bearbeiten]
In der Wissenschaft und Lehre gibt es qualitätssichernde Prozesse, um Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Aspekt des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output eines KI-Tools kann in den meisten Fällen nicht klar genug nachvollzogen werden und kann demnach nicht durch Validierungsprozesse auf die Erfüllung wissenschaftlicher Standards geprüft werden.
KI-Tools dürfen bei der Entscheidungsfindung in der Bewertung von Prüfungsleistung und anderen studienverlaufsrelevanten Leistungen keinen Einfluss haben.[Bearbeiten]
Eine solche Bewertung führt zu Unklarkleiten und ist weder deterministisch noch im Nachhinein begründbar. Somit sind Bewertungen und Teilbewertungen von Leistungen durch KI-Tools, die für den Studienverlauf relevant sind, in sich nicht gerecht. Außerdem haben KI-Tools leistungsverzerrende Bias. Auch eine Nachkontrolle durch ein:e menschliche:n Prüfer:in birgt die Gefahr für mangelnde Sorgfalt und ist vollkommen inakzeptabel. Die Bewertung muss deshalb immer vollständig Menschen – mit der in der Erklärung zu Punkt 8 erwähnten Befugnis – überlassen werden.
