KIF515:Resolutionen/KI-Tools

Resolutionsentwurf KI-Tools

Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften bestätigt die Resolution "510:KI-Tools KI-Tools an Hochschulen", welche auf der 51,0. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:

1. Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
2. Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
3. Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
4. Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.

Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusätzlich die Punkte 5 bis 9:

5. Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
6. Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
7. Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
8. KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
9. Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.

Erläuterungen

KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.

Mit KI-Inhalten bezeichnen wir jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden.

Zu (5) - Regelungen zur Attribution

Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist – wenn möglich – eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.

Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.

Zu (6) - Gleiche Voraussetzungen beim Einsatz

Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei verpflichtender Verwendung spezieller KI-Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.

Zu (7) - Vereinbarkeit der Barrierefreiheit

Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer zielführender, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.

Zu (8) - Vermittlung von Lehrinhalten durch KI

In der Wissenschaft und Lehre gibt es qualitätssichernde Prozesse, um Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Aspekt des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output eines KI-Tools kann in den meisten Fällen nicht klar genug nachvollzogen werden und kann demnach nicht durch Validierungsprozesse auf die Erfüllung wissenschaftlicher Standards geprüft werden.

Zu (9) - Bewertung von Leistungen durch KI

Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler sowie bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen – mit der in der Erklärung zu Punkt 8 erwähnten Befugnis – überlassen werden.