KIF515:Resolutionen/KI-Tools: Unterschied zwischen den Versionen

Aus KIF
Keine Bearbeitungszusammenfassung
Zeile 1: Zeile 1:
== Resolutionsentwurf ==
= Resolutionsentwurf KI-Tools =


Die {{KIF|51,5}} schließt sich den in der {{KIF|51,0}} beschlossenen Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools an:
Die {{KIF|51,5}} schließt sich den in der {{KIF|51,0}} beschlossenen Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools zu allen 4 Punkten an:


# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
Zeile 8: Zeile 8:
# Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.
# Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.


Darüber hinaus fordert die Konferenz:
Darüber hinaus fordert die {{KIF|51,5}} zusaetzlich die Punkte 5 bis 9:


# <li value="5">Es sind für KI-Inhalte einheitliche und klar definierte Regeln zur Attribution festzuschreiben.</li>
<ol start="5" style="list-style-type: decimal;">
# Die Vermittlung sowie Bewertung von Lehrinhalten darf nicht durch KI-Tools stattfinden.
<li>Es sind für Inhalte, welche mithilfe von KI-Tools erstellt wurden, einheitliche und klar definierte Regeln zur Attribution festzuschreiben.</li>
# Anstelle von Mitigationen zur unerlaubten Nutzung von KI-Tools in Abgaben und Prüfungen, sind Verständnis-Prüfungen vorzuziehen. Insbesondere die Barrierefreiheit ist hierbei mitzudenken.
<li>Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.</li>
<li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li>
<li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li>
<li>Die Bewertung von Lehrinhalten darf nicht durch KI-Tools stattfinden.</li></ol>


<span id="erläuterungen"></span>
== Erläuterungen ==
== Erläuterungen ==


KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z.B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.
Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden.
 
<span id="zu-5---attributions-regelungen"></span>
=== Zu (5) - Attributions-Regelungen: ===
 
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI, nachvollziehbar gemacht werden soll. Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten.


Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden.
Die Regelungen zu dieser Attribution sind nicht an ein Studienfach oder Tool gebunden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete Tool sowie die verwendete Tool-Version und relevante Eingabe-Parameter umfassen.


=== Zu (1) - Ordnungen: ===
<span id="zu-6---gleiche-vorraussetzungen-beim-einsatz"></span>
Gute Regelungen gelten hochschulweit und passen sich neuen Entwicklungen an, indem sie nicht an spezifische Modelle oder Tools gebunden sind.
=== Zu (6) - Gleiche Vorraussetzungen beim Einsatz ===
Ordnungen sollen klarstellen, welche Verwendungen von KI-Tools von der Hochschule ausgeschlossen werden. Das macht die Regelungen für Studierende transparent, nachvollziehbar und unabhängig von den Entscheidungen einzelner Dozierender.


=== Zu (2) - Kein KI Verbot: ===
Einige KI-Tools können sehr teuer sein oder andere Vorraussetzungen zur Verwendung aufweisen. Sowohl der Zugang als auch die Kostenübernahme für KI-Tools muss durch die Hochschule für alle Studierenden gleich angeboten werden, um Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools zu verhindern.
KI-Tools bieten nach unserer Einschätzung keinen größeren Nutzen als menschliche Expert:innen (z.B. Studierende aus höheren Semestern). Die Möglichkeit, Inhalte von anderen erstellen oder verbessern zu lassen und als eigene Leistung auszugeben, besteht bereits ohne technische Hilfsmittel.
Prüfungsformen werden durch das Erlauben von KI-Tools nicht empfindlicher gegenüber Fremdleistungen.


=== Zu (3) - KI Lehre: ===
<span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span>
Studierende aller Fachrichtungen können von einem guten Umgang mit KI-Tools profitieren.
=== Zu (7) - Vereinbarkeit der Barrierefreiheit ===
Da diese eine breite fachunabhängige Einsetzbarkeit zeigen, sollten KI-Tools auch außerhalb von Informatikveranstaltungen in die Lehrinhalte aufgenommen werden.


=== Zu (4) - Datenschutz: ===
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden.
Es ist darauf zu achten, dass geschützte Daten von KI-Tools nicht repliziert werden können und es für das Studium nicht erforderlich ist und sein darf, persönliche Daten an Drittanbieter weiterzugeben.


=== Zu (5) - Attributions-Regeln: ===
<span id="zu-8---vermittlung-von-lehrinhalten-durch-ki"></span>
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI, nachvollziehbar gemacht werden soll.
=== Zu (8) - Vermittlung von Lehrinhalten durch KI ===
Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten.


Die Regelungen zu dieser Attribution sind nicht an ein Studienfach oder Tool gebunden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete Tool sowie die verwendete Tool-Version und relevante Eingabe-Parameter umfassen.
In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI-Black-Box kann nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen.


=== Zu (6) - Grundlagen-Lehre: ===
<span id="zu-9---bewertung-von-lehrinhalten-durch-ki"></span>
Auch mit der Existenz von KI-Tools sollten Studierende in der Lage sein, typische grundlegende Aufgabenstellungen selbstständig lösen zu können. Ein Verzicht auf Grundlagen-Lehre oder auch nur die Reduzierung dieser, mit Verweis auf KI-Tools, sollte nicht geschehen.
=== Zu (9) - Bewertung von Lehrinhalten durch KI ===


=== Zu (7) - Verständnisprüfungen und Barrierefreiheit: ===
Eine Bewertung durch KI-Tools birgt die Gefahr, dass durch Ausnutzen bestimmter Eigenschaften des KI-Tools, unfaire Bewertungen erreicht werden können. KI-Tools können für derartige und andere Fehler nicht haftbar gemacht werden. Aus diesem Grund muss die Bewertung einem Menschen mit der in der Erklärung zu Punkt 8 erwähnten Befähigung überlassen werden.
Zur Mitigation von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Aufgaben als Text in einem Bild. Anstelle derartiger Lösungen sollten Prüfungsformen das Verständnis eines Lösungsswegs bevorzugen.

Version vom 4. November 2023, 15:38 Uhr

Resolutionsentwurf KI-Tools

Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften schließt sich den in der 51,0. Konferenz der deutschsprachigen Informatikfachschaften beschlossenen Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools zu allen 4 Punkten an:

  1. Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
  2. Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
  3. Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
  4. Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.

Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusaetzlich die Punkte 5 bis 9:

  1. Es sind für Inhalte, welche mithilfe von KI-Tools erstellt wurden, einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
  2. Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
  3. Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
  4. KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
  5. Die Bewertung von Lehrinhalten darf nicht durch KI-Tools stattfinden.

Erläuterungen

Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden.

Zu (5) - Attributions-Regelungen:

Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI, nachvollziehbar gemacht werden soll. Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten.

Die Regelungen zu dieser Attribution sind nicht an ein Studienfach oder Tool gebunden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete Tool sowie die verwendete Tool-Version und relevante Eingabe-Parameter umfassen.

Zu (6) - Gleiche Vorraussetzungen beim Einsatz

Einige KI-Tools können sehr teuer sein oder andere Vorraussetzungen zur Verwendung aufweisen. Sowohl der Zugang als auch die Kostenübernahme für KI-Tools muss durch die Hochschule für alle Studierenden gleich angeboten werden, um Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools zu verhindern.

Zu (7) - Vereinbarkeit der Barrierefreiheit

Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden.

Zu (8) - Vermittlung von Lehrinhalten durch KI

In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI-Black-Box kann nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen.

Zu (9) - Bewertung von Lehrinhalten durch KI

Eine Bewertung durch KI-Tools birgt die Gefahr, dass durch Ausnutzen bestimmter Eigenschaften des KI-Tools, unfaire Bewertungen erreicht werden können. KI-Tools können für derartige und andere Fehler nicht haftbar gemacht werden. Aus diesem Grund muss die Bewertung einem Menschen mit der in der Erklärung zu Punkt 8 erwähnten Befähigung überlassen werden.

Abgerufen von „https://wiki.kif.rocks/w/index.php?title=KIF515:Resolutionen/KI-Tools&oldid=49363“