KIF515:Resolutionen/KI-Tools: Unterschied zwischen den Versionen

Aus KIF
 
(13 dazwischenliegende Versionen von 5 Benutzern werden nicht angezeigt)
Zeile 1: Zeile 1:
== Resolutionsentwurf ==
<span id="resolutionsentwurf-ki-tools"></span>
= Resolution KI-Tools =


Die {{KIF|51,5}} ergänzt die zur {{KIF|51,0}} beschlossenen Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools um die Punkte 5, 6 und 7:
Die {{KIF|51,5}} bestätigt die Resolution &quot;[[KIF510:KITools|KI-Tools an Hochschulen]]&quot;, welche auf der {{KIF|51,0}} verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:


# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
Zeile 7: Zeile 8:
# Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
# Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
# Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.
# Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.
# Es sind zumindest hochschulweit einheitliche, klar definierte Regeln zur Attribution von KI-generierten Inhalten festzuschreiben.
# Die Existenz von KI-Tools bedeutet nicht weniger Notwendigkeit für Grundlagen-Lehre.
# Anstelle von Mitigationen zur unerlaubten Nutzung von KI-Tools in Abgaben und Prüfungen, sind Verständnis-Prüfungen vorzuziehen. Insbesondere die Barrierefreiheit ist hierbei mitzudenken.


== Bemerkungen ==
Darüber hinaus fordert die {{KIF|51,5}} zusätzlich die Punkte 5 bis 9:


KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z.B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.
<ol start="5" style="list-style-type: decimal;">
<li>Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.</li>
<li>Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.</li>
<li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li>
<li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li>
<li>Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.</li></ol>


=== Zu (1) - Ordnungen: ===
<span id="erläuterungen"></span>
Gute Regelungen gelten hochschulweit und passen sich neuen Entwicklungen an, indem sie nicht an spezifische Modelle oder Tools gebunden sind.
== Erläuterungen ==
Ordnungen sollen klarstellen, welche Verwendungen von KI-Tools von der Hochschule ausgeschlossen werden. Das macht die Regelungen für Studierende transparent, nachvollziehbar und unabhängig von den Entscheidungen einzelner Dozierender.


=== Zu (2) - Kein KI Verbot: ===
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.
KI-Tools bieten nach unserer Einschätzung keinen größeren Nutzen als menschliche Expert:innen (z.B. Studierende aus höheren Semestern). Die Möglichkeit, Inhalte von anderen erstellen oder verbessern zu lassen und als eigene Leistung auszugeben, besteht bereits ohne technische Hilfsmittel.
Prüfungsformen werden durch das Erlauben von KI-Tools nicht empfindlicher gegenüber Fremdleistungen.


=== Zu (3) - KI Lehre: ===
Mit KI-Inhalten bezeichnen wir jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden.
Studierende aller Fachrichtungen können von einem guten Umgang mit KI-Tools profitieren.
Da diese eine breite fachunabhängige Einsetzbarkeit zeigen, sollten KI-Tools auch außerhalb von Informatikveranstaltungen in die Lehrinhalte aufgenommen werden.


=== Zu (4) - Datenschutz: ===
<span id="zu-5---regelungen-zur-attribution"></span>
Es ist darauf zu achten, dass geschützte Daten von KI-Tools nicht repliziert werden können und es für das Studium nicht erforderlich ist und sein darf, persönliche Daten an Drittanbieter weiterzugeben.
=== Zu (5) - Regelungen zur Attribution ===


=== Zu (5) - Attributions-Regeln: ===
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist – wenn möglich – eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI, nachvollziehbar gemacht werden soll.
Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten.


Die Regelungen zu dieser Attribution sind nicht an ein Studienfach oder Tool gebunden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete Tool sowie die verwendete Tool-Version und relevante Eingabe-Parameter umfassen.
Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.


=== Zu (6) - Grundlagen-Lehre: ===
<span id="zu-6---gleiche-voraussetzungen-beim-einsatz"></span>
Auch mit der Existenz von KI-Tools sollten Studierende in der Lage sein, typische grundlegende Aufgabenstellungen selbstständig lösen zu können. Ein Verzicht auf Grundlagen-Lehre oder auch nur die Reduzierung dieser, mit Verweis auf KI-Tools, sollte nicht geschehen.
=== Zu (6) - Gleiche Voraussetzungen beim Einsatz ===


=== Zu (7) - Verständnisprüfungen und Barrierefreiheit: ===
Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei verpflichtender Verwendung spezieller KI-Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.
Zur Mitigation von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Aufgaben als Text in einem Bild. Anstelle derartiger Lösungen sollten Prüfungsformen das Verständnis eines Lösungsswegs bevorzugen.
 
<span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span>
=== Zu (7) - Vereinbarkeit der Barrierefreiheit ===
 
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer zielführender, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.
 
<span id="zu-8---vermittlung-von-lehrinhalten-durch-ki"></span>
=== Zu (8) - Vermittlung von Lehrinhalten durch KI ===
 
In der Wissenschaft und Lehre gibt es qualitätssichernde Prozesse, um Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Aspekt des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output eines KI-Tools kann in den meisten Fällen nicht klar genug nachvollzogen werden und kann demnach nicht durch Validierungsprozesse auf die Erfüllung wissenschaftlicher Standards geprüft werden.
 
<span id="zu-9---bewertung-von-leistungen-durch-ki"></span>
=== Zu (9) - Bewertung von Leistungen durch KI ===
 
Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler sowie bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen – mit der in der Erklärung zu Punkt 8 erwähnten Befugnis – überlassen werden.

Aktuelle Version vom 5. November 2023, 03:28 Uhr

Resolution KI-Tools[Bearbeiten]

Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften bestätigt die Resolution "KI-Tools an Hochschulen", welche auf der 51,0. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:

  1. Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
  2. Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
  3. Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
  4. Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.

Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusätzlich die Punkte 5 bis 9:

  1. Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
  2. Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
  3. Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
  4. KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
  5. Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.

Erläuterungen[Bearbeiten]

KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.

Mit KI-Inhalten bezeichnen wir jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden.

Zu (5) - Regelungen zur Attribution[Bearbeiten]

Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist – wenn möglich – eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.

Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.

Zu (6) - Gleiche Voraussetzungen beim Einsatz[Bearbeiten]

Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei verpflichtender Verwendung spezieller KI-Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.

Zu (7) - Vereinbarkeit der Barrierefreiheit[Bearbeiten]

Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer zielführender, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.

Zu (8) - Vermittlung von Lehrinhalten durch KI[Bearbeiten]

In der Wissenschaft und Lehre gibt es qualitätssichernde Prozesse, um Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Aspekt des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output eines KI-Tools kann in den meisten Fällen nicht klar genug nachvollzogen werden und kann demnach nicht durch Validierungsprozesse auf die Erfüllung wissenschaftlicher Standards geprüft werden.

Zu (9) - Bewertung von Leistungen durch KI[Bearbeiten]

Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler sowie bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen – mit der in der Erklärung zu Punkt 8 erwähnten Befugnis – überlassen werden.

Abgerufen von „https://wiki.kif.rocks/w/index.php?title=KIF515:Resolutionen/KI-Tools&oldid=49771“