KIF515:Resolutionen/KI-Tools: Unterschied zwischen den Versionen
Em crx (Diskussion | Beiträge) Keine Bearbeitungszusammenfassung |
Keine Bearbeitungszusammenfassung |
||
| Zeile 1: | Zeile 1: | ||
<span id="resolutionsentwurf-ki-tools"></span> | |||
= Resolutionsentwurf KI-Tools = | = Resolutionsentwurf KI-Tools = | ||
Die {{KIF|51,5}} | Die {{KIF|51,5}} bestätigt die Resolution "[[510:KI-Tools KI-Tools an Hochschulen]]", welche auf der {{KIF|51,0}} verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools: | ||
# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten. | # Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten. | ||
| Zeile 8: | Zeile 9: | ||
# Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten. | # Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten. | ||
Darüber hinaus fordert die {{KIF|51,5}} | Darüber hinaus fordert die {{KIF|51,5}} zusätzlich die Punkte 5 bis 9: | ||
<ol start="5" style="list-style-type: decimal;"> | <ol start="5" style="list-style-type: decimal;"> | ||
<li> | <li>Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.</li> | ||
<li>Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.</li> | <li>Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.</li> | ||
<li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li> | <li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li> | ||
<li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li> | <li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li> | ||
<li> | <li>Bewertungen von Leistungen dürfen <!--,aus Gruenden des Bewertungsprozesses von Lehre,--> nicht durch KI-Tools stattfinden.</li></ol> | ||
<span id="erläuterungen"></span> | <span id="erläuterungen"></span> | ||
== Erläuterungen == | == Erläuterungen == | ||
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z.B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten. | |||
Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden. | Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden. | ||
<span id="zu-5--- | <span id="zu-5---regelungen-zur-attribution"></span> | ||
=== Zu (5) | === Zu (5) - Regelungen zur Attribution === | ||
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI | Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten. | ||
Die Regelungen | Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen. | ||
<span id="zu-6---gleiche- | <span id="zu-6---gleiche-voraussetzungen-beim-einsatz"></span> | ||
=== Zu (6) - Gleiche | === Zu (6) - Gleiche Voraussetzungen beim Einsatz === | ||
Einige KI-Tools können sehr teuer sein oder andere | Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen muss durch die Hochschule für alle Studierenden gleich angeboten werden, um Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools zu verhindern. | ||
<span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span> | <span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span> | ||
=== Zu (7) - Vereinbarkeit der Barrierefreiheit === | === Zu (7) - Vereinbarkeit der Barrierefreiheit === | ||
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. | Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer relevanter, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten. | ||
<span id="zu-8---vermittlung-von-lehrinhalten-durch-ki"></span> | <span id="zu-8---vermittlung-von-lehrinhalten-durch-ki"></span> | ||
| Zeile 44: | Zeile 47: | ||
In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI-Black-Box kann nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen. | In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI-Black-Box kann nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen. | ||
<span id="zu-9---bewertung-von- | <span id="zu-9---bewertung-von-leistungen-durch-ki"></span> | ||
=== Zu (9) - Bewertung von | === Zu (9) - Bewertung von Leistungen durch KI === | ||
Eine Bewertung durch KI-Tools birgt die Gefahr, dass durch Ausnutzen bestimmter Eigenschaften des KI-Tools | Eine Bewertung durch KI-Tools birgt die Gefahr, dass durch Ausnutzen bestimmter Eigenschaften des KI-Tools unfaire Bewertungen erreicht werden können. KI-Tools können für derartige und andere Fehler nicht haftbar gemacht werden. Aus diesem Grund muss die Bewertung einem Menschen mit der in der Erklärung zu Punkt 8 erwähnten Befugnis überlassen werden. | ||
Version vom 4. November 2023, 17:33 Uhr
Resolutionsentwurf KI-Tools
Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften bestätigt die Resolution "510:KI-Tools KI-Tools an Hochschulen", welche auf der 51,0. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:
- Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
- Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
- Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
- Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.
Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusätzlich die Punkte 5 bis 9:
- Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
- Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
- Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
- KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
- Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.
Erläuterungen
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z.B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.
Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden.
Zu (5) - Regelungen zur Attribution
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten.
Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.
Zu (6) - Gleiche Voraussetzungen beim Einsatz
Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen muss durch die Hochschule für alle Studierenden gleich angeboten werden, um Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools zu verhindern.
Zu (7) - Vereinbarkeit der Barrierefreiheit
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer relevanter, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.
Zu (8) - Vermittlung von Lehrinhalten durch KI
In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI-Black-Box kann nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen.
Zu (9) - Bewertung von Leistungen durch KI
Eine Bewertung durch KI-Tools birgt die Gefahr, dass durch Ausnutzen bestimmter Eigenschaften des KI-Tools unfaire Bewertungen erreicht werden können. KI-Tools können für derartige und andere Fehler nicht haftbar gemacht werden. Aus diesem Grund muss die Bewertung einem Menschen mit der in der Erklärung zu Punkt 8 erwähnten Befugnis überlassen werden.
