KIF515:Resolutionen/KI-Tools: Unterschied zwischen den Versionen
K (redaktionelle Änderungen) |
Em crx (Diskussion | Beiträge) Keine Bearbeitungszusammenfassung |
||
Zeile 1: | Zeile 1: | ||
WARNUNG: Redaktionelle Änderungen bitte im [https://md.kif.rocks/515:ki-tools-reso?edit Pad] vornehmen, da sie sonst überschrieben werden! | |||
<span id="resolutionsentwurf-ki-tools"></span> | <span id="resolutionsentwurf-ki-tools"></span> | ||
= Resolutionsentwurf KI-Tools = | = Resolutionsentwurf KI-Tools = | ||
Die {{KIF|51,5}} bestätigt die Resolution "[[ | Die {{KIF|51,5}} bestätigt die Resolution "[[510:KI-Tools KI-Tools an Hochschulen]]", welche auf der {{KIF|51,0}} verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools: | ||
# Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten. | # Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten. | ||
Zeile 16: | Zeile 18: | ||
<li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li> | <li>Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.</li> | ||
<li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li> | <li>KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.</li> | ||
<li>Bewertungen von Leistungen dürfen | <li>Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.</li></ol> | ||
<span id="erläuterungen"></span> | <span id="erläuterungen"></span> | ||
Zeile 23: | Zeile 25: | ||
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten. | KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten. | ||
Wir bezeichnen mit KI-Inhalten jene Werke, die unter Mithilfe von KI-Tools erstellt werden. | Wir bezeichnen mit KI-Inhalten jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden. | ||
<span id="zu-5---regelungen-zur-attribution"></span> | <span id="zu-5---regelungen-zur-attribution"></span> | ||
=== Zu (5) - Regelungen zur Attribution === | === Zu (5) - Regelungen zur Attribution === | ||
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist eine Reproduzierbarkeit der KI-Inhalte zu gewährleisten. | Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist - wenn möglich - eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten. | ||
Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen. | Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen. | ||
<span id="zu-6---gleiche-voraussetzungen-beim-einsatz"></span> | <span id="zu-6---gleiche-voraussetzungen-beim-einsatz"></span> | ||
=== Zu (6) - Gleiche Voraussetzungen beim Einsatz === | === Zu (6) - Gleiche Voraussetzungen beim Einsatz === | ||
Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. | Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei Verpflichtung spezieller Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden. | ||
<span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span> | <span id="zu-7---vereinbarkeit-der-barrierefreiheit"></span> | ||
Zeile 45: | Zeile 53: | ||
=== Zu (8) - Vermittlung von Lehrinhalten durch KI === | === Zu (8) - Vermittlung von Lehrinhalten durch KI === | ||
In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI | In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI kann in den meisten Fällen nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen. | ||
<span id="zu-9---bewertung-von-leistungen-durch-ki"></span> | <span id="zu-9---bewertung-von-leistungen-durch-ki"></span> | ||
=== Zu (9) - Bewertung von Leistungen durch KI === | === Zu (9) - Bewertung von Leistungen durch KI === | ||
Eine Bewertung durch KI-Tools birgt die Gefahr, | Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler, sowie durch bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen, mit der in der Erklärung zu Punkt 8 erwähnten Befugnis, überlassen werden. |
Version vom 4. November 2023, 21:52 Uhr
WARNUNG: Redaktionelle Änderungen bitte im Pad vornehmen, da sie sonst überschrieben werden!
Resolutionsentwurf KI-Tools
Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften bestätigt die Resolution "510:KI-Tools KI-Tools an Hochschulen", welche auf der 51,0. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:
- Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
- Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
- Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
- Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.
Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusätzlich die Punkte 5 bis 9:
- Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
- Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
- Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
- KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
- Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.
Erläuterungen
KI-Tools sind nach unserem Verständnis generative oder klassifizierende Hilfsmittel, um z. B. Medien (Texte, Bilder, …) anhand von Stichworten zu generieren, oder semantische Inhalte in Dokumenten zu suchen oder zu bewerten.
Wir bezeichnen mit KI-Inhalten jene Werke, die unter signifikanter Mithilfe von KI-Tools erstellt werden.
Zu (5) - Regelungen zur Attribution
Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist - wenn möglich - eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.
Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.
Zu (6) - Gleiche Voraussetzungen beim Einsatz
Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei Verpflichtung spezieller Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.
Zu (7) - Vereinbarkeit der Barrierefreiheit
Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer relevanter, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.
Zu (8) - Vermittlung von Lehrinhalten durch KI
In der Wissenschaft und Lehre gibt es Prozesse, Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Teil des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output einer KI kann in den meisten Fällen nicht klar genug nachvollzogen werden und hat demnach keine Validierungsprozesse, die wissenschaftliche Standards erfüllen.
Zu (9) - Bewertung von Leistungen durch KI
Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler, sowie durch bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen, mit der in der Erklärung zu Punkt 8 erwähnten Befugnis, überlassen werden.