Logo Bildungsland NRW - Bildungsportal
Eine Person, deren Gesicht nicht zu erkennen ist, sitzt an einem Schreibtisch, mit der einen Hand schreibend, die andere Hand liegt auf der Tastatur eines Laptops.

Textgenerierende KI

Textgenerierende KI wie ChatGPT kann Fragen beantworten, Texte erstellen und vieles mehr. Je nach Perspektive kann KI Chancen bieten oder neue Herausforderungen und sogar Gefahren bergen. Beide Perspektiven sind für die Schule in den Blick zu nehmen.

ChatGPT ist ein Chatbot, der in verschiedenen Sprachen Fragen beantworten, Texte zusammenfassen oder bewerten, Gedichte oder auch Computerprogramme schreiben, Texte übersetzen oder Multiple-Choice-Tests erstellen kann und vieles mehr. ChatGPT ist in der Lage, auch Zusammenhänge zwischen aufeinanderfolgenden Texteingaben zu berücksichtigen, sodass der Eindruck einer Unterhaltung entsteht.

Mit dem „Handlungsleitfaden zum Umgang mit textgenerierenden KI-Systemen“ werden die Implikationen von Textgeneratoren, die auf künstlicher Intelligenz (KI) basieren, für den schulischen Bereich in den Blick genommen. Seitdem am 30. November 2022 die Anwendung ChatGPT veröffentlicht wurde und frei zugänglich ist, erfahren KI-basierte Textgeneratoren ein sehr hohes öffentliches Interesse. Der Handlungsleitfaden gibt Hinweise auf wesentliche Fragen, die sich für den schulischen Alltag ergeben. Mit ihm erhalten Lehrende, Schulleitungen, Seminarausbildende und Angehörige der Schulaufsicht eine erste Information und Orientierung zu textgenerierenden KI-Anwendungen.

Eine Präsentation, in der die Inhalte des Handlungsleitfadens aufbereitet wurden, gibt einen Überblick über wesentliche Aspekte. Als ergänzendes Angebot kann diese bei Bedarf für die Kommunikation in beruflichen Kontexten, z.B. in Lehrerkonferenzen oder Dienstbesprechungen, verwendet werden.

Zusätzlich zum Handlungsleitfaden hat die QUA-LiS NRW ein Vertiefungsangebot in Form eines Moodle-Kurses erstellt. Dieser auf der LOGINEO NRW LMS-Instanz angebotene Moodle-Kurs bietet Lehrkräften die Möglichkeit, sich intensiver mit textgenerierenden KI-Anwendungen auseinanderzusetzen. Neben weiterführenden Informationen und Verweisen – z. B. auf unterschiedliche KI-Anwendungen – beinhaltet der Moodle-Kurs zudem Unterrichtsbeispiele für verschiedenen Fächer und Schulstufen, welche Lehrkräfte bei der Thematisierung von textbasierter KI im Unterricht unterstützen sollen. Der Moodle-Kurs ist frei zugänglich, es ist keine Registrierung notwendig.

In einem Vortrag von Frau Prof. Dr. Doris Weßels erhalten Interessierte weiterführende Informationen zum Thema – auch zu technischen Grundprinzipien und zur Funktionsweise von Sprachmodellen. Der Vortrag von Januar 2023 war Gegenstand eines Austauschs zwischen dem Schulministerium und einer Vertreterin der Wissenschaft zum Thema KI-Sprachmodelle. Frau Prof. Dr. Doris Weßels ist Professorin für Wirtschaftsinformatik an der Fachhochschule Kiel mit dem Forschungsschwerpunkt KI-Sprachmodelle. Aufgrund ihres hohen Renommees in diesem Forschungsfeld ist sie eine hoch gefragte Ansprechpartnerin in einschlägigen Fragestellungen.

Der Vortrag zu textgenerierender KI bezieht sich auf diese Präsentation. Es werden Hintergründe, Entstehung und Funktionsweise, aktuelle Entwicklungen und Ausblick sowie Implikationen für den Bildungsbereich thematisiert.

Handlungsleitfaden zum Umgang mit textgenerierenden KI-Systemen

Vorbemerkungen

Textgeneratoren, die auf künstlicher Intelligenz (KI) basieren, sind in der Lage, Texte in einer Qualität zu erzeugen, dass oftmals nicht zu erkennen ist, ob sie von einem Menschen produziert wurden oder nicht. Seitdem Ende November 2022 die Textgenerierungs-KI ChatGPT veröffentlicht wurde und frei zugänglich ist, ergeben sich viele Fragen für den schulischen Alltag. Was genau sind textgenerierende KI-Anwendungen? Wie kann mit den neuen Möglichkeiten, die KI-Anwendungen bieten, umgegangen werden? Dürfen KI-Anwendungen im Unterricht eingesetzt werden? Welche rechtlichen Rahmenbedingungen gelten? Habe ich ggf. auch als Lehrkraft für meine eigenen Tätigkeiten einen direkten Nutzen? Kann KI zukünftig auch im Klassenraum genutzt werden und wie wird das den Unterricht verändern? Auch wenn die Fragen zu diesem Zeitpunkt noch nicht umfassend beantwortet werden können, möchten wir Ihnen mit diesem Handlungsleitfaden als Lehrende, als Schulleitung, Seminarausbildende und als Angehörige der Schulaufsicht eine erste Information und Orientierung zu KI-Anwendungen geben. Durch die Dynamik der Entwicklungen im Bereich der KI wird es notwendig sein, den Handlungsleitfaden zum Umgang mit textgenerierenden KI-Systemen regelmäßig zu aktualisieren.

Die im Dokument genannten kommerziellen Produkte (z. B. ChatGPT, DeepL, you.com, BARD) werden in diesem Text als Beispiel für die ihnen zugrundeliegende Technologie genannt, damit ist weder eine implizite noch explizite Bewerbung oder Bewertung dieser Produkte verbunden.

Den Handlungsleitfaden können Sie hier auch als PDF herunterladen:

Auch wenn ChatGPT im Moment die Diskussion dominiert und daher auch hier im Text exem-plarisch benannt wird, gibt es zahlreiche weitere KI-Anwendungen im Bereich der Kunst- und Videoproduktion, der Recherche, der Übersetzung oder als Planungs- und Strukturierungshilfe, die unsere Arbeits- und Lernprozesse verändern und damit auch für das Lehren und Lernen in den Schulen von Bedeutung sind. Es steht zu erwarten, dass sehr rasch weitere textgenerierende KI-Anwendungen auf den Markt kommen werden; in den letzten Wochen hat z.B. die KI-gestützte Suchmaschine you.com oder auch BARD bereits für Aufmerksamkeit gesorgt.

ChatGPT ist ein Chatbot, der in verschiedenen Sprachen Fragen beantworten, Texte zusammenfassen oder bewerten, Gedichte oder auch Computerprogramme schreiben, Texte übersetzen oder MultipleChoice-Tests erstellen kann sowie vieles mehr. Bemerkenswert ist, dass ChatGPT in der Lage ist, auch Zusammenhänge zwischen aufeinanderfolgenden Texteingaben zu berücksichtigen, sodass der Eindruck einer Unterhaltung entsteht.

Basierend auf dem Sprachmodell GPT (generative pre-trained transformer) generiert der Chatbot umfangreiche Antworten auf die Texteingaben der Benutzerin oder des Benutzers. Dabei variieren die Antworten bei jeder Eingabe, weil der Text jedes Mal neu erzeugt wird. Vereinfacht kann man sich vorstellen, dass der Algorithmus gelernt hat, welche Zeichenfolgen in einem Text häufig aufeinander folgen.

Erstellung von Texten: Mit eindeutigen Anweisungen und Fragen können Texte nach vorgegebener Textform oder Stilrichtung erstellt werden.

Bearbeitung von Texten: Auch zur Bearbeitung von bereits vorhandenen Texten kann der KI-Textgenerator eingesetzt werden. Der Chatbot kann eine mögliche Strukturierung eines Textes, Formulierungshilfen oder Korrekturvorschläge anbieten.

Bewertung von Texten: Ebenso ist eine Bewertung von erstellten Texten nach vorgegebenen Kriterien (AES – Automated Essay Scoring) möglich. Auf diese Weise ist es möglich, ein schnelles und direktes Feedback zu erhalten und damit die eigenen Fähigkeiten zu verbessern sowie Schreibprozesse durch direkte Rückmeldungen zu steuern.

Der Begriff „Text“ ist hier weit zu verstehen: ChatGPT kann auch mathematische Gleichungen anbieten oder Computerprogramme generieren und analysieren.

Texte können durch den Einsatz von textgenerierender KI viel schneller, einfacher und in größerem Umfang erstellt werden als bisher. Auch wenn ein KI-generierter Text überwiegend belastbare Fakten enthält, können darin auch Falschaussagen enthalten sein, die ihrerseits den Anschein erwecken, auf Fakten zu basieren. Je besser allerdings die Mittel sind, mit denen Texte eine Wirklichkeit vortäuschen, desto schwieriger wird es sein, sich reflektiert zu ihnen zu verhalten.

Deshalb ist es besonders wichtig, das Thema „Fehlinformation“ im Unterricht in den Blick zu nehmen. Dabei sollte bei den Schülerinnen und Schülern vor allem das Bewusstsein dafür geschärft werden, dass die generierten Antworten fehlerhaft sein oder Lücken aufweisen können. Das Training von ChatGPT z.B. wurde im Sommer 2021 abgeschlossen, die Welt nach diesem Zeitpunkt ist also zunächst noch unbekannt. Textgenerierende KI wie ChatGPT füllen zudem „Wissenslücken“ mit Neukombinationen von Textfragmenten oder Ausschmückungen. Das zugrundeliegende Sprachmodell ist so trainiert, dass es Texte erstellt, die sich lesen, als seien sie von einem Menschen verfasst. Da die KI-Anwendung maschinell lernt, ist auch für die Entwicklerinnen und Entwickler nicht genau vorherzusagen, welche Antwort auf welche Eingabe erfolgt. Optimierte man das Training mit dem Ziel, nur belastbare Fakten auszugeben, könnte das dazu führen, dass häufig keine Antwort gegeben werden könnte, was nicht die Zielrichtung des Sprachmodells ist. Das System zielt somit verstärkt auf Eloquenz und nicht auf Wahrheit. Daneben besteht auch durch die Textgenerierung selbst ein gewisses Risiko, dass fehlerhafte oder unvollständige Aussagen getroffen werden, weil die Erstellung des Textes auf Wahrscheinlichkeiten beruht. Die produzierten Inhalte dürfen also nicht unreflektiert übernommen, sondern müssen von den Lernenden kontrolliert werden. Dies ist nur möglich, wenn die Lernenden vorher ausreichend eigenes Wissen über den Gegenstand erworben haben.

Damit gewinnt Medienkompetenz noch einmal an Bedeutung. Gerade die Fähigkeit, Fake News von Fakten auf der Grundlage eines eigenen gesicherten Wissens zu unterscheiden, wird immer wichtiger werden.

Die Trainingsdaten des ChatGPT beruhen zu einem hohen Prozentsatz auf englischsprachigen Texten. Es ist daher anzunehmen, dass alleine dadurch ein eher westlich geprägter Blick auf die Welt die Grundlage für die durch die KI erzeugten Texte ist. Genaue Aussagen hierzu lassen sich nicht treffen, weil das Modell für die Wissenschaft nicht einsehbar ist. Es gibt aber bereits Ansätze, eine KI mit Datensätzen in verschiedenen Sprachen und aus vielen verschiedenen Ländern zu trainieren, um ein möglichst diverses Sprachmodell zu erzeugen. Problematisch bleibt hingegen, dass für das Training sehr große Datenmengen benötigt werden, die nur im Internet zu finden sind. Dadurch passiert es immer wieder, dass auch verbreitete Vorurteile und ethisch-moralisch zumindest fragwürdige Texte zu den Daten gehören, mit denen die KI trainiert wird. Ein Aussortieren unerwünschter Trainingsdaten ist nicht sinnvoll möglich, da viele geeignete Texte mit herausgefiltert würden. Alternativ könnten die Ausgaben des Chatbots überprüft und gefiltert werden, sodass anstößige Inhalte nicht mehr angezeigt oder durch festgelegte Antworten ersetzt würden. Dennoch lassen sich durch gezielte Benutzereingaben auch beleidigende Textbausteine erzeugen.

Entscheidend bleibt auch hier der Filter „Mensch“. Durch ein nachträgliches Training lässt sich in einem gewissen Umfang verhindern, dass problematische Inhalte ausgegeben werden. Wichtiger ist aber, sich beim Verwenden des Chatbots darüber bewusst zu sein, dass sprachgewandte Texte nicht zwangsläufig wahr und vor allem kein Hinweis auf die Intelligenz oder gar ein Bewusstsein der KI sind.

Die Zugänglichkeit von KI-Textgeneratoren ist in ihren Auswirkungen zurzeit kaum abzuschätzen. Expertinnen und Experten aus Wissenschaft und Forschung betonen einvernehmlich, dass die Auswirkungen derartiger KI auf das Bildungssystem und die Berufswelt immens sein werden. Vor dem Hintergrund des Bildungs- und Erziehungsauftrags von Schule muss sich das Bildungssystem daher mit diesen neuen Entwicklungen und Auswirkungen befassen: Je nach Perspektive kann KI aus Sicht der Betrachterin bzw. des Betrachters Chancen bieten und neue Perspektiven eröffnen oder neue Herausforderungen oder auch Gefahren bergen. Beiden Perspektiven sind in den Blick zu nehmen. Wir möchten Sie daher bitten, sich offen und konstruktiv mit den neuen Möglichkeiten auseinanderzusetzen und diese im Unterricht zu thematisieren.

Der Einsatz von KI-Anwendungen wird in vielen Lebens- und Arbeitsbereichen zunehmend an Bedeutung gewinnen. Im Sinne des Bildungs- und Erziehungsauftrags von Schule, zu dem auch ein verantwortungsbewusster und sicherer Umgang mit Medien in der digitalen Welt zählt (§ 2 Absatz 6 Nummer 9 SchulG), ist es auch Aufgabe von Schule, die Schülerinnen und Schüler im Rahmen des Unterrichts mit KI vertraut zu machen und gemeinsam im geschützten Raum zu erfahren, wie KI-basierte Textgeneratoren funktionieren, welche Potentiale, aber auch welche Risiken damit verbunden sein können. Ein Verbot, KI im Unterricht zu thematisieren und auch didaktisch zu nutzen, kann vor dem Hintergrund einer sich äußerst dynamisch weiterentwickelnden Welt, in der die Schülerinnen und Schüler leben, keine tragfähige Reaktion sein. Es ist daher wichtig, dass Unterricht und Schule sich weiter öffnen und gemeinsam mit den Schülerinnen und Schülern die Weiterentwicklungen reflektiert werden. Es liegt auf der Hand, dass KI für Schülerinnen und Schüler von hohem Interesse ist und damit stark an ihre Lebenswelt angeknüpft werden kann.

Der Medienkompetenzrahmen NRW bzw. die digitalen Schlüsselkompetenzen, die in der Beruflichen Bildung Anwendung finden, zeigen den Rahmen auf, in dem eine Beschäftigung mit KI-basierten Textgeneratoren sinnvoll ist: Schülerinnen und Schüler sollen ihren Funktionsumfang kennen und lernen, sie kreativ, reflektiert und zielgerichtet einzusetzen (1.2 MKR NRW), die produzierten Informationen zu bewerten (2.3 MKR NRW) sowie die grundlegende Funktionsweise zu verstehen und bewusst zu nutzen (6.1 MKR NRW).

Bei der Beschäftigung mit textgenerierenden KI-Anwendungen können drei Perspektiven leitend sein:

  • die technologische Perspektive: Wie funktioniert ein KI-Textgenerator?
  • die gesellschaftlich-kulturelle Perspektive: Welche gesellschaftlichen Auswirkungen hat der Einsatz von KI?
  • die anwendungsbezogene Perspektive: Wofür kann die KI-Anwendung genutzt werden und worauf ist zu achten?

Umsetzungsvorschlag für die Praxis:

Um z.B. die anwendungsbezogene Perspektive im Unterricht zu thematisieren, kann gemeinsam ausprobiert werden, wie man Prompts (= Anfragen bzw. Anweisungen, die an die KI gestellt werden) geschickt formuliert, um die gewünschte Antwort zu erhalten. Hierzu gibt es im Netz zahlreiche Anleitungen. Die Ausgaben des Chatbots können zudem auf Fehler, Unschärfen und Lücken geprüft werden. Insbesondere auch in den Naturwissenschaften und der Mathematik lassen sich häufiger Fehlinformationen oder falsche Ergebnisse finden, die wiederum als Ausgangspunkt für eine Diskussion über die Funktionsweise und die zielführende Nutzung des Chatbots genutzt werden können.

(Beispielversuch: Lösung einer einfachen quadratischen Gleichung: Die von ChatGPT verwendete Formel ist in der Schule unüblich, zudem verrechnet sich der Chatbot im letzten Schritt. Diesen Fehler können alle Lernenden nachvollziehen, als Differenzierung nach oben könnten Schülerinnen und Schüler nachprüfen, dass die angegebene Formel gilt.)

 

 

Im Zusammenhang mit dem Einsatz von KI-Anwendungen im Unterricht sind verschiedene rechtliche Aspekte zu beachten, insbesondere im Hinblick auf die Verarbeitung, Auswertung und ggf. Weitergabe personenbezogener Daten, die derzeit noch nicht abschließend bewertet werden können. Dies auch deswegen, weil die jeweiligen Anwendungsmöglichkeiten und Nutzungsbedingungen von KI-Anwendungen unterschiedlich sein können.

Unabhängig davon gilt, dass der Einsatz von KI-Anwendungen im Unterricht – wie bei der Nutzung einer Online-Plattform oder einer App auch – nur unter Beachtung der geltenden und bekannten datenschutzrechtlichen Vorgaben erfolgen darf. Die Verantwortung für die Einhaltung des schulischen Datenschutzes trägt die Leiterin oder der Leiter der jeweiligen Schule. Dabei ist sorgfältig zu prüfen, inwieweit personenbezogene Daten der Nutzerinnen und Nutzer anfallen und ggf. technische oder organisatorische Maßnahmen zu deren Schutz zu ergreifen sind.

Hinweise darauf, welche Daten der Anbieter einer KI-Anwendung verarbeitet, finden sich insbesondere in der Datenschutzerklärung und den Allgemeinen Geschäftsbedingungen. Dies können z. B. Daten sein, die zur Nutzung grundsätzlich erforderlich sind, wie bei der Erstellung eines Kontos (hier sind eventuell Altersgrenzen zu beachten). Aber auch solche Daten, die bei der konkreten Nutzung (automatisch) entstehen. Wichtig ist daher, dass ein Anbieter transparent über seine Datenverarbeitung informiert und insbesondere über Rechte auf Löschung.

Mit Blick auf die verschiedenen Nutzungsszenarien in der Schule und der bisherigen Erkenntnisse über die Nutzungsbedingungen einer KI-Anwendung, wie z. B. ChatGPT, lassen sich folgende Einschätzungen und Hinweise ableiten:

Die Nutzung von ChatGPT im Unterricht mit eigenen Geräten der Schülerinnen und Schüler bzw. über eigene Accounts/E-Mail-Adressen kann angesichts der aktuellen Sach- und Rechtslage (gerade mit Blick auf die datenschutzrechtlichen Vorgaben) nicht empfohlen werden.

Sofern Lehrkräfte auf freiwilliger Basis über einen Zugang zu ChatGPT oder anderen KI-Anwendungen verfügen, können sie diesen nutzen, um im Plenum mit den Schülerinnen und Schülern mit der KI-Anwendung zu arbeiten. Dabei ist wie bei allen anderen Anwendungen auch zu beachten, dass keine personenbezogenen Daten der Schülerinnen und Schüler übertragen werden. Dies wäre z.B. der Fall, wenn man Prompts nutzt, die einen Zusammenhang zur Klasse oder zu einzelnen Schülerinnen und Schülern herstellen.

Es wird empfohlen, auch die Eltern im Sinne der Bildungs- und Erziehungspartnerschaft über die Art der Nutzung einer KI-Anwendung im Unterricht und den Rahmen der rechtlich zulässigen Möglichkeiten zu informieren. Ebenso kann die Information über KI-Anwendungen in den Mitwirkungsgremien dazu beitragen, etwaige bestehende Verunsicherung abzubauen.

Wie die Nutzung durch Schülerinnen und Schüler mit eigenem Account ggf. zukünftig möglich ist, hängt von der Ausgestaltung der AGBs und der Datenschutzrichtlinien der Anwendung(en) im jeweiligen Einzelfall ab.

Für die schulische Praxis hilfreich können auch erste Einschätzungen aus Sicht schulischer Datenschutzbeauftragten sein, die z. B. unter https://unterrichten.digital/2023/01/23/chatgpt-datenschutz-unterricht-schule/ zu finden sind.

Bisher gibt es keine wissenschaftlichen Befunde darüber, welche Auswirkungen der Einbezug von textgenerierenden KI-Anwendungen auf die Ausbildung von grundlegenden Schreibkompetenzen hat. Auch wenn der Einschätzung, dass Schreibfähigkeit vor allem durch das eigene Tun entwickelt wird, sicherlich zuzustimmen ist, greift eine direkte Ableitung negativer Konsequenzen zu kurz. Gerade mit Blick auf Schülerinnen und Schüler, die ggf. mehr individuelle Unterstützung benötigen, müssen die Nutzungsmöglichkeiten einer textgenerierenden KI-Anwendung weiter reflektiert werden (z.B. individuelle Nachfragen zum Textverständnis, Scaffolding, unterschiedliche Schwierigkeitsgrade von Texten im Unterricht).

Ein lernförderlich gestalteter Einsatz von KI kann dazu beitragen, Sprach-, Schreib- und Beurteilungskompetenzen zu erweitern. Hier gilt es, den Einsatz im Sinne der fachlichen und überfachlichen Kompetenzen (z.B. der Medienkompetenzen bzw. der digitalen Schlüsselkompetenzen der Berufskollegs) didaktisch auszugestalten. So lassen sich z.B. die von der KI erstellten Texte auf Richtigkeit, Konsistenz, Machart etc. untersuchen. Ebenso ist die Arbeit an sachlicher Richtigkeit oder an Argumenten möglich.

Scaffolding: Neben der Unterstützung bei der Bearbeitung von Texten kann KI auch in weiteren Bereichen individuelle Hilfestellungen während des Lernprozesses geben. So ist es zum Beispiel möglich, sich bei einer Internetrecherche Texte vereinfachen oder übersetzen zu lassen. Zudem können sich die Lernenden Sachverhalte noch einmal erläutern und Nachfragen dazu beantworten und passende Beispiele oder Analogien suchen lassen.

Erstellung von Übungsmaterial: Eine textgenerierende KI kann Selbsttests erstellen, um damit zu kontrollieren, ob die Schülerinnen und Schüler die Inhalte eines Textes richtig wiedergeben können. Diese Lückentexte, MultipleChoice-Tests oder auch Fragen mit Antwortvorschlägen können später zur Wiederholung und Übung dienen. Die Quizformate könnten zum Beispiel auch in Lernmanagementsysteme, wie z.B. LOGINEO NRW LMS-Kurse eingefügt und als Übungsmöglichkeit für die Klasse oder den Kurs bereitgestellt werden.

Die festgelegten Bewertungskriterien für ein Lernprodukt können mithilfe der KI für ein jederzeit verfügbares, zeitnahes formatives Feedback genutzt werden. Dabei ist für Schülerinnen und Schüler deutlich, dass es sich um eine Rückmeldung mit dem Ziel der Justierung des Lernprozesses und nicht um eine Leistungsbewertung handelt, weil die Lehrperson nicht unmittelbar an der Rückmeldung beteiligt ist. Notwendig ist dafür, dass die Kriterien für die Schülerinnen und Schüler nicht nur transparent, sondern auch verständlich sind, um mit dem Ergebnis sinnvoll weiterarbeiten zu können.

KI-generierte Texte können im Unterricht in mehrfacher Hinsicht als Diskussionsgrundlage bzw. als Diskussionsgegenstand genutzt werden. Einerseits können sie zum Brainstorming, zur ersten Orientierung und Strukturierung oder zur Sammlung von Argumenten dienen, andererseits muss aber auch immer über die Entstehung des Inhalts gesprochen werden. Da die Texte auf der Basis eines KI-basierten Sprachmodells erstellt werden, ist die Richtigkeit nicht zwangsläufig gegeben. Lernende müssen angeleitet werden, die Inhalte zunehmend eigenständig mit ihrem Vorwissen abzugleichen. Zudem sind die durch die KI erstellten Texte auch unter einer Werteperspektive zu betrachten, denn Werte, Normen und ethische Aspekte spielen bei der Erstellung des Textes durch die KI keine Rolle.

Sofern die Schülerinnen und Schüler freiwillig textgenerierende KI-Tools nutzen, müssen sie diese selbstverständlich als Quelle angeben, denn nur so kann die Lehrkraft feststellen, welche Leistung der Lernenden erbracht hat und diese Leistung beurteilen. Zurzeit wird im Wissenschaftsbereich an Zitierreglungen gearbeitet, die KI als Quelle angeben. Daran angelehnt könnte im schulischen Kontext eine Regelung für die Angabe der Nutzung folgendermaßen aussehen:

„Bei der Herstellung dieses Textes [oder wahlweise Bildes oder des Programmiercodes etc.] wurde X [=Name des KI-gestütztes Werkzeugs] eingesetzt. Mit folgenden Prompts [= Anweisungen oder Fragen an die KI] habe ich die KI gesteuert: 1. ______, 2. ______.“

Der Vorteil dieser Art von Angabe ist, dass die Lehrkraft damit beurteilen kann, wie weitreichend der Einsatz der KI war. Ebenso lässt sich auch beurteilen, wie kompetent die Schülerin bzw. der Schüler den Einsatz der KI gesteuert hat. Dazu sollte der von der KI erstellte Text beigefügt werden.

Es gelten hierzu wie bisher die allgemeinen Grundsätze zum „wissenschaftlichen“ Arbeiten und zur Leistungsbewertung: Sofern externe Hilfen verwendet werden, sind solche vollumfänglich kenntlich zu machen. Dies gilt auch für die Nutzung einer KI-Anwendung.

Mithilfe einer textgenerierenden KI erstellte Texte sind schlechter als solche erkennbar als beim „copy-and-paste“ aus Websites oder Texten, weil nicht immer der gleiche Text generiert wird. Streng genommen handelt es sich damit dann auch nicht um ein Plagiat, sondern um die Nutzung einer Anwendung zur Erstellung eines Textes. Inwiefern es technisch gelingen wird, eine verlässliche Software zu entwickeln, die KI-generierte Texte nachweisen kann, lässt sich zurzeit nicht abschließend einschätzen. Expertinnen und Experten gehen davon aus, dass eine solche Software eher als Trainingsgelegenheit für ein KI-System zur Weiterentwicklung herangezogen würde.

Auch wenn es sich nicht um Plagiate im eigentlichen Sinne handelt, handelt es sich bei Nichtangabe, dass der Text oder Teile aus diesem mithilfe einer KI erzeugt wurden, um eine Täuschung über die Autorenschaft. Sofern die Verwendung von KI bei der Aufgabenstellung explizit ausgeschlossen wurde, handelt es sich zudem um die Verwendung eines unzulässigen Hilfsmittels und einen Täuschungsversuch. Bei Aufgaben, die nicht vor Ort in der Schule unter Aufsicht durchgeführt werden, haben die Lehrkräfte – wie bisher auch - immer die Möglichkeit, den Grad der Eigenleistung von Schülerinnen und Schülern zu überprüfen: Lehrerinnen und Lehrer verfügen in diesem Zusammenhang über ein hohes Maß an professioneller Erfahrung und können in der Regel in unter anderem Unterrichtsgesprächen erkennen, ob Schülerinnen und Schüler Produkte, die sie zu Hause angefertigt haben und der Leistungsüberprüfung dienen sollen, eigenständig oder mit unzulässiger Hilfe erledigt haben. Ebenso wie Aufgaben im häuslichen Umfeld bisher nicht mit Hilfe Dritter erstellt werden durften, dürfen diese nicht mit einem technischen Hilfsmittel erbracht werden, welches nicht adäquat angegeben wird. Dabei geht es auch darum, Schülerinnen und Schülern zu vermitteln, dass es in ihrem eigenen Interesse ist, ihnen gestellte Lernaufgaben (auch die in der Regel nicht zu benotenden Hausaufgaben) selbständig zu erledigen und etwaige Hilfsmittel und Quellen korrekt anzugeben.

Sollte es zu Täuschungshandlungen oder anderen Unregelmäßigkeiten kommen, ergibt sich das Verfahren aus den Grundsätzen der Leistungsbewertung (§ 48 SchulG) und den jeweils einschlägigen Vorschriften der Prüfungsordnungen (insbesondere § 6 Absatz 7 APO-SI, § 13 Absatz 6 APO-GOSt, § 20 APO-BK).

Um solche sowohl für Schülerinnen und Schüler als auch für Lehrkräfte belastende Situationen zu vermeiden, sollten die Aufgaben bereits präventiv möglichst so gestellt werden, dass sie nicht ausschließlich mit Hilfe von KI erledigt werden können.

Bei hinreichend komplexen Fragestellungen ist zu erkennen, dass die im ersten Schritt von einer textgenerierenden KI-Anwendung erstellten Texte nicht zwangsläufig den Anforderungen entsprechen. Meist sind mehrfache, sehr gezielte Nachfragen und ein entsprechendes Fachwissen notwendig, um für die gestellte Aufgabe angemessene Texte erstellen zu lassen. Diese Art der Steuerung zu trainieren und zu beherrschen, ist perspektivisch eine wichtige den Schülerinnen und Schülern zu vermittelnde Kompetenz.

Es ist möglich, die Lernenden durch herausfordernde, interessante Aufgaben zum eigenständigen Bearbeiten zu motivieren und aufzuzeigen, warum eigene, selbständige Schreiberfahrungen wichtig sind, um die Qualität fremder und eigener Texte reflektiert beurteilen zu können. Die Thematisierung dieser Perspektive kann vor allem im vertrauensvollen Miteinander von Lehrkraft und Lernenden gut gelingen.

Alle genannten Aspekte werden dazu beitragen, dass Lern- und Leistungsaufgaben weiterentwickelt werden müssen. Bereits jetzt ist es sinnvoll, bestehende Formate zur Überprüfung der Lernleistungen so zu kombinieren, dass sie den Arbeitsprozess der Schülerinnen und Schüler in den Blick nehmen und weniger anfällig dafür sind, allein durch den gezielten Einsatz von KI bearbeitet zu werden.

Für Projekt- oder Facharbeiten kann das z.B. bedeuten, einen eigenen, individuellen Forschungsauftrag empirischer Natur oder Versuchsreihen einzubeziehen, die auf die spezifische Unterrichtssituation bezogen sind (siehe auch weiter unten: individuelle Bezüge). Auch der Begleitung des Arbeitsprozesses kommt eine wesentlich größere Bedeutung zu. Im Gespräch mit dem oder der Lernenden wird deutlich, inwieweit er oder sie sich mit dem Inhalt auseinandergesetzt hat. Zusätzlich kann eine abschließende Präsentation mit einem Gespräch über die Arbeit verdeutlichen, dass die Leistung von der Schülerin oder dem Schüler eigenständig erbracht bzw. KI-gestützt erarbeitete Textstellen nicht unreflektiert übernommen, sondern als solche gekennzeichnet wurden.

Im Unterricht ist es notwendig, die Lernenden durch kreative, herausfordernde und lebensweltbezogene Aufgaben, die Öffnung von Lernarrangements und die Realisierung von Peer-Ansätzen zu motivieren und anzuleiten, ihren Lernprozess mitzugestalten. Wesentliche Impulse für einen lernförderlichen Unterricht in der digitalen Welt finden sich im Impulspapier II.

Stellschrauben für die Weiterentwicklung von Aufgaben:

Werden individuelle Bezüge in die Lern- und Leistungsaufgaben einbezogen, kann die KI diese nicht ohne Weiteres berücksichtigen, sodass eine Eigenleistung der Lernenden notwendig ist. Ist beispielsweise eine Umfrage in der Klasse, ein Experiment, eine Kartierung, eigene Datenerhebung, das eigene Hobby, ein selbst gewählter Schwerpunkt mit Bezug zum Wohnort oder der Vergleich mit der Darstellung eines Mitschülers oder einer Mitschülerin enthalten, können KI-Textgeneratoren die Aufgabe nicht vollständig übernehmen. Zusätzlich kann es zur Motivation der Lernenden beitragen, wenn ein Thema unter einer individuellen, selbst gewählten Perspektive bearbeitet werden kann.

Ein Format- oder Medienwechsel in der Aufgabe führt dazu, dass Lernende ihre Erkenntnisse eigenständig umsetzen müssen. So kann die KI zwar Ideen für die Erstellung eines Plakates, eines Erklärvideos, eines Podcasts, Songs oder Standbildes geben, die geeignete Umsetzung und damit die Auseinandersetzung mit den Inhalten muss jedoch durch die Lernenden erfolgen. Zudem kann man so auch argumentative Kompetenzen bei den Lernenden fördern, indem sie verstärkt dazu aufgefordert werden, ihre eigenen Entscheidungen, Analyse oder Formate zu begründen.

Formatives Assessment – d.h. Beobachtung, Rückmeldung bzw. Feedback begleitend zum Erarbeitungsprozess - kann darüber hinaus dazu beitragen, die Eigenständigkeit der erbrachten Leistungen zu sichern. Zudem fördert es die Motivation und die Akzeptanz der Lernenden, eigene Texte zu verfassen, wenn sie anhand wiederholter individualisierter und zeitnaher Rückmeldungen immer weiter verbessert werden können. Statt mehrere, immer neue Texte für den Unterricht zu verfassen, werden weniger, dafür bessere, mehrfach überarbeitete Texte produziert. Die Lehrperson kann sich bei ihrer Rückmeldung auf wesentliche Aspekte beschränken. Ebenso führt der kontinuierliche Feedback-Kontakt zwischen Lehrperson und Schülerin oder Schüler dazu, dass das Einfügen längerer Textteile, die einer KI entstammen, unwahrscheinlicher wird.

In der Diskussion um die Anwendungsmöglichkeiten einer textgenerierenden KI zeigen sich vielfältige Nutzmöglichkeiten auch für Lehrkräfte: Lehrkräfte können bei der Vorbereitung des Unterrichts von dem Einsatz der KI-Textgeneratoren profitieren, wenn sie z.B. Differenzierungsmöglichkeiten, Tests zur Diagnose, Ideen für die Durchführung des Unterrichts oder erste Korrekturen der von den Lernenden erstellten Produkte generieren lassen. So können Texte vereinfacht und auf verschiedenen Niveaustufen angeboten werden, Analogien und Beispiele gefunden oder Quizformate erstellt werden. Texte könnten im Hinblick auf Grammatik, Rechtschreibung und Satzstruktur vorkorrigiert werden. Eine medienkompetente Nutzung beinhaltet hier auch, dass die Datenschutzbestimmungen einzuhalten sind, also keine Schülerdaten eingegeben werden dürfen. Weiterführende Hinweise geben die ethischen Leitlinien für Lehrkräfte (https://ec.europa.eu/commission/presscorner/api/files/document/print/de/ip_22_6338/IP_22_6338_DE.pdf).

Ausblick

Nicht nur der Schulbereich, sondern auch die Hochschulen beschäftigen sich zurzeit intensiv mit den Konsequenzen textgenerierender KI-Anwendungen. In allen Gesprächen und in allen Publikationen von Wissenschaftlerinnen und Wissenschaftlern werden drei Linien immer wieder betont: 1. Ein Verbot des Einsatzes von KI ist realitätsfern und nicht durchhaltbar, es gilt stattdessen 2. die Potentiale und auch die Risiken für das Lehren und Lernen auszuarbeiten. 3. Der Umgang mit KI muss miteinander verhandelt werden und transparent und rechtlich abgesichert erfolgen. Es besteht hohe Einigkeit darüber, dass ein kompetenter Umgang mit KI-Anwendungen für eine erfolgreiche Bewältigung künftiger Anforderungssituationen in Ausbildung, Studium, Beruf und Alltagswelt unabdingbar ist; auch aus diesem Grund darf sich Schule nicht hermetisch abriegeln.

Es bedarf einer gemeinsamen Anstrengung von Schule, Schulaufsicht auf allen Ebenen, der Lehreraus- und -fortbildung, auch für Schulen die drei genannten Bereiche weiter zu erschließen. Das Ministerium für Schule und Bildung wird sich daher weiter mit diesen Entwicklungen befassen und über das Thema informieren.