Künstliche Intelligenz / 24.07.2023

KI im Unterricht: Was erlaubt ist und was nicht

Interview mit unserem Rechtsexperten Felix Krone

Seit Monaten diskutiert die Bildungsbranche über Künstliche Intelligenz in der Schule. Viele Lehrkräfte setzen KI-Tools schon erfolgreich im Unterricht ein. Beim Thema Recht herrscht allerdings noch viel Unsicherheit. Was ist rechtlich okay, was ist Grauzone, was geht gar nicht? Wir haben unseren Rechtsexperten Felix Krone dazu befragt.

Rotes Paragraphzeichen vor einer kleinen Tafel
Bild: stock.adobe.com/Robert Kneschke

Welche KI-Tools werden eigentlich aktuell in den Klassen- und Kinderzimmern genutzt?

Felix Krone: Was seit Ende 2022 einen Hype erfährt, sind KI-Sprachmodelle, die eine Unterkategorie von generativen KI-Modellen sind. Zum Beispiel die Bildgeneratoren Dall-E2, Stable Diffusion und Midjourney oder Textgeneratoren wie Bard, ChatGPT. Diese Systeme können Eingaben ziemlich gut zu plausiblen Ausgaben vervollständigen. Sie können Hausaufgaben erledigen, Gedichte berechnen und sogar Abiturprüfungen bestehen.

Künstliche Intelligenz ist aber als Softwaretechnologie nicht neu. Auch nicht in der Schule. Expertensysteme wie Schachcomputer gibt es schon länger. Auch intelligente Diagnose-Systeme oder Tutorielle Systeme, die Lernprozesse unterstützen und Lernpfade personalisieren, gibt es bereits länger.

Dürfen KI-Systeme in der Schule überhaupt verwendet werden?

Felix Krone: Tatsächlich ist die Rechtslage eher ein Flickenteppich, bestehend aus Landesschulgesetzen und allgemeinen Gesetzen zum Datenschutz, Persönlichkeitsrecht, Urheberrecht und weiteren. Das liegt aber nicht nur an der Neuheit des Themas, sondern auch an den föderalen Strukturen. Es gibt keine spezifische Regulierung, die den Schulen KI-basierte Services dezidiert vorschreibt oder verbietet. Derzeit müssen Schulen sich die Information aus verschiedenen Rechtsquellen zusammensuchen.

cornelsen.ai – die KI-Toolbox mit Cornelsen-Expertise

Organisation erleichtern, Material erstellen, Unterrichtssequenzen planen und Feedback geben – cornelsen.ai bietet effektive KI-Tools, die perfekt auf Ihre Bedürfnisse im Lehralltag abgestimmt sind. Jetzt Ai.nfach kostenlos starten!

Aus welchen denn zum Beispiel?

Felix Krone: Hilfreich sind zum Beispiel die ethischen Leitlinien der EU. Außerdem bietet die Handreichung des Hessischen Kultusministeriums eine gute Orientierung. Sie verweist auf die pädagogische Entscheidungsbefugnis der Lehrkräfte und nennt Anwendungsbeispiele, die erlaubt sind. Demnach ist es zum Beispiel möglich, KI-Systeme im Unterricht zu thematisieren und Informationsmaterial zu behandeln. Außerdem können neue Technologien im Unterricht ausprobiert und diskutiert werden, solange Lehrkräfte zum Beispiel ihren eigenen Account oder einen Schul-Account dafür nutzen.

Ob und inwieweit KI im Rahmen von Prüfungen verwendet werden dürfen, sollten Lehrkräfte mit ihren Schüler/-innen absprechen. Die Grenzen liegen grundsätzlich dort, wo die Verwendung von KI-Systemen dazu führt, dass Schüler/-innen im Unterricht oder bei der Leistungsbewertung benachteiligt werden (können). Neben den Schulgesetzen müssen natürlich auch die allgemeinen Gesetze eingehalten werden, wie zum Beispiel das Urheberrecht, das Persönlichkeitsrecht und der Datenschutz.

KI im Unterricht

Spätestens seit ChatGPT ist klar, dass künstliche Intelligenz (KI) Schule und Unterricht verändern wird. Tools wie Cornelsen ChatClass nutzen KI im Unterricht, um Lernenden individuelles Feedback zu geben und sind so eine wertvolle Unterstützung im Lernprozess. 

Gibt es in Deutschland oder in der EU Pläne, Künstliche Intelligenz zu regulieren?

Felix Krone: In der EU entsteht derzeit der AI Act, eine Verordnung, die KI-spezifische Fragen aufgreift und sektorenübergreifende Regeln festlegt. Der AI Act will einen risikobasierten Ansatz verfolgen. Das heißt, KI-Systeme werden in verschiedene Risikostufen eingeteilt: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Systeme mit geringen Risiken müssen nur wenige Vorgaben einhalten — so zum Beispiel Transparenz. Hochriskante Systeme dagegen sehr viele. Allgemeinbildende Schulen betrifft vor allem letzteres, da KI-Systeme zur Leistungsbewertung oder Betrugserkennung im schulischen Einsatz als hochriskante KI-Systeme angesehen werden. Es wird erwartet, dass der AI Act Ende 2023 in Kraft tritt und zwei Jahre danach anwendbar wird.

Wie sieht es eigentlich mit dem Datenschutz aus?

Felix Krone: Leider ist es so, dass wir bei den KI-Services wie ChatGPT und Co. nicht genau wissen, was mit eingegebenen Daten geschieht. Daher lautet meine generelle Empfehlung, nicht ohne weiteres personenbezogene Informationen einzugeben. Außerdem empfehlen die Handreichungen der Kultusministerien, dass Schüler/-innen nicht dazu verpflichtet werden sollten, eigene Accounts bei diesen Services anzulegen.

Ein oft diskutiertes Problem bei Künstlicher Intelligenz sind diskriminierende Algorithmen. Wie sollte man damit umzugehen?

Felix Krone: Wenn ein Algorithmus mit diskriminierenden Daten trainiert wird, dann liegt es nahe, dass der Algorithmus diese diskriminierenden Muster übernimmt. In der Schule kann das richtig nach hinten losgehen: In Großbritannien gab es 2020 aufgrund der Corona-Pandemie keine Schule und auch keine Prüfungen. Ein eingesetzter Algorithmus sollte Schüler/-innen automatisch benoten und hat viele Zensuren herabgestuft. Erst landesweite Proteste haben dazu geführt, dass die Abschlussnoten zurückgenommen wurden. Wichtig ist daher immer, eine menschliche Aufsicht sicherzustellen. Lehrkräfte und Schüler/-innen sollten algorithmische Entscheidungen nie unhinterfragt übernehmen.

Zur Person

Der Senior Referent Recht und Syndikusrechtsanwalt Dr. Felix Krone ist seit fünf Jahren bei Cornelsen beschäftigt. Er ist spezialisiert auf die Rechtsberatung in den Schnittmengen Daten, Informationstechnologie und Medien. Studiert und promoviert hat er 2018 an der Freien Universität Berlin.

Fortbildungen der Cornelsen Akademie

Informationskompetenz in Zeiten der KI
Sie bekommen einen kompakten Überblick über KI-gestützte Tools mit ihren Möglichkeiten und Grenzen. Sie lernen einzelne Tools genauer kennen und bekommen Anregung, wie Sie sie im Unterricht nutzen könne, um die Medien- und Informationskompetenz der Schülerinnen und Schüler zu stärken.
 

Wie KI und digitale Tools das Lernen Ihrer Schüler/-innen verändern können
Künstliche Intelligenz (KI) und digitale Tools haben das Potenzial, das Lernen von Lernenden nachhaltig zu verändern. In diesem Webinar werde ich Ihnen Anregungen geben, wie Sie mit Ihren Schülerinnen und Schülern über die vielfältigen Möglichkeiten und Gefahren Künstlicher Intelligenz diskutieren können.
 

Künstliche Intelligenz im Unterricht
In diesem Live-Online-Seminare erhalten Sie einen Überblick über die verschiedenen Einsatzmöglichkeiten von KI in Ihrem Unterricht. Sie erfahren, welche Anwendungen verfügbar und leicht anwendbar sind, um Ihren Unterricht effektiver zu gestalten, zu individualisieren und zu verbessern.
 

Schlagworte:

16.10.2024
Die Potenziale von KI in der Bildung
Interview mit Sandra Hestermann und Michael Engel
Zum bundesweiten Launch von cornelsen.ai haben wir mit Dr. Sandra Hestermann (Business Lead cornelsen.ai) und Dr. Michael Engel (Head of Artificial Intelligence) über Chancen, Risiken und Visionen gesprochen.... Weiterlesen
13.09.2023
Interview: Berliner Lehrer setzt im Englischunterricht auf ChatClass
Hürden beim Sprechen abbauen
Jimmy Miller hat sich das Ziel gesetzt, das Sprechen und die Kommunikationsfähigkeiten seiner Schüler/-innen zu stärken. Der Fachbereichsleiter für Moderne Fremdsprachen an der Wilma-Rudolph-Oberschule Berlin setzt dabei auf die Cornelsen ChatClass-App, um individuelles Feedback zu geben und den Unt... Weiterlesen
02.08.2023
KI Sprachmodelle im Unterricht einsetzen
Dr. Johanna Ebinger und Sven Kaufmann über den Einsatz von KI in der Schule
Spätestens seit der Veröffentlichung von ChatGPT im November 2022 wird der Einsatz von Künstlicher Intelligenz in der Schule diskutiert. Schließlich kann diese Technologie nun von jedem genutzt werden. Einerseits ist Skepsis berechtigt, andererseits gibt es gute Argumente für den Einsatz. Mithilfe K... Weiterlesen
30.05.2023
Revolutionäre Möglichkeiten für die Unterrichtsvorbereitung
Die Power der KI
KI-Chat-Programme wie ChatGPT können Lehrkräften kreative Impulse, nützliche Ressourcen und Ideen für den Unterricht liefern. Die akademische Mitarbeiterin an der PH Schwäbisch Gmünd Dr. Johanna Ebinger ist Expertin und Referentin für textbasierte Künstliche Intelligenz und hat für Cornelsen gemeins... Weiterlesen