Felix Krone: Was seit Ende 2022 einen Hype erfährt, sind KI-Sprachmodelle, die eine Unterkategorie von generativen KI-Modellen sind. Zum Beispiel die Bildgeneratoren Dall-E2, Stable Diffusion und Midjourney oder Textgeneratoren wie Bard, ChatGPT. Diese Systeme können Eingaben ziemlich gut zu plausiblen Ausgaben vervollständigen. Sie können Hausaufgaben erledigen, Gedichte berechnen und sogar Abiturprüfungen bestehen.

Künstliche Intelligenz ist aber als Softwaretechnologie nicht neu. Auch nicht in der Schule. Expertensysteme wie Schachcomputer gibt es schon länger. Auch intelligente Diagnose-Systeme oder Tutorielle Systeme, die Lernprozesse unterstützen und Lernpfade personalisieren, gibt es bereits länger.

Felix Krone: Tatsächlich ist die Rechtslage eher ein Flickenteppich, bestehend aus Landesschulgesetzen und allgemeinen Gesetzen zum Datenschutz, Persönlichkeitsrecht, Urheberrecht und weiteren. Das liegt aber nicht nur an der Neuheit des Themas, sondern auch an den föderalen Strukturen. Es gibt keine spezifische Regulierung, die den Schulen KI-basierte Services dezidiert vorschreibt oder verbietet. Derzeit müssen Schulen sich die Information aus verschiedenen Rechtsquellen zusammensuchen.

Felix Krone: Hilfreich sind zum Beispiel die ethischen Leitlinien der EU. Außerdem bietet die Handreichung des Hessischen Kultusministeriums eine gute Orientierung. Sie verweist auf die pädagogische Entscheidungsbefugnis der Lehrkräfte und nennt Anwendungsbeispiele, die erlaubt sind. Demnach ist es zum Beispiel möglich, KI-Systeme im Unterricht zu thematisieren und Informationsmaterial zu behandeln. Außerdem können neue Technologien im Unterricht ausprobiert und diskutiert werden, solange Lehrkräfte zum Beispiel ihren eigenen Account oder einen Schul-Account dafür nutzen.

Ob und inwieweit KI im Rahmen von Prüfungen verwendet werden dürfen, sollten Lehrkräfte mit ihren Schüler/-innen absprechen. Die Grenzen liegen grundsätzlich dort, wo die Verwendung von KI-Systemen dazu führt, dass Schüler/-innen im Unterricht oder bei der Leistungsbewertung benachteiligt werden (können). Neben den Schulgesetzen müssen natürlich auch die allgemeinen Gesetze eingehalten werden, wie zum Beispiel das Urheberrecht, das Persönlichkeitsrecht und der Datenschutz.

Felix Krone: In der EU entsteht derzeit der AI Act, eine Verordnung, die KI-spezifische Fragen aufgreift und sektorenübergreifende Regeln festlegt. Der AI Act will einen risikobasierten Ansatz verfolgen. Das heißt, KI-Systeme werden in verschiedene Risikostufen eingeteilt: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Systeme mit geringen Risiken müssen nur wenige Vorgaben einhalten — so zum Beispiel Transparenz. Hochriskante Systeme dagegen sehr viele. Allgemeinbildende Schulen betrifft vor allem letzteres, da KI-Systeme zur Leistungsbewertung oder Betrugserkennung im schulischen Einsatz als hochriskante KI-Systeme angesehen werden. Es wird erwartet, dass der AI Act Ende 2023 in Kraft tritt und zwei Jahre danach anwendbar wird.

Felix Krone: Leider ist es so, dass wir bei den KI-Services wie ChatGPT und Co. nicht genau wissen, was mit eingegebenen Daten geschieht. Daher lautet meine generelle Empfehlung, nicht ohne weiteres personenbezogene Informationen einzugeben. Außerdem empfehlen die Handreichungen der Kultusministerien, dass Schüler/-innen nicht dazu verpflichtet werden sollten, eigene Accounts bei diesen Services anzulegen.

Felix Krone: Wenn ein Algorithmus mit diskriminierenden Daten trainiert wird, dann liegt es nahe, dass der Algorithmus diese diskriminierenden Muster übernimmt. In der Schule kann das richtig nach hinten losgehen: In Großbritannien gab es 2020 aufgrund der Corona-Pandemie keine Schule und auch keine Prüfungen. Ein eingesetzter Algorithmus sollte Schüler/-innen automatisch benoten und hat viele Zensuren herabgestuft. Erst landesweite Proteste haben dazu geführt, dass die Abschlussnoten zurückgenommen wurden. Wichtig ist daher immer, eine menschliche Aufsicht sicherzustellen. Lehrkräfte und Schüler/-innen sollten algorithmische Entscheidungen nie unhinterfragt übernehmen.

Zur Person

Der Senior Referent Recht und Syndikusrechtsanwalt Dr. Felix Krone ist seit fünf Jahren bei Cornelsen beschäftigt. Er ist spezialisiert auf die Rechtsberatung in den Schnittmengen Daten, Informationstechnologie und Medien. Studiert und promoviert hat er 2018 an der Freien Universität Berlin.

Informationskompetenz in Zeiten der KI
Sie bekommen einen kompakten Überblick über KI-gestützte Tools mit ihren Möglichkeiten und Grenzen. Sie lernen einzelne Tools genauer kennen und bekommen Anregung, wie Sie sie im Unterricht nutzen könne, um die Medien- und Informationskompetenz der Schülerinnen und Schüler zu stärken.
 

Wie KI und digitale Tools das Lernen Ihrer Schüler/-innen verändern können
Künstliche Intelligenz (KI) und digitale Tools haben das Potenzial, das Lernen von Lernenden nachhaltig zu verändern. In diesem Webinar werde ich Ihnen Anregungen geben, wie Sie mit Ihren Schülerinnen und Schülern über die vielfältigen Möglichkeiten und Gefahren Künstlicher Intelligenz diskutieren können.
 

Künstliche Intelligenz im Unterricht
In diesem Live-Online-Seminare erhalten Sie einen Überblick über die verschiedenen Einsatzmöglichkeiten von KI in Ihrem Unterricht. Sie erfahren, welche Anwendungen verfügbar und leicht anwendbar sind, um Ihren Unterricht effektiver zu gestalten, zu individualisieren und zu verbessern.