Die Anwendungen der KI-Toolbox unterliegen den Bestimmungen des EU AI-Act, der die Nutzung von KI-Systemen reguliert, um Sicherheit und Grundrechte zu gewährleisten. Cornelsen erfüllt alle relevanten Pflichten des AI-Act, die teilweise in Kraft sind oder bis zum 2. August 2026 in Kraft treten.

Die KI-Toolbox wurde einer internen Risikobewertung unterzogen. Die Prüfung hat folgende Risiken erkannt:

Verbotene Praktiken Art. 5: keine

Hochrisiko-KI-Systeme Art. 6 (1): keine
Hochrisiko-KI-Systeme Art. 6 (2): keine

KI-Systeme für die direkte Interaktion, Art. 50 (1): CornelsenGPT, KI-Material-Designer, KI-Unterrichtsplaner, KI-Korrektur-Assistent, KI-Lernhelfer für Schüler/-innen

KI-Systeme für die Erzeugung von synthetischen Audio-, Bild-, Video- oder Textinhalten, Art. 50 (2): CornelsenGPT, KI-Material-Designer, KI-Korrektur-Assistent

Emotionserkennungssysteme oder Systeme zur biometrischen Kategorisierung, Art. 50 (3):
keine

KI-Systeme für die Erzeugung von Deepfakes, Art. 50 (4): keine
KI-Systeme mit allgemeinen Zwecken, Art. 50 (2): keine
KI-Modelle mit allgemeinen Zwecken, Art. 3 Nr. 3: keine

Cornelsen stellt sicher, dass alle KI-Ausgaben ab den 02. August 2026 maschinenlesbar gekennzeichnet und als künstlich erzeugt erkennbar sind. Zudem werden Nutzer:innen darüber informiert, dass sie mit einem KI-System interagieren, wofür die KI-Toolbox verwendet werden darf und wofür nicht. Außerdem stellt Cornelsen sicher, dass die Mitarbeiter:innen, die mit der Entwicklung der KI-Toolbox beteiligt sind über die nötige KI-Kompetenz im Sinne von Art. 4 AI-Act verfügen.

Die Cornelsen KI-Toolbox ist vollständig konform mit den Anforderungen des EU AI-Act und bietet eine sichere, transparente und ethisch fundierte Nutzung von KI-Technologien im Bildungsbereich.