KI im Unterricht: Was erlaubt ist und was nicht

Cornelsen – Hinter den Kulissen
3 min readJul 24, 2023

Seit Monaten diskutiert die Bildungsbranche über Künstliche Intelligenz in der Schule. Viele Lehrkräfte setzen KI-Tools schon erfolgreich im Unterricht ein. Beim Thema Recht herrscht allerdings noch viel Unsicherheit. Was ist rechtlich okay, was ist Grauzone, was geht gar nicht? Wir haben unseren Rechtsexperten Felix Krone dazu befragt.

Felix Krone ist Senior Referent Recht und Syndikusrechtsanwalt bei Cornelsen (Foto: Virgine Krone).

Welche KI-Tools werden eigentlich aktuell in den Klassen- und Kinderzimmern genutzt?

Was seit Ende 2022 einen Hype erfährt, sind KI-Sprachmodelle, die eine Unterkategorie von generativen KI-Modellen sind. Zum Beispiel die Bildgeneratoren Dall-E2, Stable Diffusion und Midjourney oder Textgeneratoren wie Bard, ChatGPT. Diese Systeme können Eingaben ziemlich gut zu plausiblen Ausgaben vervollständigen. Sie können Hausaufgaben erledigen, Gedichte berechnen und sogar Abiturprüfungen bestehen.

Künstliche Intelligenz ist aber als Softwaretechnologie nicht neu. Auch nicht in der Schule. Expertensysteme wie Schachcomputer gibt es schon länger. Auch intelligente Diagnose-Systeme oder Tutorielle Systeme, die Lernprozesse unterstützen und Lernpfade personalisieren, gibt es bereits länger.

Dürfen KI-Systeme in der Schule überhaupt verwendet werden?

Tatsächlich ist die Rechtslage eher ein Flickenteppich, bestehend aus Landesschulgesetzen und allgemeinen Gesetzen zum Datenschutz, Persönlichkeitsrecht, Urheberrecht und weiteren. Das liegt aber nicht nur an der Neuheit des Themas, sondern auch an den föderalen Strukturen. Es gibt keine spezifische Regulierung, die den Schulen KI-basierte Services dezidiert vorschreibt oder verbietet. Derzeit müssen Schulen sich die Information aus verschiedenen Rechtsquellen zusammensuchen.

Aus welchen denn zum Beispiel?

Hilfreich sind zum Beispiel die ethischen Leitlinien der EU. Außerdem bietet die Handreichung des Hessischen Kultusministeriums eine gute Orientierung. Sie verweist auf die pädagogische Entscheidungsbefugnis der Lehrkräfte und nennt Anwendungsbeispiele, die erlaubt sind. Demnach ist es zum Beispiel möglich, KI-Systeme im Unterricht zu thematisieren und Informationsmaterial zu behandeln. Außerdem können neue Technologien im Unterricht ausprobiert und diskutiert werden, solange Lehrkräfte zum Beispiel ihren eigenen Account oder einen Schul-Account dafür nutzen.

Ob und inwieweit KI im Rahmen von Prüfungen verwendet werden dürfen, sollten Lehrkräfte mit ihren Schüler*innen absprechen. Die Grenzen liegen grundsätzlich dort, wo die Verwendung von KI-Systemen dazu führt, dass Schüler*innen im Unterricht oder bei der Leistungsbewertung benachteiligt werden (können). Neben den Schulgesetzen müssen natürlich auch die allgemeinen Gesetze eingehalten werden, wie zum Beispiel das Urheberrecht, das Persönlichkeitsrecht und der Datenschutz.

Gibt es in Deutschland oder in der EU Pläne, Künstliche Intelligenz zu regulieren?

In der EU entsteht derzeit der AI Act, eine Verordnung, die KI-spezifische Fragen aufgreift und sektorenübergreifende Regeln festlegt. Der AI Act will einen risikobasierten Ansatz verfolgen. Das heißt, KI-Systeme werden in verschiedene Risikostufen eingeteilt: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Systeme mit geringen Risiken müssen nur wenige Vorgaben einhalten — so zum Beispiel Transparenz. Hochriskante Systeme dagegen sehr viele. Allgemeinbildende Schulen betrifft vor allem letzteres, da KI-Systeme zur Leistungsbewertung oder Betrugserkennung im schulischen Einsatz als hochriskante KI-Systeme angesehen werden. Es wird erwartet, dass der AI Act Ende 2023 in Kraft tritt und zwei Jahre danach anwendbar wird.

Wie sieht es eigentlich mit dem Datenschutz aus?

Leider ist es so, dass wir bei den KI-Services wie ChatGPT und Co. nicht genau wissen, was mit eingegebenen Daten geschieht. Daher lautet meine generelle Empfehlung, nicht ohne weiteres personenbezogene Informationen einzugeben. Außerdem empfehlen die Handreichungen der Kultusministerien, dass Schüler*innen nicht dazu verpflichtet werden sollten, eigene Accounts bei diesen Services anzulegen.

Ein oft diskutiertes Problem bei Künstlicher Intelligenz sind diskriminierende Algorithmen. Wie sollte man damit umzugehen?

Wenn ein Algorithmus mit diskriminierenden Daten trainiert wird, dann liegt es nahe, dass der Algorithmus diese diskriminierenden Muster übernimmt. In der Schule kann das richtig nach hinten losgehen: In Großbritannien gab es 2020 aufgrund der Corona-Pandemie keine Schule und auch keine Prüfungen. Ein eingesetzter Algorithmus sollte Schüler*innen automatisch benoten und hat viele Zensuren herabgestuft. Erst landesweite Proteste unter dem Namen “Fuck The Algorithm” haben dazu geführt, dass die Abschlussnoten zurückgenommen wurden. Wichtig ist daher immer, eine menschliche Aufsicht sicherzustellen. Lehrkräfte und Schüler*innen sollten algorithmische Entscheidungen nie unhinterfragt übernehmen.

Der Senior Referent Recht und Syndikusrechtsanwalt Dr. Felix Krone ist seit fünf Jahren bei Cornelsen beschäftigt. Er ist spezialisiert auf die Rechtsberatung in den Schnittmengen Daten, Informationstechnologie und Medien. Studiert und promoviert hat er 2018 an der Freien Universität Berlin.

--

--

Cornelsen – Hinter den Kulissen

Wer sind wir und wie arbeiten wir an unseren Lehrwerken, Lernlösungen und Innovationen? Hier gewähren wir Einblicke in unsere Arbeit und hinter die Kulissen.