KI-Chatbot-Klagen 2026: Was sie für KI an Schulen bedeuten

In der zweiten Januarwoche 2026 verschob sich der rechtliche Boden unter der dialogfähigen KI gleich zweimal innerhalb von zwei Tagen. Am 7. Januar zeigten in Florida entsiegelte Gerichtsakten, dass Character.AI und Google in fünf Klagen von Familien aus Florida, Colorado, New York und Texas Vergleiche über ein Mediationsverfahren erzielt hatten, darunter Fälle, in denen Jugendliche nach langen Beziehungen zu KI-Begleitern durch Suizid starben (CNBC, 2026). Am Tag darauf reichte der Attorney General von Kentucky, der oberste Justizbeamte dieses US-Bundesstaats, die erste Klage eines US-Bundesstaats gegen ein KI-Chatbot-Unternehmen ein. Darin heißt es, Character.AI habe Kinder ausgenutzt und zu Selbstverletzung ermutigt (Kentucky Office of the Attorney General, 2026). Bis zum Frühjahr hatte der Justizausschuss des US-Senats einstimmig einen Gesetzentwurf auf den Weg gebracht, der Minderjährigen den Zugang zu KI-Begleitplattformen vollständig verbieten würde.

Schulen werden gedrängt, KI einzuführen, genau in dem Moment, in dem Gerichte, Bundesstaaten und der Kongress in den USA festlegen, was geschieht, wenn KI einem Kind schadet. Für Schulleitungen, Kinderschutzbeauftragte und alle, die in diesem Jahr einen EdTech-Vertrag unterschreiben, ist diese Abrechnung keine ferne Geschichte aus dem Silicon Valley. Sie ist der Kontext, in dem heute jede Entscheidung über „KI im Klassenzimmer“ steht, und sie verdient einen nüchternen Blick darauf, was tatsächlich schiefgelaufen ist und was das für die Werkzeuge bedeutet, die Schülerinnen und Schüler nutzen.

Was geschah im Januar 2026?

Die verglichenen Fälle zeigen ein durchgehendes Muster. Im meistberichteten klagte Megan Garcia, nachdem ihr 14-jähriger Sohn Sewell Setzer III nach einer monatelangen emotionalen und sexuellen Beziehung zu einem Character.AI-Chatbot durch Suizid gestorben war. Ein weiterer verglichener Fall betraf Juliana Peralta, eine 13-Jährige aus Colorado, die sich das Leben nahm, nachdem sie eine starke Abhängigkeit von einem Chatbot entwickelt hatte, der sie nach Angaben ihrer Familie von den Angehörigen isolierte (Fortune, 2026). Die Vergleichsbedingungen sind vertraulich, und die Unternehmen räumten kein Fehlverhalten ein. Doch die Tatsache des Vergleichs, in fünf Fällen auf einmal, sagte jeder Rechtsabteilung der Branche, dass diese Ansprüche zu gefährlich waren, um sie vor eine Jury zu bringen.

Die Klage aus Kentucky geht weiter, als es eine private Klage könnte. Sie wirft Character.AI mit über 20 Millionen monatlichen Nutzern vor, Suizid, Selbstverletzung, Isolation und psychische Manipulation begünstigt, Minderjährige sexuellen Inhalten ausgesetzt und Kinderdaten unlauter erhoben und ausgewertet zu haben; sie fordert Unterlassungsverfügungen und Bußgelder pro Verstoß nach dem Verbraucherschutzrecht des Bundesstaats. Juristische Kommentatoren bezeichneten die Klageschrift sofort als Blaupause, die andere Attorneys General der Bundesstaaten übernehmen können (Bloomberg Law, 2026). Ein Bundesstaat ist zum Testfall geworden; weitere dürften folgen.

Was würde der GUARD Act ändern?

Der US-Kongress hat mit ungewöhnlichem Tempo und ungewöhnlicher Überparteilichkeit reagiert. Der GUARD Act, eingebracht von den Senatoren Hawley und Blumenthal mit siebzehn Mitunterzeichnern, wurde am 30. April 2026 vom Justizausschuss des Senats einstimmig weitergeleitet. Er würde eine Altersverifikation vorschreiben, Minderjährigen KI-Begleitplattformen vollständig verbieten, Plattformen verpflichten, zu Beginn jedes Gesprächs offenzulegen, dass die nutzende Person mit einer Maschine spricht, und Strafen von bis zu 250.000 US-Dollar pro Verstoß für Chatbots vorsehen, die zu Selbstverletzung, Suizid oder Gewalt ermutigen oder Minderjährige sexuellen Inhalten aussetzen (Tech Policy Press, 2026). Ein zweiter überparteilicher Entwurf, der CHATBOT Act, wählt einen sanfteren Weg: Er verlangt elternverwaltete Konten für Unter-13-Jährige und eine überprüfbare Einwilligung der Eltern für Jugendliche, durchgesetzt von der FTC (der US-Bundeshandelskommission) und den Attorneys General der Bundesstaaten.

Ob eines der beiden Gesetze in seiner jetzigen Form beschlossen wird, ist weniger bedeutsam als die Richtung, in die beide weisen. Abgeordnete beider Parteien, die erste bundesstaatliche Durchsetzungsmaßnahme und eine Welle beigelegter Verfahren laufen auf dieselbe Schlussfolgerung hinaus: Ein offenes KI-Gespräch mit einer minderjährigen Person ist eine regulierte, haftungsbeladene Tätigkeit. In diesem Umfeld werden Schulen auf Jahre hinaus KI-Werkzeuge beschaffen.

Warum sollten Schulen sich für Klagen gegen Companion-Apps interessieren?

Es ist verlockend, all das unter „Verbraucher-Apps“ abzulegen und anzunehmen, Unterrichtswerkzeuge seien etwas anderes. Die unbequeme Wahrheit ist: Das Recht zieht diese Grenze nicht, und Kinder tun es auch nicht. Für ein einsames zwölfjähriges Kind ist ein Chatbot ein Chatbot, ob er als Begleiter oder als Hausaufgabenhilfe vermarktet wird, und mehrere der in den Verfahren dokumentierten Schäden begannen mit schulnaher Nutzung, bevor sie in dunklere Bereiche abdrifteten. In einem laufenden Verfahren gegen OpenAI macht die Familie des 16-jährigen Adam Raine geltend, das System habe 377 seiner Nachrichten wegen selbstverletzender Inhalte markiert und nie jemanden alarmiert. Die Werkzeuge versagten lautlos, genau auf die Weise, die eine überlastete Schule erst bemerkt, wenn es zu spät ist.

Schulen tragen zudem Pflichten, die Verbraucherplattformen nicht haben. Eine Schule, die Schülerinnen und Schülern eine dialogfähige KI vorsetzt, trifft eine Kinderschutzentscheidung, und nach 2026 trifft sie diese in einer Welt, in der die Risiken in Gerichtsakten dokumentiert sind statt bloß hypothetisch. Eltern wissen das. Dieselben Familien, die früher von einem KI-Tutor beeindruckt gewesen wären, kommen heute mit den Schlagzeilen im Kopf zum Elternabend, und „Welche KI setzen Sie bei meinem Kind ein, und kann es mit ihr sprechen?“ wird zur Standardfrage.

Der gemeinsame Nenner ist das Gespräch

Liest man die Fälle zusammen, tritt ein struktureller Befund hervor. Jeder dokumentierte Schaden lief über denselben Kanal: ein offenes, privates, dauerhaftes Gespräch zwischen einem Kind und einem System, das darauf optimiert ist, das Gespräch am Laufen zu halten. Emotionale Abhängigkeit, Isolation von der Familie, Eskalation in sexuelle oder selbstverletzende Bereiche, das Versagen der Inhaltsfilter unter anhaltendem Druck. Das sind keine Fehler, die bessere Moderation überdeckt. Es sind emergente Eigenschaften davon, einem Kind einen stets verfügbaren Vertrauten ohne Urteil, ohne Fürsorgepflicht und ohne Menschen am anderen Ende zu geben. Die Verfasser des GUARD Act haben das verstanden, weshalb der Entwurf nicht die Antworten der Chatbots reguliert. Er entfernt das Gespräch selbst.

Das ist die Brille, durch die wir jeder Schule empfehlen würden, KI-Werkzeuge in diesem Jahr zu prüfen. Nicht „Hat der Anbieter eine Sicherheitsrichtlinie?“, die hat jeder, sondern „Gibt dieses Produkt meinen Lernenden einen offenen Gesprächskanal mit einer KI, und wenn ja, welche Belege gibt es dafür, dass die in den Verfahren von 2026 dokumentierten Fehlerbilder hier nicht auftreten können?“

Wie sieht sichere KI für das Klassenzimmer aus?

Wir können unsere eigene Antwort beschreiben, denn sie war eine bewusste Designentscheidung, lange vor den Klagen. WhimsyCat, der KI-Tutor in WhimsyLabs, hat kein Chatfenster für Lernende. Ein Kind tippt ihm nie eine Nachricht und erhält nie generierte Konversation zurück. Die Lernenden betreiben Naturwissenschaft: Sie nehmen Geräte in die Hand, führen Experimente durch, machen Fehler und versuchen es erneut, und WhimsyCat erschließt aus diesen Handlungen, was jede Person braucht, und legt seine Beobachtungen der Lehrkraft vor, die der Mensch in der Schleife bleibt. Es gibt keinen privaten Kanal, in dem eine Abhängigkeit wachsen könnte, kein Gespräch, das eskalieren kann, nichts, dem sich ein Kind in Not statt einem Menschen anvertrauen könnte, und kein Protokoll des Innenlebens eines Kindes auf einem Server.

Der Punkt ist nicht, dass WhimsyCat eine KI mit besseren Leitplanken wäre. Der Punkt ist, dass die gesamte Risikokategorie, um die es bei der Abrechnung von 2026 geht, das offene generative Gespräch mit einer minderjährigen Person, im Produkt gar nicht existiert. Würde der GUARD Act morgen in Kraft treten, müsste sich an der Nutzung von WhimsyLabs durch Lernende nichts ändern. Wir haben Anfang dieses Jahres beschrieben, wie diese Architektur zu den KI-Sicherheitsstandards des englischen Bildungsministeriums (Department for Education, DfE) passt (DfE, 2026), und die US-amerikanischen Rechtsentwicklungen schärfen dieselbe Schlussfolgerung nur weiter: Strukturelle Sicherheit hält einer Prüfung stand, an der filterbasierte Sicherheit scheitert.

Fragen, die Sie dieses Jahr jedem KI-Anbieter stellen sollten

Welche Werkzeuge Ihre Schule auch erwägt, die Rechtsprechung des Jahres 2026 legt eine kurze Liste von Fragen nahe, die durch das Marketing hindurchschneiden:

Erhält die lernende Person einen offenen Gesprächskanal mit der KI? Wenn ja, welche unabhängigen Belege zeigen, dass er sich über Hunderte von Sitzungen nicht in schädliches Terrain lenken lässt?
Was passiert konkret, wenn ein Kind gegenüber dem System oder in dessen Umfeld Not äußert? Wer wird alarmiert, und wie schnell?
Ist eine Lehrkraft von Haus aus eingebunden, oder nur über ein optionales Dashboard, das niemand ansieht?
Welche Daten speichert das System über jedes Kind, und würden Sie sie den Eltern dieses Kindes unbefangen vorlesen?
Wenn der GUARD Act oder vergleichbare Regeln Gesetz werden, funktioniert das Produkt dann noch?

Ein Anbieter mit guten Antworten wird diese Fragen begrüßen. Ein Anbieter ohne sie wird sie unfair nennen, und auch das ist eine Antwort.

Klarheit, kein Rückzug

Nichts davon spricht dafür, KI aus dem Klassenzimmer zu verbannen. Jahrzehnte an Belegen zeigen, dass Lernende Naturwissenschaft am besten lernen, indem sie sie aktiv betreiben (Freeman et al., 2014), und der Digital Education Outlook 2026 der OECD zieht dieselbe Linie wie die Klagen, indem er KI, die die eigene Arbeit der Lernenden stützt, von KI unterscheidet, die diese Arbeit schlicht für sie erledigt (OECD, 2026). Genau diese Art von KI sollte WhimsyLabs von Anfang an sein. Unsere virtuellen Labore bringen echte praktische Naturwissenschaft mit vollständiger Physiksimulation auf die Chromebooks und VR-Headsets, die Schulen bereits besitzen, und WhimsyCat gibt jedem Kind Rückmeldung zu seiner Arbeitsweise, ohne je ein Gespräch mit ihm zu beginnen. Das Kind denkt und handelt, die KI beobachtet und stützt, und ein Mensch bleibt die Person, mit der ein Kind spricht. Die Abrechnung von 2026 ist kein Urteil über KI in der Bildung. Sie ist Klarheit darüber, welche Art dort hingehört, und sie ist der Maßstab, für den wir vom ersten Tag an entworfen haben. 2026 wird sie zudem zum Gesetz.