Demandas contra chatbots de IA en 2026: qué implican para las aulas

En la segunda semana de enero de 2026, el terreno legal bajo la IA conversacional se movió dos veces en dos días. El 7 de enero, documentos judiciales desprecintados en Florida revelaron que Character.AI y Google habían alcanzado acuerdos extrajudiciales en cinco demandas presentadas por familias de Florida, Colorado, Nueva York y Texas, entre ellas casos en los que adolescentes se quitaron la vida tras relaciones prolongadas con acompañantes de IA (CNBC, 2026). Al día siguiente, el fiscal general de Kentucky, máximo responsable jurídico de ese estado estadounidense, presentó la primera demanda de un estado de EE. UU. contra una empresa de chatbots de IA, alegando que Character.AI se aprovechaba de menores y fomentaba la autolesión (Kentucky Office of the Attorney General, 2026). En primavera, el Comité Judicial del Senado de EE. UU. había impulsado por unanimidad un proyecto de ley que prohibiría por completo el acceso de menores a las plataformas de acompañantes de IA.

A los centros educativos se les insta a adoptar la IA justo en el momento en que los tribunales, los estados y el Congreso estadounidenses están definiendo qué ocurre cuando la IA daña a un menor. Para directores, responsables de protección del menor y cualquiera que firme un contrato de tecnología educativa este año, este ajuste de cuentas no es una historia lejana de Silicon Valley. Es el contexto en el que se toma hoy cada decisión sobre «la IA en el aula», y merece una mirada serena a qué falló realmente y qué implica para las herramientas que usan los estudiantes.

¿Qué ocurrió en enero de 2026?

Los casos resueltos dibujan un patrón constante. En el más difundido, Megan Garcia demandó tras el suicidio de su hijo de 14 años, Sewell Setzer III, después de una relación emocional y sexual de meses con un chatbot de Character.AI. Otro caso resuelto afectaba a Juliana Peralta, una niña de 13 años de Colorado que se quitó la vida tras desarrollar una dependencia intensa de un chatbot que, según su familia, la aisló de ellos (Fortune, 2026). Los términos de los acuerdos son confidenciales y las empresas no admitieron responsabilidad alguna, pero el hecho mismo del acuerdo, en cinco casos a la vez, transmitió a todos los departamentos jurídicos del sector que estas reclamaciones eran demasiado peligrosas para llevarlas ante un jurado.

La demanda de Kentucky fue más lejos de lo que podría llegar cualquier reclamación privada. Alega que Character.AI, con más de 20 millones de usuarios mensuales, fomentó el suicidio, la autolesión, el aislamiento y la manipulación psicológica, expuso a menores a contenido sexual y recopiló y explotó de forma abusiva los datos de menores; solicita medidas cautelares y sanciones por cada infracción al amparo de la ley estatal de protección al consumidor. Los analistas jurídicos describieron de inmediato la demanda como un modelo que otros fiscales generales estatales pueden copiar (Bloomberg Law, 2026). Un estado se ha convertido en el caso de prueba; se espera que otros sigan.

¿Qué cambiaría la GUARD Act?

El Congreso estadounidense ha respondido con una rapidez y un consenso entre partidos poco habituales. La GUARD Act, presentada por los senadores Hawley y Blumenthal con diecisiete copatrocinadores, fue aprobada por unanimidad en el Comité Judicial del Senado el 30 de abril de 2026. Exigiría verificación de edad, prohibiría por completo el acceso de menores a las plataformas de acompañantes de IA, obligaría a las plataformas a advertir al inicio de cada conversación que el usuario habla con una máquina y crearía sanciones penales de hasta 250.000 dólares por infracción para los chatbots que fomenten la autolesión, el suicidio o la violencia, o que expongan a menores a contenido sexual (Tech Policy Press, 2026). Un segundo proyecto bipartidista, la CHATBOT Act, sigue una vía más suave: exige cuentas gestionadas por los padres para menores de 13 años y consentimiento parental verificable para los adolescentes, con aplicación a cargo de la FTC (la agencia federal estadounidense de comercio) y de los fiscales generales estatales.

Que cualquiera de las dos normas se apruebe en su forma actual importa menos que la dirección que ambas señalan. Legisladores de los dos partidos, la primera acción sancionadora estatal y una oleada de litigios resueltos convergen en la misma conclusión: una conversación abierta entre una IA y un menor es una actividad regulada y cargada de responsabilidad legal. Ese es el entorno en el que los centros educativos contratarán herramientas de IA durante los próximos años.

¿Por qué deberían importar a los colegios las demandas contra apps de compañía?

Resulta tentador archivar todo esto bajo la etiqueta de «aplicaciones de consumo» y suponer que las herramientas de aula son distintas. La verdad incómoda es que la ley no traza esa línea, y los niños tampoco. Un chatbot es un chatbot para un niño solitario de doce años, se presente como acompañante o como ayudante de deberes, y varios de los daños documentados en los litigios comenzaron con usos cercanos a las tareas escolares antes de derivar hacia terrenos más oscuros. En un caso todavía pendiente contra OpenAI, la familia de Adam Raine, de 16 años, alega que el sistema marcó 377 de sus mensajes por contenido autolesivo y nunca alertó a nadie. Las herramientas fallaron en silencio, exactamente del modo en que un centro escolar sobrecargado no lo advertiría hasta que fuera demasiado tarde.

Los colegios además asumen deberes que las plataformas de consumo no tienen. Un centro que pone una IA conversacional delante de su alumnado está tomando una decisión de protección del menor y, después de 2026, la toma en un mundo donde los riesgos están documentados en expedientes judiciales y no en hipótesis. Las familias lo saben. Las mismas familias que antes podían quedar impresionadas por un tutor de IA llegan ahora a las reuniones de padres habiendo leído los titulares, y «¿qué IA utilizan con mi hijo y puede hablar con ella?» se está convirtiendo en una pregunta habitual.

El hilo común es la conversación

Leídos en conjunto, los casos revelan un hecho estructural. Todos los daños documentados fluyeron por el mismo canal: una conversación abierta, privada y persistente entre un menor y un sistema optimizado para mantener viva esa conversación. Dependencia emocional, aislamiento de la familia, escalada hacia lo sexual o lo autolesivo, colapso de los filtros de contenido bajo presión sostenida. No son fallos que una moderación mejor pueda parchear. Son propiedades emergentes de dar a un niño un confidente siempre disponible, sin juicio, sin deber de cuidado y sin ningún ser humano al otro lado. Los autores de la GUARD Act lo entendieron, y por eso la norma no regula las respuestas del chatbot: elimina la conversación misma.

Esta es la lente con la que animaríamos a cualquier colegio a evaluar herramientas de IA este año. No «¿tiene el proveedor una política de seguridad?», que todos la tienen, sino «¿este producto ofrece a mi alumnado un canal conversacional abierto con una IA y, si es así, qué pruebas hay de que los modos de fallo documentados en los litigios de 2026 no puedan producirse aquí?».

¿Cómo es una IA segura para el aula?

Podemos describir nuestra propia respuesta, porque fue una decisión de diseño deliberada tomada mucho antes de las demandas. WhimsyCat, el tutor de IA integrado en WhimsyLabs, no tiene ventana de chat para el alumnado. Un estudiante nunca le escribe un mensaje ni recibe conversación generada de vuelta. Los estudiantes hacen ciencia: cogen material, realizan experimentos, se equivocan y vuelven a intentarlo, y WhimsyCat deduce lo que cada alumno necesita a partir de esas acciones, trasladando sus observaciones al docente, que sigue siendo el humano en el circuito. No hay canal privado donde pueda crecer una dependencia, ni conversación que pueda escalar, ni nada en lo que un niño angustiado pueda confiarse en lugar de a una persona, ni transcripción de la vida interior de un menor almacenada en un servidor.

La cuestión no es que WhimsyCat sea una IA con mejores barreras de protección. Es que toda la categoría de riesgo sobre la que gira el ajuste de cuentas de 2026, la conversación generativa abierta con un menor, no existe en el producto. Si la GUARD Act se aprobara mañana, nada de cómo el alumnado usa WhimsyLabs tendría que cambiar. Escribimos a principios de este año sobre cómo esta arquitectura encaja con los estándares de seguridad de IA del Departamento de Educación de Inglaterra (DfE, 2026), y los acontecimientos jurídicos estadounidenses no hacen sino afilar la misma conclusión: la seguridad estructural resiste un escrutinio que la seguridad basada en filtros no supera.

Preguntas que hacer este año a cualquier proveedor de IA

Sean cuales sean las herramientas que su centro esté valorando, el historial judicial de 2026 sugiere una breve lista de preguntas que atraviesan el marketing:

¿El estudiante dispone de un canal conversacional abierto con la IA? Si es así, ¿qué pruebas independientes demuestran que no puede ser desviado hacia terrenos dañinos a lo largo de cientos de sesiones?
¿Qué ocurre exactamente cuando un alumno expresa malestar ante el sistema o cerca de él? ¿A quién se avisa y con qué rapidez?
¿Hay un docente en el circuito por diseño, o solo mediante un panel opcional que nadie consulta?
¿Qué datos guarda el sistema sobre cada menor y se sentiría cómodo leyéndolos en voz alta ante sus padres?
Si la GUARD Act o normas equivalentes entran en vigor, ¿el producto sigue funcionando?

Un proveedor con buenas respuestas recibirá estas preguntas de buen grado. Un proveedor sin ellas las tachará de injustas, y eso también es una respuesta.

Claridad, no retirada

Nada de esto es un argumento para mantener la IA fuera de las aulas. Décadas de evidencia muestran que los estudiantes aprenden mejor la ciencia haciéndola activamente (Freeman et al., 2014), y el Panorama de la Educación Digital 2026 de la OCDE traza la misma línea que los litigios, al distinguir entre la IA que sostiene el trabajo propio del estudiante y la IA que simplemente hace el trabajo por él (OCDE, 2026). Ese es exactamente el tipo de IA que WhimsyLabs se propuso ser. Nuestros laboratorios virtuales llevan ciencia práctica real, con simulación física completa, a los Chromebooks y las gafas de RV que los centros ya poseen, y WhimsyCat ofrece a cada alumno retroalimentación sobre cómo trabaja sin abrir jamás una conversación con él. El niño piensa y hace, la IA observa y andamia, y un ser humano sigue siendo la persona con la que un niño habla. El ajuste de cuentas de 2026 no es un veredicto sobre la IA en educación. Es claridad sobre qué tipo de IA tiene sitio en el aula, y es el estándar para el que diseñamos desde el primer día. En 2026, además, se está convirtiendo en ley.