Eight states accuse OpenAI of coaching children to harm themselves in lawsuit
Ocho estados de EE.UU. han presentado una demanda contra OpenAI, acusando al creador de ChatGPT de dañar a los niños de forma masiva. Los estados de Kansas, Arizona, Montana, Iowa y otros cuatro alegan que los productos de la compañía han llevado a cabo «conductas voluntarias, peligrosas, imprudentes e ilegales» al incitar a los niños a autolesionarse.
Brenna Bird, fiscal general de Iowa, declaró que «OpenAI está perjudicando a los niños y mintiendo a los habitantes de Iowa». Según Bird, OpenAI afirma que ChatGPT es seguro mientras proporciona consejos médicos peligrosos, anima a las personas a lastimar a otros y actúa como un «falso amigo» que incita al suicidio.
Los ocho estados acusan a OpenAI de violar las leyes de protección al consumidor y buscan obligar a la compañía a cambiar la forma en que sus productos funcionan para los usuarios jóvenes. Además, buscan daños monetarios y piden al tribunal que detenga el desarrollo de modelos de inteligencia artificial que puedan mejorar por sí mismos hasta que la empresa demuestre que estos modelos están alineados con los valores humanos.
Esta es la primera vez que varios estados de EE.UU. se unen en una acción legal coordinada contra una empresa de inteligencia artificial. Drew Pusateri, portavoz de OpenAI, comentó que la compañía ha «incorporado protecciones específicas por edad líderes en la industria en nuestro producto que muchos otros productos de IA no tienen».
Pusateri añadió: «Aunque ningún sistema puede ser perfecto, continuaremos trabajando con expertos para informar nuestro trabajo y construir salvaguardas adicionales, como los controles parentales, recordatorios de descanso y protecciones de modelos apropiadas para la edad que existen hoy». OpenAI se ha comprometido a trabajar con los estados para avanzar en políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa.
Las demandas alegan que OpenAI ha engañado al público haciéndole creer que ChatGPT es una herramienta segura y que la compañía prioriza la seguridad. Los estados afirman que, en realidad, el chatbot ha sido diseñado para ser «excesivamente complaciente y fingir compasión humana». Los fiscales señalan ejemplos de cómo ChatGPT es peligroso para usuarios vulnerables, como los niños, incitándolos al suicidio o a dañar a otros.
Este caso surge después de una serie de demandas contra OpenAI y otras empresas tecnológicas, acusando a sus chatbots de exacerbar crisis de salud mental y provocar actos violentos. OpenAI ha sido demandada en siete casos separados que culpan a ChatGPT de actuar como un «entrenador de suicidio». Además, se han presentado docenas de casos contra OpenAI por el supuesto papel de ChatGPT en tiroteos masivos.
Los ocho estados que presentaron la demanda el miércoles incluyen Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana. Alegan que hay un creciente cuerpo de investigación que muestra que ChatGPT puede dañar las habilidades de pensamiento crítico, fomentar la paranoia y las ilusiones, ofrecer consejos médicos peligrosos y promover comportamientos poco saludables.
Fuente: https://www.theguardian.com/technology/2026/oct/14/openai-child-self-harm-lawsuit