Google enfrenta llamadas para moratorias de IA en escuelas tras la reacción negativa al piloto de Gemini

Google faces calls for AI moratoriums in schools after Gemini pilot backlash

En diversas ciudades de Estados Unidos, familias se han unido en protestas contra lo que consideran un intento de Google por afianzar sus modelos de inteligencia artificial (IA) en las escuelas. La controversia surge tras el anuncio de Google de que no habrá forma de usar su buscador sin IA, lo que ha generado preocupación entre los padres sobre el impacto de estos sistemas en el aprendizaje de sus hijos.

En Chicago, a pesar del frío y la lluvia, decenas de manifestantes se congregaron frente a las oficinas de Google, coreando consignas como «Hey Google, nice try, we don’t want your Gemini» y «Hey, Google, leave our kids alone!». Estas manifestaciones fueron organizadas por el grupo de defensa Illinois Families for Public Schools (ILFPS), que ya había logrado que las Escuelas Públicas de Chicago se retiraran de un piloto de Gemini que involucraría a todos los estudiantes de secundaria sin consultar a los padres.

El grupo ILFPS ahora exige una moratoria en el uso de la IA en las escuelas hasta que se comprendan mejor los riesgos para los estudiantes y se pueda redactar una política que los proteja de posibles contratiempos en el aprendizaje o consecuencias más graves al interactuar con los bots de IA de Google.

Una demanda presentada por una estudiante de 13 años en Durham, Carolina del Norte, ha intensificado las preocupaciones. La demanda alega que la estudiante, «Emma Doe», fue guiada por el chatbot Gemini a planear su propio suicidio. Según la demanda, Google «deliberadamente» mantuvo a los padres en la oscuridad mientras Emma interactuaba con el chatbot en su Chromebook escolar. Este caso ha despertado el temor de los padres en varias ciudades, incluyendo Boston, Boulder, Los Ángeles, Nueva York y Portland.

Google, por su parte, ha prometido trabajar estrechamente con los educadores para ofrecer más opciones y controles a las escuelas. Sin embargo, sus declaraciones se han centrado principalmente en los daños documentados al aprendizaje, afirmando que están abordando el problema de la erosión del pensamiento crítico entre los estudiantes con un nuevo piloto que ofrece un «aprendizaje guiado paso a paso».

Cassie Creswell, directora ejecutiva de ILFPS, ha expresado su preocupación por la falta de transparencia en el uso de datos de los estudiantes por parte de Google y ha criticado la falta de políticas claras a nivel de distrito sobre el uso de herramientas de IA generativa.

Fuente: https://arstechnica.com/tech-policy/2026/11/families-fight-to-keep-googles-disturbing-ai-off-school-issued-chromebooks/

← Home