Demandan a Google por menor que planificó su suicidio y funeral con IA
San Francisco, Estados Unidos.- Los padres de una niña de 13 años demandaron a Google en EE. UU. tras alegar que la menor planificó un posible suicidio y su funeral mediante el motor de búsqueda con inteligencia artificial (IA) de la compañía, desde un equipo escolar.
Primer recurso legal por la IA en Chromebooks
El caso representa la primera demanda formal que acusa al gigante tecnológico de negligencia por la integración de herramientas de IA en los Chromebooks, las computadoras portátiles de bajo costo utilizadas por millones de estudiantes a nivel global.
Aunque el centro educativo de la adolescente —identificada como Emma— mantenía bloqueadas las aplicaciones Gemini de Google y ChatGPT de OpenAI, la menor accedió a las herramientas impulsadas por IA dentro del motor de búsqueda estándar de Google.
Estas funciones de búsqueda asistida no forman parte de las herramientas que la empresa anunció esta semana para desactivación predeterminada en entornos escolares.
Leer también: Detienen en Cuba a la periodista Yoani Sánchez
Andrew Liddell, abogado de la familia, declaró a la AFP que las instituciones educativas deben desactivar el motor de búsqueda de Google hasta que la empresa elimine el modo de IA o garantice la seguridad absoluta de los estudiantes durante la interacción.
La demanda, presentada el lunes ante un tribunal de California, describe a la joven como una alumna destacada de Carolina del Norte, dedicada a la música y a las Girl Scouts, sin antecedentes de enfermedad mental.
Según el recurso legal, la menor entró en una “silenciosa espiral de grave crisis psicológica” a los pocos meses de utilizar cotidianamente la búsqueda con IA en su laptop institucional.
Alerta escolar e intervención familiar
El 17 de marzo, un software de monitoreo escolar detectó un archivo titulado “Funeral” y alertó inmediatamente a la familia. Tras el aviso, la madre observó a la menor redactar una nota de despedida en tiempo real y el padre intervino a tiempo para evitar la tragedia.
La respuesta de Google y el debate sobre los filtros
El portavoz de Google, Jose Castaneda, afirmó que la compañía revisa las acusaciones de la demanda y toma el asunto con extrema seriedad. La empresa sostiene que sus sistemas incorporan protecciones contra la generación de contenido sobre autolesiones y evasión de filtros.
Sin embargo, el equipo legal de la familia señaló que la menor logró evadir los controles repetidamente, lo que evidencia que las medidas de seguridad resultaron insuficientes.
Los desarrolladores de tecnologías de IA enfrentan actualmente una creciente ola de acciones judiciales en Estados Unidos por riesgos asociados al desarrollo acelerado de estas plataformas.
