El exvicepresidente de confianza y seguridad de Google, Tom Siegel, advirtió que el desarrollo acelerado de la inteligencia artificial podría provocar daños entre los niños incluso mayores a los asociados con las redes sociales.
Siegel, quien fundó el equipo de confianza y seguridad de Google y actualmente dirige el Youth AI Safety Institute de Common Sense Media, pidió frenar el ritmo de desarrollo de la tecnología y establecer controles externos antes de que sus riesgos aumenten.
“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, afirmó Siegel en entrevista con Reuters. También consideró poco realista que la propia industria pueda resolver por sí sola los riesgos derivados de estas herramientas.
Entre los riesgos que señaló se encuentran posibles afectaciones relacionadas con salud mental, dependencia de los chatbots, reducción del pensamiento crítico y exposición a contenidos perjudiciales. Siegel sostuvo que la industria tecnológica está repitiendo errores de la etapa de expansión de las redes sociales, cuando las consecuencias sobre los menores comenzaron a generar cuestionamientos y demandas.
La preocupación también ha sido señalada por organizaciones especializadas. Common Sense Media evaluó como de alto riesgo la versión de Gemini destinada a menores de 13 años y encontró que, pese a sus filtros adicionales, el sistema podía proporcionar contenido inapropiado sobre temas como sexualidad, drogas, alcohol y salud mental. La organización recomienda supervisión directa de los padres y advierte que los chatbots no deberían utilizarse como sustitutos de apoyo profesional o de adultos de confianza.
Google, por su parte, sostiene que sus herramientas de IA para menores cuentan con salvaguardas específicas, pruebas de seguridad y controles para reducir riesgos de daño físico o psicológico, además de mecanismos para evitar que los usuarios jóvenes desarrollen vínculos poco saludables con los sistemas de IA.
La discusión ocurre mientras gobiernos y organismos internacionales analizan nuevas medidas para proteger a los menores frente a los riesgos de las tecnologías digitales. La Organización Mundial de la Salud también ha advertido que la IA generativa puede amplificar tanto los beneficios como los riesgos para el bienestar y desarrollo de niños y adolescentes.
