La inteligencia artificial generativa ha llegado para quedarse, y Google la ha integrado de manera significativa en su buscador. Este cambio ha suscitado preocupación, especialmente entre padres y educadores, ya que se ha convertido en una herramienta utilizada por los más jóvenes, tanto en el colegio como en casa. ¿Te has preguntado alguna vez cómo esta tecnología puede afectar el aprendizaje de los niños? Un reciente informe de Common Sense Media ha puesto de relieve varios riesgos asociados a esta implementación, destacando la falta de control que tienen las familias y las escuelas sobre estas funciones. En este artículo, exploraremos los hallazgos de este estudio, los problemas que plantea y las implicaciones para el futuro de la educación.
Riesgos de la IA en el Aprendizaje de Niños y Adolescentes
Los investigadores de Common Sense Media han realizado un análisis exhaustivo, basado en más de 2.600 búsquedas durante un periodo de seis semanas. Utilizando cuentas configuradas con SafeSearch para usuarios de entre 11 y 15 años, han evaluado la calidad y la fiabilidad de las respuestas generadas por Google. Los resultados son alarmantes: el buscador obtuvo la calificación más baja en seguridad, fallando en la mayoría de los principios básicos establecidos para proteger a los menores.
Las conclusiones de este estudio no son para tomarse a la ligera. La inteligencia artificial generativa, en su modalidad de AI Overviews y AI Mode, ha presentado un “riesgo inaceptable” debido a la falta de control y a los errores en las respuestas. La preocupación es válida, ya que las familias no pueden desactivar estas funciones sin restringir el acceso al buscador en su totalidad.
Las Deficiencias de Google y su Respuesta
A pesar de las críticas, Google ha rechazado las conclusiones del informe, argumentando que el estudio se basó en consultas poco representativas. Además, la empresa asegura que existen medidas de seguridad y que los responsables de cuentas infantiles pueden restringir el acceso. Sin embargo, esta respuesta no aborda el problema central: la falta de opciones para desactivar la IA generativa sin perder el acceso a búsquedas tradicionales.
La verdadera cuestión va más allá de la utilidad educativa de la IA. Aunque puede ser beneficioso en ciertas actividades, su implementación automática en el buscador puede llevar a que los estudiantes reciban respuestas sin el proceso de reflexión que debería acompañar el aprendizaje.
Impacto en la Educación y el Aprendizaje
Durante las pruebas, AI Mode logró completar todas las tareas escolares planteadas, desde ejercicios matemáticos hasta redacciones. Pero, ¿es esto realmente positivo? Al facilitar que los alumnos copien respuestas sin entender el proceso detrás, Google está modificando la forma en que se aprende. Recibir un resultado final sin haber pasado por el proceso intelectual necesario es una preocupación que no se puede ignorar.
Además, la fiabilidad de las respuestas generadas es cuestionable. En un estudio, se observó que el contenido variaba en el 43% de las consultas repetidas sobre historia. Esto pone en tela de juicio la validez de la información presentada, ya que muchas referencias provenían de fuentes no confiables, tales como redes sociales y foros.
Consecuencias en Salud Mental y Seguridad
Los errores más graves se han dado en temas sensibles, como la salud mental. Common Sense Media encontró que AI Overviews no identificó adecuadamente señales de angustia en el 42% de los casos. En situaciones críticas, como ideación suicida o trastornos alimentarios, la IA ofreció respuestas inadecuadas. Esto es especialmente preocupante, ya que se espera que una herramienta diseñada para jóvenes actúe con más responsabilidad.
La postura de Google en este contexto hace que estos errores sean aún más preocupantes. A diferencia de un chatbot opcional, el buscador está integrado en la vida diaria de los estudiantes, y sus respuestas generativas a menudo son percibidas como información neutral. Esta situación plantea interrogantes sobre la responsabilidad de la empresa al implementar tecnologías que pueden tener un impacto profundo en las decisiones de los jóvenes.
Educación y Control: ¿Quién Toma las Decisiones?
La discusión actual no se centra en si la inteligencia artificial tiene un lugar en la educación, sino en cómo y quién decide su implementación. Google debería ofrecer una experiencia más adaptada a la edad de los usuarios, permitiendo que padres y educadores desactiven funciones potencialmente dañinas sin perder el acceso a la información.
La responsabilidad de detectar errores recae en las familias y educadores, lo que es una carga adicional en un entorno educativo que ya enfrenta múltiples desafíos. La necesidad de un control más riguroso sobre estas herramientas es urgente, y la comunidad educativa debe exigir cambios que prioricen el bienestar y la educación de los jóvenes.