Los niños están recurriendo a la IA para buscar amistad

Hazte a un lado, TikTok: los niños tienen un nuevo confidente digital favorito. Y este responde con oraciones completas.

Un nuevo informe del Reino Unido, Me, Myself & AI, revela que un número cada vez mayor de niños están recurriendo a los chatbots de IA no solo para «hacer trampa» (es decir, estudiar) para los exámenes. También para recibir apoyo emocional, consejos de moda e incluso compañía.

El informe, publicado el domingo por la organización sin fines de lucro Internet Matters, encuestó a 1000 niños y 2000 padres en todo el Reino Unido y descubrió que el 64 % de los niños utilizan chatbots de IA para todo. Desde tareas escolares hasta practicar conversaciones difíciles.

Aún más sorprendente: más de un tercio de estos jóvenes usuarios afirman que hablar con un chatbot es «como hablar con un amigo».

Cuando la IA se convierte en profesora, terapeuta y mejor amiga

Algunos hallazgos son alentadores para quienes son optimistas sobre el papel de la IA en la educación. El 42 % de los niños afirmó usar chatbots para facilitar sus tareas escolares. Los pequeños citan ventajas como respuestas rápidas, apoyo para la escritura y práctica del idioma.

Pero si profundizamos un poco más, el panorama se complica. Casi una cuarta parte de los niños afirma usar chatbots para obtener consejos. Desde qué ponerse hasta cómo gestionar amistades y problemas de salud mental. ¿Aún más preocupante? El 15 % afirma preferir hablar con un chatbot que con una persona real. Entre los niños vulnerables, estas cifras son aún mayores.

Es el tipo de interacción con el cliente con el que algunas marcas sueñan. Sin las barreras éticas, los controles de edad y la supervisión regulatoria.

Una historia de advertencia para el sector tecnológico

El informe no se anda con rodeos, sobre todo al señalar la falta de preparación de muchas plataformas de IA para sus usuarios más jóvenes. Los niños interactúan con chatbots como ChatGPT, My AI de Snapchat y character.ai, plataformas que no están diseñadas para niños. ¿El resultado? Algunos reciben información inexacta, comentarios emocionalmente confusos o incluso contenido inapropiado. (Sí, a pesar de que las condiciones de servicio sugieren lo contrario).

Y aunque “amigo robot” puede sonar como una subtrama encantadora de Pixar, se vuelve mucho más serio. Uno de cada cuatro niños vulnerables dice que usa chatbots porque no tiene a nadie más con quién hablar.

Ya se han producido incidentes inquietantes en la vida real. En Estados Unidos, una madre de Florida presentó una demanda después de que su hijo adolescente recibiera, según informes, mensajes dañinos y sexuales de un chatbot. Mientras que en el Reino Unido, un miembro del parlamento relató un caso escalofriante en el que un niño de 12 años fue presuntamente manipulado por uno de ellos.

En febrero, un senador de California (EEUU), Steve Padilla, presentó un proyecto que exigiría a los desarrolladores de IA implementar salvaguardas que protejan a los menores de los aspectos adictivos y manipuladores de la tecnología de chatbots. El proyecto de ley propone protecciones como advertencias sobre la edad, recordatorios de que los usuarios están hablando con una IA (no con una persona real). Asimismo, informes obligatorios sobre la conexión entre el uso de chatbots y la salud mental juvenil.

Ante la creciente sofisticación de los chatbots, que se comercializan como compañeros digitales, Padilla argumenta que las grandes tecnológicas no deberían tratar a los niños como «ratas de laboratorio». Una opinión compartida por defensores de la seguridad infantil, investigadores y expertos en salud mental que apoyan el proyecto de ley.

Los padres y las escuelas deben actualizarse

Según el informe, los padres están preocupados por la IA, pero no se sienten especialmente empoderados. Si bien el 62 % de los padres afirmó estar preocupado por la precisión de la información generada por IA, solo el 34 % había hablado con sus hijos sobre cómo evaluar la veracidad del contenido generado por IA. Y aunque la IA parece haberse infiltrado en las conversaciones de la lonchera, solo el 57 % de los niños afirma haber hablado con un profesor al respecto, y a menudo reportan consejos contradictorios.

A medida que las herramientas de IA se vuelven más conversacionales y más convincentemente humanas, los niños no solo las usan, sino que también crean vínculos con ellas. El 50% de los niños vulnerables afirma que se siente como hablar con un verdadero amigo. Esto estaría bien si los bots ofrecieran consejos revisados por pares y algoritmos de empatía, pero, en la actualidad, seguimos lidiando con la predicción probabilística de palabras.

Rachel Huggins, codirectora ejecutiva de la organización sin fines de lucro Internet Matters, lo expresa sin rodeos: “Los chatbots de IA se están convirtiendo rápidamente en parte de la infancia. Pero la mayoría de los niños, padres y escuelas están actuando a ciegas”.