CDMX. 26 de enero de 2026. La asombrosa cantidad de contenido dañino generado por inteligencia artificial (IA) en línea ha provocado un llamado urgente desde todo el sistema de las Naciones Unidas para adoptar una serie de medidas destinadas a proteger a los niños del abuso, la explotación y el trauma mental.
El director de la Oficina de Desarrollo de las Telecomunicaciones de la Unión Internacional de Telecomunicaciones (UIT), Cosmas Zavazava, enumera una vertiginosa variedad de formas en que los niños son atacados en una declaración, la cual incluye directrices y recomendaciones.
Esto abarca desde el acoso sexual hasta los deepfakes, la incorporación de funciones perjudiciales, el ciberacoso y el contenido inapropiado: “Vimos que, durante la pandemia de la COVID-19, muchos niños, en particular niñas y mujeres jóvenes, fueron abusados en línea y, en muchos casos, eso se tradujo en daño físico”, afirma.
Las organizaciones que defienden los derechos de los niños informan que los depredadores pueden utilizar la IA para analizar el comportamiento en línea de un niño, su estado emocional y sus intereses, con el fin de adaptar su estrategia de acoso.
La IA también está permitiendo a los delincuentes generar imágenes falsas explícitas de niños reales, impulsando una nueva forma de extorsión sexual.
El Instituto Global de Seguridad Infantil Childlight, un organismo internacional independiente creado para recopilar los datos más fiables disponibles sobre la explotación y el abuso sexual infantil, descubrió en un informe de 2025 que los casos de abuso infantil facilitado por la tecnología en Estados Unidos aumentaron de 4700 en 2023 a más de 67.000 en 2024.
El director general de la UIT, Cosmas Zavazava, hablando en la Conferencia Mundial de Desarrollo de las Telecomunicaciones 2025 en Bakú, Azerbaiyán.
Australia lidera el camino
Los Estados Miembros de la ONU están adoptando medidas más firmes a medida que conocen la magnitud y la gravedad del problema.
A finales de 2025, Australia se convirtió en el primer país del mundo en prohibir las cuentas de redes sociales para niños menores de 16 años, basándose en que los riesgos derivados del contenido que comparten superan con creces los posibles beneficios.
El Gobierno citó un informe que había encargado, el cual mostró que casi dos tercios de los niños de entre 10 y 15 años habían visto contenido de odio, violento o perturbador, y que más de la mitad habían sido víctimas de ciberacoso. La mayor parte de este contenido se vio en plataformas de redes sociales.
Varios otros países, entre ellos Malasia, el Reino Unido, Francia y Canadá, parecen dispuestos a seguir el ejemplo de Australia, preparando regulaciones y leyes para prohibiciones o restricciones similares.
Analfabetismo en IA
Y, a comienzos de 2026, una amplia variedad de organismos de la ONU con intereses en la seguridad infantil suscribieron una Declaración Conjunta sobre la Inteligencia Artificial y los Derechos del Niño, publicada el 19 de enero, que no se anda con rodeos al describir los riesgos y la incapacidad colectiva de la sociedad para afrontarlos.
La declaración identifica una falta de alfabetización en IA entre niños, docentes, padres y cuidadores, así como una escasez de formación técnica para responsables políticos y gobiernos sobre marcos de IA, métodos de protección de datos y evaluaciones de impacto en los derechos del niño.
Responsabilidad de los gigantes tecnológicos
Las empresas tecnológicas también están en el punto de mira: la declaración afirma que la mayoría de las herramientas compatibles con IA que desarrollan, junto con sus modelos, técnicas y sistemas subyacentes, no están diseñadas actualmente teniendo en cuenta a los niños y su bienestar.
“Estamos realmente preocupados y nos gustaría que el sector privado se involucrara, participara y formara parte de la historia que estamos escribiendo junto con otras agencias de la ONU y otros actores que creen que la tecnología puede ser un facilitador, pero que también puede destruir”, afirma Zavazava.
No obstante, el alto funcionario de la ONU confía en que estas empresas estén comprometidas con hacer que sus herramientas sean más seguras.
“Al principio, tuvimos la sensación de que estaban preocupadas por frenar la innovación, pero nuestro mensaje es muy claro: con un despliegue responsable de la IA, se puede seguir obteniendo beneficios, se puede seguir haciendo negocios y se puede seguir ganando cuota de mercado.
“El sector privado es un socio, pero tenemos que levantar una bandera roja cuando vemos algo que va a conducir a resultados no deseados.
“Mantenemos reuniones periódicas en las que hablamos de sus responsabilidades, y algunas de ellas ya cuentan con declaraciones sobre cómo deben proteger a las poblaciones y a los niños. Es nuestro deber conjunto combatir los males que acompañan a la tecnología”.
Una cuestión de derechos de la infancia
Si bien los organismos de la ONU mencionados en el documento (lista completa a continuación) subrayan la necesidad de que estas empresas garanticen que sus productos estén diseñados para respetar los derechos del niño, también están instando a todos los sectores de la sociedad a asumir la responsabilidad por la forma en que se utilizan.
Esta no es la primera vez que se plantean preocupaciones desde una perspectiva de derechos: en 2021 se incorporó nuevo lenguaje a la Convención sobre los Derechos del Niño, una piedra angular del derecho internacional de los derechos del niño y el tratado de derechos humanos más ratificado de la historia, para reflejar los peligros de la era digital.
Sin embargo, los organismos de la ONU consideran que se necesita más orientación para ayudar a los países a regular de manera más eficaz y han elaborado una lista exhaustiva de recomendaciones.
“Los niños se conectan a Internet a una edad cada vez más temprana y deben estar protegidos”, afirma Zavazava. “Por eso elaboramos estas directrices para la protección de los niños en línea. La primera parte de las directrices se dirige a los padres, la segunda a los docentes, la tercera a los reguladores y la cuarta es pertinente para la industria y el sector privado”.
Recomendaciones
- Los Estados deben reforzar los marcos de gobernanza de la IA para defender y proteger los derechos del niño
- Se insta a las organizaciones globales a integrar los derechos del niño en todas las políticas y estrategias relacionadas con la IA
- Los gobiernos y las empresas deben garantizar que los sistemas de IA sean transparentes, responsables y estén diseñados para proteger a los niños
- Se exhorta a los Estados a prevenir y abordar la violencia y la explotación de niños habilitadas o amplificadas por la IA
- Se necesitan medidas de protección de datos más sólidas y centradas en los niños para salvaguardar la privacidad dentro de los sistemas de IA
- Las decisiones impulsadas por IA deben priorizar el interés superior y el desarrollo integral de cada niño
- Una IA inclusiva y libre de sesgos es esencial para garantizar que todos los niños se beneficien por igual de las nuevas tecnologías
- Las opiniones y experiencias de los niños deben informar de manera significativa la formulación de políticas de IA y el diseño de sistemas
- El desarrollo de la IA debe apoyar la sostenibilidad ambiental y minimizar el daño ecológico a largo plazo para las generaciones futuras