Unesco se pronunció sobre el uso ético de la IA en las escuelas

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) divulgó orientaciones mundiales sobre el uso ético de la inteligencia artificial (IA) generativa en la educación y la investigación.

La IA generativa puede producir texto, imágenes, vídeos, música y código de software de forma automática. Estas herramientas son utilizadas por cientos de millones de personas en todo el mundo, incluyendo muchos estudiantes.

Sin embargo, el organismo advirtió que las autoridades públicas no están preparadas para abordar los problemas éticos relacionados con la introducción de programas de IA en las aulas.

Asimismo, señaló que confiar en estos programas en lugar de en los profesores humanos podría «afectar al bienestar emocional de los niños y dejarlos vulnerables a la manipulación.»

Además, alertó sobre los riesgos de violación de la privacidad y la protección de los datos personales de los usuarios.

«La IA Generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios (…) Esta herramienta no puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos», indicó.

De este modo, exhortó a los gobiernos a regular el uso de la IA generativa en el ámbito educativo, estableciendo límites de edad para su uso, garantizando la supervisión humana de los sistemas de IA y validando su calidad y eficacia.