Un nuevo informe de un grupo de expertos de la ONU afirma este jueves que es necesario regular a escala mundial el floreciente campo de la inteligencia artificial (IA), y añade que el desarrollo y uso de esta tecnología “no puede dejarse únicamente al capricho de los mercados”.
“La propia naturaleza de la tecnología, transfronteriza en su estructura y aplicación, hace necesario un enfoque global”, concluye el informe final del grupo nombrado por el Secretario General de la ONU.
La inteligencia artificial está transformando nuestro mundo, desde la apertura de nuevas áreas de investigación científica y la optimización de las redes de energía, hasta la mejora de la salud pública y la agricultura y la promoción del progreso en los 17 Objetivos de Desarrollo Sostenible (ODS).
Sin embargo, aunque existe un enorme potencial para el bien, si no se gobierna, los beneficios de la IA podrían limitarse a solo un puñado de Estados, empresas y particulares pioneros; y en un esfuerzo por mitigar estos riesgos, el informe propone varias recomendaciones para establecer un marco de gobernanza mundial de la IA.
Preocupación por los derechos humanos
En el informe también se expresa la máxima preocupación por las formas en que la IA puede utilizarse para trasgredir los derechos humanos.
Las propias materias primas necesarias para las tecnologías de IA, incluidos los minerales críticos, se obtienen a nivel mundial, lo que conduce a una batalla por el poder y la riqueza sobre estos productos escasos a escala global.
Además, los sistemas de armas autónomas podrían tomar decisiones sin intervención humana, lo que plantearía cuestiones éticas y jurídicas sobre la rendición de cuentas y la protección de los civiles durante los conflictos. El creciente potencial de una carrera armamentística impulsada por los avances de esta tecnología también podría poner en peligro la seguridad humana.
El sesgo y la vigilancia de la IA es otro motivo de preocupación, ya que la creación y difusión de desinformación podría perjudicar a la población civil.
Surgen las brechas
Ya empiezan a aparecer disparidades. En términos de representación, partes enteras del mundo han quedado fuera de las conversaciones internacionales sobre gobernanza de la IA.
Por ejemplo, sólo siete países (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y EE.UU.) participan en siete iniciativas destacadas de IA ajenas a la ONU, mientras que 118 países, principalmente del Sur Global, no participan en ninguna.
“La equidad exige que más voces desempeñen papeles significativos en las decisiones sobre cómo gobernar la tecnología que nos afecta”, afirma el informe.
“La concentración de la toma de decisiones en el sector tecnológico de la inteligencia artificial no puede justificarse; también debemos reconocer que históricamente muchas comunidades han sido totalmente excluidas de las conversaciones sobre la gobernanza de la IA que les afectan”, añade.
Arquitectura globalmente inclusiva
Para abordar estas preocupaciones, el grupo de expertos de la ONU propone varias recomendaciones para regular el uso de la IA.
Las recomendaciones del informe incluyen un panel científico internacional independiente sobre IA, un diálogo político intergubernamental y con múltiples partes interesadas sobre su gobernanza, que se celebre dos veces al año para compartir las mejores prácticas y un fondo mundial para la IA con el fin de reducir la brecha digital.
El grupo también subrayó que cualquier despliegue de IA en entornos militares debe cumplir el derecho internacional humanitario y las normas de derechos humanos, y recomendó que los Estados establezcan marcos jurídicos y mecanismos de supervisión sólidos.
En conjunto, estas recomendaciones instan a los Estados miembros de la ONU a sentar las bases de la primera arquitectura global inclusiva para la gobernanza de la IA basada en la cooperación internacional y la transparencia.
