El Panel Científico Independiente sobre Inteligencia Artificial publicó su primera evaluación sobre los riesgos y oportunidades de esta tecnología. Su advertencia es clara: la IA avanza más rápido que su regulación.
Rafel Burgos
El Informe Preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial es la primera evaluación científica independiente de este tipo sobre las capacidades, las oportunidades y los riesgos de la IA. Lo integran científicas, científicos y personas expertas independientes de las cinco regiones de la ONU.
Su principal advertencia es contundente: el marco de seguridad vigente resulta insuficiente para contener el acelerado desarrollo y la evolución técnica de la inteligencia artificial.
El Panel enfrenta lo que denomina un «dilema empírico»: quienes toman decisiones necesitan evidencia científica sólida para regular la IA, pero cuando esa evidencia está disponible, puede ser demasiado tarde para actuar. El informe organiza sus hallazgos en siete áreas: ciencia y trayectorias de la IA, aplicaciones sociales, economía, seguridad, derechos humanos, infancia, cultura, y gobernanza.
Principales hallazgos del informe
Los avances han sido más rápidos de lo esperado. Sistemas como AlphaFold ya han predicho la estructura de más de doscientos millones de proteínas, lo que ha acelerado el desarrollo de fármacos y vacunas. Además, más de mil millones de personas utilizan IA conversacional cada semana en el mundo.
La adopción es desigual. Estados Unidos concentra el setenta y cinco por ciento de la potencia de cómputo de las supercomputadoras de IA más potentes del planeta, mientras que China reúne el quince por ciento. Casi todos los modelos más avanzados se desarrollan únicamente en esos dos países, lo que profundiza las brechas globales.
Los agentes de IA, sistemas capaces de planificar y actuar de forma autónoma, han duplicado su capacidad cada cuatro a siete meses. Ya se han documentado en laboratorio casos de sistemas que incumplen instrucciones de seguridad para evitar ser apagados. Los científicos son claros: no existen métodos confiables para mantener el control sobre sistemas de IA altamente autónomos.
En materia de riesgos sociales, el informe advierte sobre la proliferación de material de abuso infantil generado por IA y el comportamiento «adulador» de los chatbots, que refuerzan creencias sin importar si son ciertas, un fenómeno vinculado a graves crisis de salud mental, incluidas muertes documentadas. También alerta sobre el uso de la IA para ciberataques, fraude y desinformación.
El Panel llama a fortalecer la gobernanza global
Frente a este panorama, el Panel llama a fortalecer la gobernanza global. La mayoría de los países, incluidas muchas economías avanzadas, no cuentan con capacidad técnica para evaluar o supervisar los modelos más potentes, lo que los deja dependientes de tecnología que no pueden inspeccionar ni adaptar a su contexto.
El informe preliminar marca apenas el inicio del trabajo del Panel, que seguirá ampliando su base de evidencia mediante nuevas consultas y reportes temáticos. Su próximo informe anual será la base del segundo Diálogo Mundial, previsto para mayo de dos mil veintisiete en Nueva York.
Por ahora, este documento servirá como punto de partida científico común para el Diálogo Global inaugural sobre Gobernanza de la IA, que se realizará los días seis y siete de julio de este año en Ginebra.
Se acaba el tiempo para regular la IA, advierten expertos de la ONU. Un informe advierte que mientras la tecnología se acelera, las normas destinadas a garantizar su uso seguro tienen dificultades para mantenerse al día. @NoticiasONU https://t.co/34VkY0Rg8h
— ONU Colombia 🇺🇳 (@onucolombia) July 1, 2026
El Panel llama a fortalecer la gobernanza global
Frente a este panorama, el Panel llama a fortalecer la gobernanza global. La mayoría de los países, incluidas muchas economías avanzadas, no cuentan con capacidad técnica para evaluar o supervisar los modelos más potentes, lo que los deja dependientes de tecnología que no pueden inspeccionar ni adaptar a su contexto.
El informe preliminar marca apenas el inicio del trabajo del Panel, que seguirá ampliando su base de evidencia mediante nuevas consultas y reportes temáticos. Su próximo informe anual será la base del segundo Diálogo Mundial, previsto para mayo de dos mil veintisiete en Nueva York.
Por ahora, este documento servirá como punto de partida científico común para el Diálogo Global inaugural sobre Gobernanza de la IA, que se realizará los días seis y siete de julio de este año en Ginebra.
Te recomendamos:
