Incidente de OpenAI «no fue una rebelión de las máquinas»: experto

Pablo Pruneda Gross, especialista en inteligencia artificial de la UNAM, analiza el caso OpenAI y advierte sobre los retos de seguridad, regulación y autonomía de los nuevos modelos de IA.

Escucha nuestra conversación con Pablo Pruneda Gross, coordinador del Consejo Coordinador de Inteligencia Artificial de la UNAM.

Laura Velarde

El reciente incidente relacionado con un modelo en desarrollo de OpenAI generó cuestionamientos sobre la seguridad de la inteligencia artificial. Sin embargo, para Pablo Pruneda Gross, coordinador del Consejo Coordinador de Inteligencia Artificial de la UNAM, el hecho no representa una “rebelión de las máquinas”, sino una muestra de los nuevos retos que implica el desarrollo de sistemas con mayores capacidades de autonomía.

 

Durante conversatorio con Alberto Nájar para IMER Noticias, Pruneda explicó que el modelo actuó dentro de las instrucciones establecidas por sus creadores. Aunque logró superar las barreras de seguridad diseñadas para contenerlo.

 

«Es muy importante ubicar a nuestra audiencia en lo que pasó porque es suficientemente importante como para darle connotaciones que no tiene. La máquina no hizo nada que no se le instruyera. Lo relevante es que se le instruyó en un periodo de prueba, en un mecanismo previo a la salida, donde están evaluando las capacidades de su modelo».

 

 

El especialista detalló que el sistema, diseñado para cumplir objetivos específicos, logró encontrar una vía de interacción con una computadora dentro de un entorno aislado, desde donde pudo acceder a internet y vulnerar una plataforma externa.

 

«Los expertos de OpenAI hicieron un entorno que pensaron que era altamente controlado y, sin embargo, pues se les escapó el tigre, pero un tigre al que programaron para que tratara de cumplir con un objetivo».

 

Pruneda Gross explicó que uno de los principales aprendizajes del incidente es que los sistemas de contención diseñados para la inteligencia artificial deben evolucionar al mismo ritmo que las capacidades de los modelos. Pues las herramientas actuales comienzan a desafiar los límites previstos por sus propios desarrolladores.

 

«Lo que estamos viendo es la jaula, llamémoslo así, que construyó OpenAI, que pensó que era impenetrable y dentro de la cual puso a su modelo a cumplir ciertos objetivos, pues resultó que no fue bien diseñada, resultó que no era suficientemente segura frente a un modelo que ya tiene capacidades que empiezan a retar a los propios creadores de los modelos».

 

OpenAI: Pablo Pruneda

 

El especialista también señaló que este tipo de episodios muestran cómo escenarios que antes pertenecían a la ciencia ficción comienzan a tener manifestaciones concretas en el desarrollo tecnológico actual.

 

«Estamos viendo mecanismos artificiales que empiezan a desarrollar capacidades superiores a las humanas y entonces los seres humanos que los están generando y desarrollando se ven ante la conflictiva de que el modelo que desarrollan y las nuevas versiones, de pronto empiezan a ser más capaces que ellos mismos».

 

 

Además, Pruneda señaló que este episodio evidencia la necesidad de fortalecer los mecanismos de seguridad y regulación frente a modelos de inteligencia artificial cada vez más sofisticados.

 

«Estamos frente a un fenómeno al que nunca nos habíamos enfrentado. Esta tecnología le permite tomar decisiones y resolver problemas con inteligencia propia. Eso nos quita el monopolio de la inteligencia sofisticada que tendremos que ir compartiendo con estos modelos».

 

Finalmente, advirtió que la inteligencia artificial representa una oportunidad para ampliar las capacidades humanas. Pero también plantea riesgos que requieren una discusión global sobre regulación y uso responsable.

Te recomendamos:

 

Crianza digital: especialistas explican cómo acompañar el uso de pantallas