La inteligencia artificial volvió a ocupar un lugar central en el debate internacional, esta vez con una advertencia formulada ante el Consejo de Seguridad de las Naciones Unidas. Sam Altman, CEO de OpenAI, sostuvo que el desarrollo acelerado de los modelos más avanzados podría generar riesgos difíciles de controlar si las capacidades de estos sistemas crecen más rápido que los mecanismos destinados a supervisarlos.
Durante su intervención ante representantes de los 15 países que integran el organismo, Altman planteó la necesidad de avanzar con extrema cautela frente a una tecnología que, según explicó, puede alcanzar capacidades cada vez mayores y tener efectos a escala global.
El empresario advirtió sobre la posibilidad de que los seres humanos lleguen a perder el control sobre sistemas de inteligencia artificial altamente avanzados y dejen de comprender completamente cómo funcionan determinados procesos internos.
Su planteo estuvo acompañado por un pedido de mayor cooperación entre gobiernos, empresas tecnológicas y organismos internacionales, con el objetivo de establecer mecanismos de seguridad capaces de acompañar el desarrollo de los nuevos modelos.
Altman no propuso detener la investigación en inteligencia artificial. Por el contrario, destacó las posibilidades que ofrece esta tecnología para acelerar descubrimientos científicos, ampliar las capacidades humanas y generar nuevas oportunidades de crecimiento económico.
Sin embargo, sostuvo que esos beneficios deben ir acompañados de controles adecuados para evitar que el avance tecnológico genere riesgos que todavía no puedan ser evaluados correctamente.
La discusión sobre la seguridad de la IA adquirió en los últimos años una dimensión internacional debido al rápido crecimiento de los modelos capaces de procesar información, generar textos e imágenes, desarrollar código y realizar tareas cada vez más complejas.
En ese escenario, uno de los principales interrogantes es cómo garantizar que los sistemas más avanzados permanezcan bajo supervisión humana a medida que aumentan sus capacidades.
Altman planteó que los desarrolladores deben poder conocer las capacidades y limitaciones de los modelos antes de desplegarlos a mayor escala. También consideró necesario comprobar que los mecanismos de seguridad funcionen de manera efectiva antes de avanzar hacia sistemas todavía más potentes
