Este miércoles se realizó el primer acuerdo en el mundo sobre la seguridad y regulación de la Inteligencia Artificial (IA), en una cumbre internacional celebrada en Reino Unido. Entre los participantes, estuvo presente el magnate Elon Musk, quien reconoció la importancia de un “árbitro” que regule la herramienta en las empresas de tecnología, pero propuso que sea independiente.
"Creo que hay mucha preocupación entre la gente del campo de la IA por la posibilidad de que el gobierno se precipite con las normas antes de saber qué hacer", expresó.
El acuerdo se efectuó luego de que el presidente de Estados Unidos, Joe Biden, emitiera una orden ejecutiva destinada a establecer estándares de seguridad para el desarrollo de IA. Pero mientras la Casa Blanca presiona para que Estados Unidos lidere el mundo no solo en el desarrollo de la IA sino también en su regulación, los formuladores de políticas internacionales (especialmente en la Unión Europea) se apresuran a desarrollar nueva legislación sobre IA,
En ese marco, representantes y empresas de 28 países decidieron firmar un pacto en conjunto, pretendiendo abordar los posibles riesgos que conlleva y que trascienden las fronteras.
Acordaron apoyar la investigación "internacionalmente inclusiva" sobre los modelos futuros de IA más avanzados, y trabajar para lograr la seguridad a través de las organizaciones internacionales existentes. Sin embargo, el comunicado fue más una declaración de misión y propósito, y no contuvo detalles sobre cómo podría tomar forma una cooperación global.
Musk hablará con el primer ministro británico, Rishi Sunak, el jueves
Cómo quiere regular la IA Elon Musk
El director ejecutivo de Tesla y propietario de X, Elon Musk, llegó a la cumbre y guardó silencio durante las conversaciones, según Euronews, pero dijo que la reunión busca establecer un “árbitro” para las empresas de tecnología.
"Creo que lo que realmente pretendemos aquí es establecer un marco de conocimiento para que haya al menos un árbitro externo, un árbitro independiente, que pueda observar lo que están haciendo las principales empresas de IA y al menos hacer sonar la alarma si lo hacen. Tengo preocupaciones”, le dijo el empresario multimillonario a la agencia de noticias PA.
“Creo que lo que pretendemos aquí es... primero, establecer que debería haber una función de árbitro, creo que debería haberla. Y luego, hay que tener cuidado con la forma en que se aplican las regulaciones, para no cargar con regulaciones que inhiban el lado positivo de la IA”, advirtió.
El acuerdo sobre IA en Bletchley: posibles riesgos de la IA
La llamada "Declaración de Betchley" sobre la seguridad de la IA la firmaron los expertos, las compañías y los representantes de los países que asistieron al encuentro, que continuará hasta el jueves. El objetivo identificar "los riesgos de seguridad de la IA, de preocupación compartida" y construir "políticas respectivas basadas en riesgos en todos los países".
Dentro de los países que formaron parte del acuerdo estuvieron Estados Unidos, China, Corea del Sur y Reino Unido, con la presencia virtual del Rey Carlos III, quien envió un video en el que comparó el desarrollo de la IA con la importancia de dividir el átomo y controlar el fuego. Si bien el rey reconoció que la IA es "uno de los mayores avances tecnológicos en la historia", advirtió que "debemos trabajar juntos para combatir sus importantes riesgos".
Además, también asistió la vicepresidenta de EE.UU, Kamala Harris, quien insistió sobre la urgencia de abordar "todo el espectro" de los riesgos de la IA. Según The Washigton Post, ella enumeró las formas en que la IA ya está cambiando la vida de las personas y expresó su preocupación sobre cómo el reconocimiento facial conduce a arrestos injustos o cómo se pueden utilizar fotografías explícitas inventadas para abusar de las mujeres.
Se espera que la Unión Europea llegue a un acuerdo a finales de año sobre la legislación conocida como Ley de IA de la UE
De esta manera, Harris fue en línea con el discurso del comunicado de Biden, quien se enfocó en los riesgos de la desinformación, la discriminación e infringir la privacidad.
En tanto, el Primer Ministro Rishi Sunak se centró en los usos más riesgosos de la IA, con especial énfasis en escenarios apocalípticos, como las maneras en las que se podría abusar de la tecnología para desplegar armas nucleares o crear agentes biológicos. En el evento, los líderes mundiales enfatizaron el inmenso poder de la tecnología.
Por último, sobre la presencia de China, no todos los delegados estuvieron contentos de que fuera incluida en la cumbre. Michael Kratsios, director general de Scale AI y director de tecnología de Estados Unidos designado por el presidente Donald Trump, dijo que estaba “extremadamente decepcionado” de que se incluyera al gobierno chino.
