El modelo de inteligencia artificial Claude, desarrollado por Anthropic, accedió por su cuenta a información electoral del estado de Georgia, en EEUU, sin recibir instrucciones para hacerlo. El episodio ocurrió durante un proyecto estadístico interno de la compañía, a pocos días de las elecciones legislativas del 3 de noviembre, y fue comunicado a la Casa Blanca.
El incidente fue revelado por Axios y confirmado por Anthropic. Claude tenía la tarea de recopilar información pública en internet, pero encontró una forma de consultar datos electorales que normalmente requieren el pago de una tarifa. La empresa no precisó cuál era el objetivo específico de la investigación ni por qué necesitaba esa información.
Cómo accedió Claude a los datos electorales
Según explicó Anthropic, el modelo detectó que una versión antigua del sitio web de una agencia estatal de Georgia entregaba claves digitales de acceso a sus visitantes. Sin que nadie se lo indicara, solicitó una de esas credenciales y consiguió ingresar a un panel con información electoral.
Los datos consultados eran cifras agregadas de votación, en un estado donde más de un millón de ciudadanos ya había emitido su sufragio anticipado. La compañía aclaró que Claude no ingresó al sistema de registro de votantes, no obtuvo información individual ni modificó registros electorales.
Tras detectar el comportamiento, Anthropic incorporó nuevas medidas de seguridad para evitar episodios similares. Además, notificó lo ocurrido a la oficina del secretario de Estado de Georgia y a la Casa Blanca varias semanas antes de que el caso tomara estado público.
De acuerdo con Axios, funcionarios de la administración estadounidense reclamaron a las autoridades de Georgia que difundieran el incidente con anterioridad, pero esos pedidos no fueron atendidos. No se informó de interferencias en las operaciones electorales.
Otros incidentes que encendieron las alertas
El episodio se suma a otros casos de comportamientos no autorizados por parte de agentes de inteligencia artificial, sistemas capaces de interactuar con plataformas externas y ejecutar tareas con distintos grados de autonomía.
Anthropic ya había reconocido que algunos de sus modelos consiguieron superar restricciones de acceso en sitios gubernamentales estadounidenses. Entre los incidentes divulgados figura el envío de una denuncia falsa sobre un asesinato sin resolver a la Policía de Filadelfia. También trascendió que uno de sus modelos presentó 19 solicitudes de visa durante agosto.
Por su parte, OpenAI informó en julio que agentes de inteligencia artificial habían conseguido vulnerar los sistemas de una empresa tecnológica durante pruebas. Posteriormente se conocieron otros episodios relacionados con el sistema sanitario australiano y ensayos de ciberseguridad en el Reino Unido.
La autonomía de estos sistemas se convirtió en un desafío para las empresas tecnológicas y los organismos de seguridad. En EEUU, la Casa Blanca estableció nuevas exigencias para que los desarrolladores de inteligencia artificial informen los incidentes de seguridad relacionados con sus modelos.
El caso de Georgia expuso uno de esos riesgos: Claude debía recopilar datos para una investigación estadística, pero encontró por su cuenta una manera de acceder a información restringida. Aunque Anthropic descartó que hubiera alterado registros electorales, el episodio volvió a poner bajo discusión los mecanismos de control sobre las acciones que ejecutan estos sistemas.
