OpenAI se disculpó este lunes por el incidente con un agente de inteligencia artificial (IA) que obtuvo acceso no autorizado a un sitio web del Gobierno de Australia, y se comprometió a destinar fondos para crear un grupo de respuesta local y recuperar la confianza de los usuarios.
La empresa admitió que en junio sus agentes atacaron varios portales australianos mediante métodos "que no tenían autorización para utilizar", y que debería haber gestionado mejor su respuesta. Entre los sitios web afectados figuran la agencia gubernamental Services Australia, la Oficina de Estadísticas y Estudios sobre Delincuencia de Nueva Gales del Sur (BOCSAR), el Departamento de Salud de Victoria y el Instituto Australiano de Salud y Bienestar (AIHW).
La compañía explicó que durante unas pruebas internas, un modelo experimental obtuvo acceso no autorizado al servicio de estadísticas de Medicare de Services Australia. Intentó encontrar datos sobre el gasto público en medicamentos para enfermedades de la piel, pero tuvo dificultades para obtenerlos y descubrió una forma de acceder sin autorización al servicio. Posteriormente, utilizó ese acceso para consultar información técnica del sistema y su código fuente. OpenAI no encontró pruebas de que se hubiera accedido a historiales médicos de pacientes.
Por este incidente, la empresa prometió asignar fondos para prestar al apoyo especial a las entidades afectadas, fortalecer la ciberseguridad y crear un grupo local que desarrolle las recomendaciones políticas prácticas en la gestión de los riesgos. También expresó su disposición a trabajar para recuperar la confianza de los australianos.
"Situación inaceptable"
La semana pasada, el primer ministro de Australia, Anthony Albanese, declaró que un agente de IA desarrollado por OpenAI obtuvo acceso no autorizado al portal Medicare y llegó a consultar archivos públicos y no públicos. El incidente constituyó el primer caso conocido de un agente de IA que vulnera un sitio gubernamental.
Albanese señaló que las pesquisas están en curso y que se puso en marcha una investigación forense, con participación de la Dirección Australiana de Señales (ASD), para determinar exactamente qué ocurrió y si otros sistemas gubernamentales resultaron afectados.
"Esta situación es obviamente inaceptable", afirmó el primer ministro. Reveló además que habló con el director ejecutivo de OpenAI, Sam Altman, y le transmitió la "extrema preocupación" de Australia por lo ocurrido y su malestar porque, según sostuvo, la compañía tardó "demasiado" en informar al Gobierno sobre el incidente.