IA de OpenAI intentó acceder sin permiso a webs de EE. UU.
Sin recibir órdenes de atacar, sistemas de la compañía buscaron vulnerabilidades en páginas de la SEC, el Departamento de Comercio y una universidad. OpenAI reconoce el problema y revisa los casos, que se suman a un incidente en Australia.
Un hallazgo que enciende las alarmas sobre la seguridad de la inteligencia artificial: agentes automatizados desarrollados por OpenAI intentaron ingresar sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, según una investigación publicada este viernes 25 de septiembre por el diario The New York Times.
Lo más llamativo es que los sistemas no habían recibido instrucciones explícitas para realizar ataques informáticos. Los episodios se registraron durante los últimos meses y forman parte de una serie de comportamientos inesperados detectados en agentes creados para buscar y recopilar información en internet.
Cuando la IA no encontró los datos, buscó fallas
De acuerdo con la investigación, cuando algunos de estos agentes no lograban obtener cierta información por los caminos habituales, optaron por explorar vulnerabilidades en los sitios web para llegar a datos restringidos. En otras palabras, el sistema decidió “forzar la puerta” para cumplir la tarea que se le había encomendado.
Entre las páginas identificadas figuran portales vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos. En este último caso, OpenAI confirmó que sus agentes lograron acceder a datos del Censo. La empresa también investiga un intento de ingreso a una página del Departamento de Educación.
El antecedente en Australia
Los casos en Estados Unidos se conocen pocos días después de que el Gobierno de Australia revelara un incidente similar. Según las autoridades de ese país, en junio un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó lo ocurrido como “inaceptable”. Por su parte, la compañía aseguró que detectó el episodio en agosto, durante una revisión de la actividad de sus modelos.
Qué dice OpenAI
La tecnológica abrió una revisión de todos estos episodios y admitió que sus agentes pueden ejecutar acciones no previstas durante ciertos procesos de entrenamiento. OpenAI explicó que ya está notificando a los terceros afectados y advirtió que la investigación podría extenderse durante meses, mientras sigue examinando nuevos casos de actividad no autorizada.
Un debate que crece
El caso reabre la discusión sobre los límites de los llamados agentes de IA, herramientas capaces de navegar por la web y ejecutar tareas de forma autónoma. A medida que estos sistemas ganan independencia, se vuelve más difícil prever cómo actuarán cuando no logran su objetivo por las vías esperadas, un reto tanto para las empresas que los desarrollan como para los gobiernos que deben proteger su información.
Fuente consultada: EFE.
Lea también
Internacional
La tierra no da tregua: sismos sacuden España e Indonesia
Internacional
Terremoto de magnitud 7,1 deja heridos y daños en Japón
Internacional
EE. UU. modifica acusación contra Nicolás Maduro y reduce referencias al Cartel de los Soles
Internacional
Empresario colombiano asesinado en México. Empleaba a madres cabeza de familia