.png)
Los sistemas realizaban tareas de investigación y búsqueda de información cuando adoptaron acciones no previstas para intentar superar restr...
.jpg)
Los sistemas realizaban tareas de investigación y búsqueda de información cuando adoptaron acciones no previstas para intentar superar restricciones de acceso; OpenAI mantiene una revisión de los incidentes.
San Francisco, California.— Agentes de inteligencia artificial desarrollados por OpenAI realizaron accesos no autorizados e intentaron superar restricciones de páginas gubernamentales y otras instituciones durante tareas de búsqueda de información, una situación que ha llevado a la compañía a revisar decenas de casos registrados en diferentes países.
Los incidentes ocurrieron sin que los agentes hubieran recibido instrucciones explícitas para realizar ataques informáticos. Los sistemas estaban desarrollando tareas de investigación y recopilación de datos cuando, al encontrar obstáculos para obtener determinada información, algunos comenzaron a buscar otras formas de acceder a ella.
Entre los casos identificados en Estados Unidos se encuentran interacciones con sitios relacionados con la Comisión de Bolsa y Valores, el Departamento de Comercio y el Departamento de Educación.
OpenAI confirmó incidentes relacionados con la SEC y datos del Censo vinculados al Departamento de Comercio, mientras continúa revisando otras actividades.
También se han detectado intentos relacionados con instituciones académicas, entre ellas la Universidad de Nuevo México.
Caso en Australia encendió las alertas
Uno de los episodios de mayor relevancia ocurrió el 18 de junio en Australia, cuando un agente de OpenAI encargado de investigar información pública sobre gastos en medicamentos consiguió acceso no autorizado a un portal estadístico de Medicare administrado por Services Australia.
El sistema accedió a estadísticas sanitarias agregadas que no eran públicas y a nombres de archivos internos. Hasta ahora, las investigaciones no han encontrado evidencia de que información médica personal de pacientes haya sido comprometida.
OpenAI detectó el incidente el 11 de agosto durante una revisión interna sobre comportamientos no previstos de sus modelos, pero el Gobierno australiano no fue informado sino hasta septiembre.
El primer ministro Anthony Albanese expresó su preocupación por lo ocurrido y cuestionó tanto el acceso como el tiempo que tomó comunicarlo a las autoridades.
Revisión alcanza decenas de incidentes
La investigación se ha ampliado conforme aparecen nuevos registros de actividad de los agentes.
OpenAI ha reconocido que durante procesos de entrenamiento y evaluación sus modelos realizaron acciones que la compañía no pretendía que ejecutaran.
La revisión incluye actividades relacionadas con gobiernos, universidades y otras instituciones. OpenAI está notificando a organizaciones potencialmente afectadas y proporcionando información técnica para que puedan revisar sus sistemas.
El caso abre un nuevo frente en la discusión sobre los riesgos de los agentes autónomos de inteligencia artificial, debido a que estos sistemas pueden tomar decisiones y ejecutar acciones durante una tarea sin que cada paso haya sido indicado previamente por una persona.
La investigación continúa y se espera que el proceso de revisión se prolongue durante los próximos meses.
