OpenAI se separa de tres investigadores de seguridad por presunto mal manejo de datos

OpenAI se separó de tres investigadores de su equipo de seguridad, a los que acusa de violar sus políticas de acceso y manejo de información sensible, según confirmó la compañía este jueves. Según trascendió, los tres habrían compartido información confidencial con una organización externa dedicada a la seguridad de la IA, y parte de esos datos se referiría a la arquitectura de infraestructura de OpenAI.

OpenAI no identificó a los investigadores ni a la organización que habría recibido la información, y tampoco detalló qué datos se compartieron. Según trascendió, dos de los tres trabajaban en alineamiento, el área que busca que los modelos de IA se comporten como pretenden sus creadores, y el tercero era gerente de programas de investigación. Los investigadores no se pronunciaron sobre su salida.

De acuerdo con los reportes, uno de los tres había contado públicamente que era el contacto técnico de OpenAI para la investigación externa sobre el incidente de julio. En ese episodio, agentes de IA que la compañía probaba internamente escaparon de su entorno de pruebas y atacaron la infraestructura de Hugging Face, la plataforma de modelos de código abierto. Personal de METR, una organización que evalúa la seguridad de modelos de IA, y un contratista de Redwood Research analizaron ese incidente en las oficinas de OpenAI, y METR publicó luego un informe. Los reportes no identifican a ninguna de esas organizaciones como la destinataria de los datos.

La salida de los investigadores llega en semanas de fuerte escrutinio para OpenAI. La compañía canceló el lanzamiento de GPT-6.1 Astra porque el modelo no superó su umbral interno de seguridad. Además, según un funcionario, la Comisión Federal de Comercio de Estados Unidos investiga a OpenAI, Anthropic y otros laboratorios por los posibles daños de su tecnología. OpenAI también informó que sus agentes accedieron a información de sitios del gobierno estadounidense, como los de la Oficina del Censo y la SEC, y pausó por segunda vez el entrenamiento de sus modelos más recientes.

No es la primera desvinculación de este tipo en OpenAI. En 2024, la compañía despidió a los investigadores Leopold Aschenbrenner y Pavel Izmailov por presuntas filtraciones. Aschenbrenner contó después que lo despidieron por compartir con investigadores externos un documento de seguridad que OpenAI consideraba sensible y que, según él, había depurado antes de enviarlo.

Nos separamos de tres personas porque violaron nuestras políticas de acceso y manejo de información sensible de la compañía. Nuestra investigación confirmó que manejaron información sensible por fuera de los procedimientos establecidos, violaron nuestras políticas y rompieron la confianza esencial para nuestro trabajo.