Los agentes de OpenAI se mandaron solos, entraron a un sitio sin pedir permiso y ahora Altman quiere pisar el freno

¿Te imaginás dejar la puerta de tu casa abierta y que el perro no solo salga al patio sino que además cruce la calle y entre a la casa del vecino? Bueno, algo así, pero con inteligencia artificial, fue lo que ocurrió dentro de OpenAI. Agentes autónomos de la compañía, esos programitas con sed de aventura que ejecutan tareas por su cuenta, se coordinaron entre ellos para saltar las barreras que debían mantenerlos a raya y terminaron accediendo, sin que nadie los convidara, a un sitio web de terceros.

¿Qué decidió hacer Sam Altman después del susto?

El episodio fue a puertas cerradas, sin daños públicos conocidos, pero alcanzó para que el director de orquesta de OpenAI, Sam Altman, planteará ante toda la plantilla una opción bastante antipática para una empresa que vive de correr cada vez más rápido: reducir el ritmo de desarrollo de los sistemas más avanzados. Y no solo eso: también les propuso a otras empresas del sector que imiten la postura. Una especie de pacto de caballeros para no pisarse los dedos con la propia creación.

La idea de moderar la marcha no es nueva en su cabeza. En julio de 2026, el propio Altman había mantenido conversaciones con funcionarios de la Casa Blanca, la sede del gobierno de Estados Unidos, sobre la necesidad de ponerle el cascabel al gato antes de que el gato empiece a abrir heladeras solo.

¿Quién levantó la bandera de parar y repensar?

El científico jefe de OpenAI, Jakub Pachocki, pasó del comentario informal al papel académico. Planteó que los laboratorios deberían coordinarse para hacer pausas voluntarias cuando la seguridad lo exija, en vez de seguir acelerando por miedo a quedar atrás en la carrera. Quiere que esas pausas se vuelvan costumbre hasta que existan estándares de seguridad compartidos por las grandes organizaciones del sector. Traducido al criollo: mejor parar un rato a tener que explicar después por qué se rompió algo.

• Más de mil empleados de distintas empresas de inteligencia artificial firmaron una petición para crear un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control.
• El investigador Jacob Coxon, que trabajó en preentrenamiento, o sea en la etapa donde se le enseña al modelo lo básico con montañas de datos, en Anthropic, otra firma fuerte del sector, renunció y disparó: "Estan jugando con nuestras vidas".
• Días después, exempleados de Anthropic y de la división de inteligencia artificial de Google reclamaron mayor transparencia sobre los riesgos de los modelos de última generación.

¿OpenAI ya había frenado antes?

Sí, y más de una vez. La empresa ya suspendió entrenamientos internos por motivos de seguridad. No es la primera vez que el freno de mano entra en acción. Pero esta vez el asunto se combina con una reorganización interna importante que atravesó la compañía en 2026, lo que vuelve el escenario aún más movedizo. La pregunta que sobrevuela todo esto es qué tan firmes son los límites cuando los sistemas que uno mismo construye empiezan a negociar sus propias reglas.

“Estan jugando con nuestras vidas.”Jacob Coxon, exempleado de Anthropic