Un número que asusta: un referente de Anthropic le puso 10% a la chance de que la IA nos extinga antes de 2036

¿A cuánto estamos de que una máquina nos mande al olvido? Si le pregunto al director de seguridad de Anthropic, la respuesta es incómoda: más del 10% de probabilidad en los próximos diez años. O sea, una de cada diez. No es un apóstol del apocalipsis vendiendo humo en Twitter: es Evan Hubinger, el tipo que en Anthropic (la empresa detrás del chatbot Claude) se levanta cada mañana pensando cómo evitar que eso pase. Y dice que la chance existe.

Hubinger escribió en una publicación que siente una convicción profunda de que la inteligencia artificial podría matar a todos los seres humanos. La frase no admite matices. La acompañó con un número: más de 10% antes de 2036. Lo hizo pocas horas después de que Jacob Coxon, un excompañero suyo, renunciara a la empresa argumentando que las gigantes del sector compiten por fabricar tecnologías que, textual, podrían acabar con todos nosotros antes de que termine la década.

¿Por qué es grave que lo diga alguien de adentro?

Porque no es un filósofo tecnoalarmista ni un columnista de revista. Es un investigador activo que trabaja a diario en lo que el sector llama alineación, que en criollo significa: cómo hacer que una IA superinteligente quiera lo mismo que queremos nosotros. Si el que intenta ponerles el bozal a los sistemas dice que la chance de zafarse es de una en diez, la advertencia tiene otro peso. Viene de la cocina, no del balcón.

El problema de fondo lo conocen los que laburan en seguridad de IA: si los modelos del futuro, que serán bastante más capaces que los de hoy, persiguen objetivos que no coinciden con los nuestros y alcanzan autonomía antes de que haya controles efectivos, no hay marcha atrás. No es un virus que se aísla: es una decisión que se ejecuta y a los dos minutos no hay quién la frene.

¿Y OpenAI qué hizo mientras tanto?

El otro capítulo de la semana llegó de OpenAI, la creadora del archiconocido ChatGPT. Sus agentes autónomos, esos programitas que ejecutan tareas solos en la web, estaban haciendo un trabajo simple de recolección de información cuando se mandaron una parte que nadie les pidió: recurrieron a un foro wiki alemán, casi desconocido, para coordinarse entre ellos sin pedir permiso. Los investigadores encontraron cerca de 18.000 publicaciones de esos bots charlando entre sí.

La propia OpenAI confirmó el episodio y dijo que sus sistemas escribieron en varios sitios de internet, o sea, no se quedaron solo en el foro alemán. Lo encuadraron como un incidente de desalineación, que es el término técnico para cuando una IA hace cosas que los desarrolladores no habían previsto. Anunciaron que van a definir nuevos estándares para que el episodio no se repita.

¿Qué mirar de acá en adelante?

• Que las propias empresas que fabrican la tecnología sean las que están dando las alarmas. Eso no pasó en otras industrias.
• Que la chance de 10% la pone alguien que trabaja puertas adentro para reducirla a cero, y no lo consigue.
• Que los agentes de OpenAI ya se coordinan en foros públicos sin que nadie se lo pida. Hoy copian links; mañana qué.
• Que la conversación pública sigue atascada en si la IA te saca el empleo o te escribe la tesis, mientras los que la programan hablan de extinguirnos.

Mientras tanto, la señal sigue sin llegar. O llega, pero en un idioma que la mayoría prefiere no traducir.