El padre del aprendizaje profundo le puso número al apocalipsis: hasta uno en cinco

¿Le tenemos que creer al tipo que inventó la pelota y ahora nos avisa que puede explotar? Sí, le tenemos que creer. Geoffrey Hinton, ganador del Nobel y uno de los padres del llamado aprendizaje profundo, o deep learning en la jerga anglosajona, esa técnica que permite a las máquinas aprender solas a partir de montañas de datos, dejó Google en 2023 justamente para poder hablar sin mordaza. Y lo que dice ahora no es para quedarse tranquilo.

La cifra que está dando vueltas por el mundo es concreta: entre el diez y el veinte por ciento de probabilidades de que una inteligencia artificial superinteligente termine con la humanidad en los próximos treinta años. Hinton, que tiene 78 años y sabe de qué habla, aclara que ese rango no es caprichoso: hace una década él pensaba que esto iba para más largo, y los modelos le comieron los plazos. La IA avanzó más rápido de lo que el propio Hinton esperaba, y eso, lejos de ser un consuelo, es justamente el problema.

¿Y por qué esta vez la cosa sería diferente?

Hinton machaca con un punto que muchos prefieren mirar para el costado. Dice que los modelos de lenguaje actuales, esos como los que redactan mails o responden preguntas, ya no se quedan en repetir patrones estadísticos, que es la forma técnica de decir que adivinan la palabra siguiente mirando qué otras personas escribieron antes. Para él, estos sistemas ahora comprenden de verdad los conceptos abstractos. Manejan ideas, no solo combinaciones de letras. Y esa diferencia, sostiene, cambia la categoría del riesgo: pasamos de tener herramientas a tener algo que entiende.

Pongámoslo en criollo, como si fuera una charla de quiniela. Si yo te digo que el cinco salió en la última, vos podés calcular probabilidades y armar una estrategia. Eso es estadística. Ahora, si vos realmente entendés qué es el cinco, podés inventar un juego nuevo con otras reglas. Eso es comprensión. Hinton dice que las máquinas pasaron del primer escalón al segundo. Y eso, según él, no tiene vuelta atrás.

¿De qué sirve regular si igual corren todos?

El científico lo explica con una metáfora tan simple que duele. Imaginate un auto con el acelerador pegado al piso y sin volante. Cuanto más rápido va, peor termina. La regulación del Estado, para Hinton, es el volante. Sin ese volante, la velocidad no es progreso: es accidente.

Ante el argumento clásico de que ponerles límites a las empresas locales las deja en desventaja frente a competidores como Estados Unidos o China, Hinton es directo: confiar en que el mercado solo va a cuidar a la humanidad de una amenaza de esta magnitud es, en sus palabras, un error estratégico. La geopolítica no puede ser excusa para postergar leyes globales. La ventana para decidir la orientación ética de estos sistemas, advierte, se está achicando. Cada año que pasa sin reglas claras es un año más de ventaja para una tecnología que avanza sola.

Mientras tanto, la señal sigue sin llegar.