Sam Altman se acuerda de tener miedo: dos fantasmas que lo desvelan y una receta a la que nadie le cree

¿Susto o marketing? Sam Altman, el CEO de la empresa detrás de ChatGPT, soltó esta semana una serie de declaraciones que suenan a arrepentimiento a destiempo: dijo que el avance de la inteligencia artificial puede terminar en dos pesadillas concretas. Una, que los humanos perdamos el control de sistemas cada vez más hábiles. Dos, que una sola persona, empresa o país se quede con el botón de encendido del mundo.

Vamos por partes, porque la cosa es más enredada de lo que parece. Altman, vale aclarar, es el mismo que hace dos años le decía al Congreso de Estados Unidos que había que regular la IA "para evitar la concentración de poder". Lo dijo con la misma cara con la que un monopolio de alimentos pide que controlen los precios.

El primer fantasma: que la IA se nos vaya de las manos

El primer escenario que pintó es el clásico de la ciencia ficción, pero con barniz técnico: que la humanidad pierda el control sobre sistemas progresivamente más avanzados. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", tiró, con esa épica que solo se permite alguien que vende IA por suscripción.

Su propuesta para mitigar ese riesgo es, cuanto menos, curiosa: que las técnicas de alineación (o sea, los métodos para que la IA haga lo que nosotros queremos y no lo que se le cante) y los mecanismos de seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso un pasito adelante. Algo así como pedirle a un corredor que corra más rápido que su propia sombra.

El segundo fantasma: que alguien se quede con la llave

El segundo escenario es más terrenal y, para mí, más inquietante: la concentración de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Traducido al criollo: que el que tenga la IA más grande termine marcando la agenda de qué se publica, qué se piensa y qué se decide.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

El propio Altman reconoció que esquivar los dos riesgos al mismo tiempo implica caminar por un corredor angosto. Lo que no dijo es quién decide dónde está la pared derecha y dónde la izquierda.

La receta: ley federal, auditores y un poco de buena voluntad internacional

Para bajar la espuma, el CEO de OpenAI respaldó tres ideas. La primera, un marco regulatorio federal (es decir, una ley que rija para todo Estados Unidos y no para cada estado por separado, como pasa ahora) que fije requisitos de seguridad comunes para los llamados modelos de frontera, esos que están en el límite de lo que la tecnología puede dar hoy. La segunda, incorporar auditores independientes, o sea, gente externa que revise si la empresa está cumpliendo o haciendo dibujitos. Y la tercera, coordinación entre gobiernos, que en la práctica viene a ser la parte que todos aplauden y nadie ejecuta.

Eso sí, Altman aclaró con gesto de prócer que las empresas no deberían esperar a que salga la ley para empezar a cuidarse solas. Algo así como pedirle al almacenero de la esquina que no aviente los precios mientras el Congreso debate la nueva ley de góndolas.

• ¿Un marco regulatorio federal con reglas iguales para todos los estados norteamericanos?
• ¿Auditores independientes con poder real de sancionar, no solo de mirar y firmar un informe bonito?
• ¿Coordinación internacional entre gobiernos, algo que hoy es más deseo que práctica?

La pregunta del millón (o del billón, para ser exactos)

Mientras tanto, la señal sigue sin llegar. Y no me refiero a la del Wi-Fi: me refiero a la de quién controla a quién en esta película. Altman habla de "equipo humanidad", pero su empresa vale, literalmente, más que el PBI de varios países. El vértigo está buenísimo para vender libros y dar charlas. Para regularlo, falta bastante. La pregunta que queda flotando, y que vale la pena hacerse en serio, es esta: ¿qué mecanismos concretos de supervisión funcionan para que el desarrollo de la IA no termine concentrado en cuatro manos? Porque hasta ahora, las respuestas son más PowerPoint que resultado.