Anthropic le abrió la heladera a los auditores: ahora METR revisa sus modelos desde adentro y sin pedir permiso

¿A vos te dejan meter la mano en la heladera de tu casa? Bueno, a los auditores externos de Anthropic, cada vez más. La empresa de inteligencia artificial les dio a seis investigadores de METR, una organización sin fines de lucro especializada en evaluar sistemas de IA, el mismo nivel de acceso que tiene un empleado del área de evaluación de riesgos. Computadora de la compañía, espacio físico en la oficina y herramientas internas: todo puesto sobre la mesa.

La movida forma parte de un esquema con tres niveles que Anthropic construyó a lo largo del último año. En el más bajo trabajan organizaciones como SecureBio, que hacen revisiones acotadas y necesitan autorización de la empresa antes de publicar nada. En el intermedio, los evaluadores reciben más información y pueden publicar sin pedir permiso, aunque con menos acceso que un empleado. En el vértice superior está hoy solamente esa organización, METR, con la llave completa: acceso equivalente al de un empleado y libertad total para sacar a la luz evaluaciones, reportes de incidentes y análisis de prácticas internas, sin que la compañía pueda bloquear la publicación.

¿Qué puede mirar METR y qué no?

• Información sobre cómo se entrenan los modelos y cómo funcionan sus mecanismos de seguridad.
• Conversaciones con el personal de Anthropic, en igualdad de condiciones con un empleado del área.
• Resultados de evaluaciones, incidentes y prácticas internas de la empresa, publicables sin filtro previo.
• Tres categorías vedadas: datos de clientes, información protegida por secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. La empresa puede pedir que se redacten esos puntos, pero METR queda libre de decir públicamente si esa redacción le pareció justificada o no.

¿Por qué tanto acceso? Las cuatro condiciones de Anthropic para que una auditoría sirva

La compañía dijo que para que un evaluador externo haga un trabajo útil tienen que cumplirse cuatro cosas al mismo tiempo. Una: experiencia técnica suficiente como para detectar cuándo un modelo finge estar alineado en lugar de estarlo de verdad. Dos: independencia económica y operativa respecto de la empresa auditada, o sea, que no le deban un favor ni un contrato. Tres: acceso que vaya más allá del modelo en sí e incluya cómo se entrenó y cómo funcionan sus mecanismos de seguridad. Y cuatro: libertad para publicar sin restricciones previas, que es justamente lo que se le otorga a METR.

Anthropic también reconoció algo de manual: no puede hacer pública toda su información de seguridad, porque parte de esos datos podría ser aprovechada por gente con malas ideas o es sensible desde el punto de vista comercial. La solución que eligió fue darle acceso profundo a un grupo acotado, METR, que opera bajo acuerdos exigibles, mientras el resto del personal de la organización sin fines de lucro queda aislado de ese trabajo.

El equipo de METR ya venía revisando varios informes de riesgo de Anthropic durante el año anterior a recibir este nivel ampliado de acceso, así que no arrancó de cero: conoce la casa antes de que le abran todas las puertas. La movida llega en un contexto donde la industria de la IA está bajo presión para mostrar que sus modelos se evalúan en serio y no en una mesa de luz. Permitir que un auditor independiente publique lo que encuentre, incluso si incomoda, es una señal fuerte, aunque falta ver qué aparece cuando empiecen a mirar con lupa.

Mientras tanto, la señal sigue sin llegar.