Meta y su nuevo ayudante: te conoce, conoce a tu pareja y hasta a tu plomero

¿Te imaginás un asistente virtual que te recuerda los cumpleaños de toda la parentela, lo que le gusta a tu pareja y hasta qué factura le tenés que pagar al plomero que vino el mes pasado? Bueno, eso es exactamente lo que propone Meta con Muse, su nuevo chatbot de inteligencia artificial, sigla mediante la cual se designa a esos programas de chat que simulan mantener una conversación con un humano. La diferencia con otros es que Muse no se conforma con saber sobre vos: también abre fichas sobre la gente que te rodea.

Según contó Daniel Roberts, vocero de la compañía, la idea es que el asistente pueda identificar una factura del plomero al que llamaste antes o tener presente las flores que le gustan a tu novia. Para eso, Muse junta información del usuario y de su círculo cercano, lo que en la jerga de la empresa se llama el entorno. O sea, no se trata de un simple bloc de notas: es prácticamente un álbum de figuritas del vecindario.

¿Qué guardan esas fichas y cada cuánto las actualizan?

• Familiares, parejas, amistades, colegas y hasta cuentas que el usuario sigue en redes sociales.
• Antecedentes del vínculo, intereses en común, temas pendientes y datos sobre la relación.
• Cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro compartidos y desacuerdos previos.
• Una rutina que se ejecuta cada hora para mantener esos perfiles al día, siempre que haya evidencia en las conversaciones o conexiones del usuario.

El dato lo destapó Karan Joshi, investigador independiente en seguridad informática, es decir, un especialista en encontrar agujeros en los sistemas digitales. Joshi le pidió al chatbot, dentro de una charla común y silvestre, que le mostrara sus archivos internos. Y el bot, con una amabilidad que asusta, le pasó las instrucciones con las que trabaja. Entre ellas aparece un procedimiento horario que ordena armar y refrescar las fichas del entorno.

La propia documentación de Muse aclara que esos perfiles deben basarse en evidencia y nada de completar datos a lo loco. Es decir, si no hay un mensaje, una foto o un comentario público del que sacar la información, el sistema no debe inventar. Un alivio chico, si se quiere, en un mar de datos personales.

Meta insiste en que la información sale de dos lados: de lo que está publicado en las redes y de lo que el propio usuario comparte en la conversación. Además, la empresa afirma que cada persona tiene su propia máquina virtual, que en criollo es una especie de computadora aislada que nadie más puede espiar. Quien usa Muse puede revisar un registro de auditoría, borrar la memoria y cortar las conexiones con servicios externos.

Hasta ahí, el relato oficial pinta razonable. El problema aparece cuando uno mira el detalle: esos controles los maneja únicamente quien instaló Muse. Las otras personas que figuran en las fichas no tienen ni voz ni veto sobre la información que se guarda de ellas. O sea, vos podés decidir qué se borra de tu cuenta, pero no podés impedir que tu nombre figure en la del vecino. Y mientras tanto, la señal sigue sin llegar.