La vergüenza que deja una imagen que no existe: el caso de las alumnas de Lomas de Zamora sacudidas por deepfakes creados por sus propios compañeros

La mañana en Lomas de Zamora arrancó pesada, con un viento del sur que se metía hasta los huesos y un cielo gris que parecía querer tapar lo que estaba pasando puertas adentro de un colegio secundario del sur del conurbano bonaerense. Pero lo que se cocía adentro de esas aulas nada tenía que ver con el clima: tenía que ver con pantallas, con adolescentes y con imágenes que nunca existieron como tales y que, sin embargo, lastimaron como si fueran reales. Yo soy Marta Villalba, y esta historia me sacudió, porque cuando uno cree que la ficción digital no puede doler, aparece un caso como este y se da cuenta de que duele, y mucho.

Según lo que se pudo reconstruir a partir de lo publicado por distintos medios y de lo que trascendió de la investigación, cuatro menores son investigados por haber producido y distribuido imágenes sexuales falsas generadas con inteligencia artificial a partir de fotos de redes sociales de varias compañeras del mismo establecimiento. Las adolescentes afectadas, todas alumnas del secundario, terminaron relatando un combo emocional durísimo: vergüenza, asco, miedo y esa sensación rara de saberse lastimadas por algo que técnicamente no existía. Una de ellas lo dijo con una frase que me quedó dando vueltas: Aunque sé que es falso, me dio vergüenza. Esa frase, me parece a mí, resume todo lo que hay que entender de este fenómeno: a veces, saber que la imagen es inventada no alcanza para que el daño no sea real.

Cómo se cocinaron las imágenes y cómo se viralizaron

Acá viene uno de los puntos que más me llaman la atención, y que cualquier padre o madre con chicos en edad de secundaria debería leer con mucha atención: las fotos originales que se usaron para fabricar las imágenes falsas salieron de perfiles públicos de las propias víctimas en redes sociales. Es decir, no hubo hackeo, no hubo robo de contraseñas, no hubo nada exótico. Los adolescentes compartieron sus fotos en sus cuentas, a la vista de todos, y de ahí se tomaron para crear el material manipulado. Las imágenes alteradas, ya con contenido sexual inexistente, circularon en grupos digitales y todo indica que también se filtraron por plataformas de mensajería, lo que abrió un interrogante que a las chicas les quitó el sueño: no saber hasta dónde se metió esa foto, no saber quién la vio, no saber si llegó a cualquier parte del mundo, como llegó a temer una de las alumnas.

“Creemos que pudo haber llegado a cualquier parte del mundo.”Una de las alumnas afectadas, según el relato publicado por distintos medios

El dolor de contar y la respuesta del colegio

Hay un detalle de esta historia que a mí, como periodista y como adulta, me parece de los más humanos y de los más tristes: las chicas tardaron en hablarlo con sus familias. Una de ellas contó que no les dijo enseguida a sus padres porque no quería que la vieran así, pese a saber que el material era manipulado. Es que la vergüenza tiene esa lógica perversa: aunque una sepa que la imagen es falsa, igual siente que expone algo propio, algo íntimo, algo que no eligió mostrar. Cuando finalmente las alumnas fueron al colegio a contar lo que pasaba, sintieron que la respuesta institucional fue tardía e insuficiente, lo que motivó que después se organizaran jornadas de diálogo dentro del establecimiento. Mientras tanto, los cuatro menores investigados pasaron a la modalidad virtual para no compartir con los encuentros académicos, y la Justicia ordenó el cese de hostigamiento y pidió medidas para que no hubiera contacto entre las partes.

• La causa tramita como producción y distribución de material de abuso sexual infantil (MASI), una figura legal que se aplica incluso cuando las víctimas son adolescentes y las imágenes generadas con IA.
• La Justicia realizó allanamientos en el marco de la investigación y pidió que se preserve el material probatorio.
• Las víctimas son varias alumnas del mismo colegio secundario de Lomas de Zamora, en el sur del conurbano bonaerense.
• Los acusados son cuatro menores de edad, compañeros de curso, que quedaron bajo investigación judicial.

El reclamo en la calle y lo que vino después

La bronca se vio, se escuchó y se filmó. Las propias alumnas organizaron una protesta frente al colegio, a la que se sumaron estudiantes de otros cursos y familias. Los videos de la manifestación se viralizaron en redes sociales y, como suele pasar en estos casos, abrieron la puerta a que chicas de otros establecimientos contaran situaciones parecidas que habían vivido en silencio. Para mí esa es la otra cara de esta historia: el daño individual se transformó en un pedido colectivo de que estos episodios no queden en la nada, no se barran debajo de la alfombra ni se resuelvan con un cambio de modalidad virtual y un hasta luego. Porque lo que quedó flotando, y lo que tenemos que discutir como sociedad, es algo mucho más grande que un grupo de WhatsApp: qué hacemos con la inteligencia artificial al alcance de cualquiera, qué les enseñamos a los chicos sobre lo que se comparte en redes y, sobre todo, cómo acompañamos a las víctimas cuando el daño que sienten es emocional, íntimo y profundamente real, aunque la imagen no lo sea.

Volví a pensar en esa frase que abrió esta nota mientras escribía el final: Aunque sé que es falso, me dio vergüenza. La repetí varias veces en mi cabeza mientras el viento seguía soplando afuera y el cielo seguía gris sobre Lomas de Zamora. Y la verdad es que me parece la frase más honesta que escuché en mucho tiempo, porque nos obliga a pensar, como padres, como docentes, como vecinos, que la vulnerabilidad no necesita ser verdadera para lastimar. A veces alcanza con que alguien la sienta.