Desnudarlas con un clic: la IA como un nuevo elemento de la violencia de género en dos colegios de la UBA

A veces parecen incidentes aislados. A veces parecen excesos de pibes que se pasaron de rosca.  Parecen, pero no lo son. Lo que estalló en las aulas del Colegio Nacional de Buenos Aires y de la Escuela Superior de Comercio Carlos Pellegrini expone una verdad mucho más incómoda: la violencia de género encontró en la inteligencia artificial una nueva herramienta para reproducirse, multiplicarse y sofisticarse.

Hace algunos días, cincuenta estudiantes fueron denunciados por haber creado y compartido carpetas con imágenes de sus compañeras desnudas generadas mediante inteligencia artificial. Algunas fotografías fueron manipuladas a partir de imágenes tomadas de las redes sociales de las propias víctimas; otras fueron creadas digitalmente. Los archivos circulaban en un Drive donde cada joven aparecía identificada por su nombre y, en algunos casos, con un precio asignado para comercializar las imágenes. Un mercado clandestino construido con los cuerpos de compañeras, amigas y ex novias, muchas de ellas menores de edad.

“Las paredes de la escuela se vuelven muy endebles”, declara Solana Caamaño, periodista especializada en educación y docente. “Hoy un conflicto que inicia en un grupo de WhatsApp, a partir de una historia de Instagram o en una aplicación que modifica imágenes con Inteligencia Artificial enseguida repercute en las dinámicas escolares”.

Estas prácticas no son nuevas ni inusuales, sino que se enmarcan en una larga historia de desigualdades de género que, en cada tiempo histórico, han encontrado su forma de expresarse y de producir daño. En ese sentido, queda en claro cómo las nuevas tecnologías reconfiguran —pero no inventan— las formas en que se construye la masculinidad. 

“Los casos que más se visibilizan en la agenda pública son los que llegan a extremos donde el daño es enorme”, asegura Camaño. “Pero se producen una gran cantidad de situaciones que en algunos casos podemos conceptualizar como violencia y en otros, conflictos por la propia dinámica que genera vincularnos juntos en una institución en este tiempo atravesado por redes sociales”. 

Según un reciente informe de la Defensoría del Pueblo de CABA que analiza Imágenes manipuladas por IA y violencia digital, si bien solo el 1% de la muestra (912 estudiantes de entre 12 y 19 años) reporta haber sido víctima directa de las deepfakes, un 13% señala conocer casos en su entorno escolar. A su vez, el 43% afirma haber recibido imágenes o videos manipulados con inteligencia artificial (IA), dejando en claro que la IA democratizó la capacidad de intervenir sobre el cuerpo de las mujeres. 

Desde la Comisión de Géneros del Nacional Buenos Aires se posicionaron fuertemente al respecto en un comunicado: “(...) pensar en ciertas acciones normalizadas del día a día provoca que enterarnos de casos así no sea algo tan impensado e irreal, sino muy palpable. La realidad en nuestros colegios exige que se rompa el silencio”. 

Mónica Macha es Senadora Nacional por la Provincia de Buenos Aires y psicóloga. Junto con organizaciones especializadas en tecnología viene trabajando en diferentes proyectos relativos a la violencia digital. En conjunto con la activista mexicana Olimpia Coral de Melo trabajó en el proyecto de Ley Olimpia, sancionada en 2023 en nuestro país, que tipifica la violencia digital como una forma de violencia de género e incorpora mecanismos para su penalización y prevención.

“La ley Olimpia reconoce este tipo de violencias y plantea también una serie de acciones de prevención de acompañamiento para las víctimas. Sin embargo, no es suficiente sólo con leyes, sino que también se deben sostener políticas públicas”, asegura en un momento de grave desfinanciamiento de la ley de Educación Sexual Integral (ESI).  

Sobre el caso del Pellegrini y el Buenos Aires explica para este medio que no importa si el problema sucedió en la calle, en la casa, en un bar o en la escuela, se trata de un tema de la comunidad educativa,  “porque es una forma de vincularse entre pibes y pibas”. 

Legislar para prevenir

Ema Bondaruk se suicidó en agosto de 2024, luego de la viralización sin consentimiento de un video íntimo de ella junto a un compañero de colegio. Tenía 15 años, vivía en Longchamps y soñaba con estudiar psicología. El caso de Ema se convirtió en un símbolo de una problemática cada vez más visible: la violencia sexual digital, pero también las dificultades que tienen los adolescentes para respetar el consentimiento y relacionarse entre pares. 

Su madre, Laura Sánchez, decidió que la muerte no sería en vano. Acompañada por distintas organizaciones de la sociedad civil y las legisladoras Mónica Macha y Laura Clark, presentaron el proyecto de ley Ema, que propone crear un Programa Nacional de Prevención de la Violencia Sexual Digital en ámbitos educativos, con protocolos de actuación, capacitación para docentes y acciones de prevención. 

A su vez elaboraron la Guía Ema para la incorporación de contenidos sobre violencia digital en la currícula escolar. La guía busca ser una herramienta para la actuación frente a situaciones de violencia, brindando herramientas de carácter digital específicamente en el ámbito educativo. 

“La Guía es una apuesta a los derechos humanos y, por supuesto, a la perspectiva de género: al derecho a la intimidad, a la integridad, a una vida libre de violencias. Y a construir territorios digitales respetuosos, libres y seguros”, explica Laura. “Las tecnologías nuevas se usan para reproducir viejas lógicas de control y humillación hacia adolescentes, mujeres y disidencias. El problema no radica solo en los pibes que crean el video. El problema es mucho más profundo: el problema es la cultura que lo habilita”.

La Guía Ema se basa en la necesidad de contar con políticas reparatorias y restaurativas. Lejos de la penalización y el punitivismo se trata de trabajar en la elaboración y transformación de las subjetividades. No es una receta, no es un ítem en una normativa, sino una invitación a una conversación sobre cuáles son las estrategias que esa comunidad debe elaborar para evitar este tipo de situación traumática. 

“Estamos hablando de pibes muy jóvenes. Creo que como sociedad y comunidad es importante que tengamos una apuesta a que se pueden transformar”, suma Macha.

“No es la primera denuncia que nosotros recibimos de estas características. En este caso tomó estado público porque es el Carlos Pellegrini y el Nacional Buenos Aires, pero nosotros constantemente en la fiscalía estamos recibiendo este tipo de denuncias”, afirmó la fiscal Daniela Dupuy, encargada de la causa, durante una entrevista en el programa Alguien tiene que decirlo, de Radio Mitre. Asimismo, remarcó que la investigación pone sobre la mesa un desafío jurídico: cómo responder a delitos atravesados por tecnologías que evolucionan mucho más rápido que las leyes y que, además, involucran a personas menores de edad.

El otro como objeto

Para Solana la violencia digital, entre otros motivos, se genera por la ausencia del otro. Esto permite que se extienda una violencia digital cotidiana, que puede ir desde crear un sticker de Whatsapp hasta las deepfakes. Estos sucesos se amparan en el anonimato, la dificultad de rastrear el comienzo del conflicto y lo sencillo que es humillar al otro sin mediar palabra.

Como todos los conflictos entre pares este tipo de situaciones generan rupturas en el grupo. “Las pibas no quieren cruzarse con los compañeros, no quieren compartir trabajos prácticos, pero al mismo tiempo la escuela no es que puede echarlos porque reproduce una mirada punitivista”, explica. 

Si bien hay escuelas que fueron tomando distintas decisiones, como que los chicos  implicados cursen virtual o separarlos en grupo, la situación se torna compleja cuando se pone en juego quién fue cómplice, por qué los amigos de las pibas no “saltaron” y cuestiones que responden a la lógica de la sociabilidad adolescente.

Según el informe de la Defensoría, las respuestas frente a situaciones de violencia digital se gestionan principalmente en el ámbito de los pares: el 66% evita compartir contenidos dañinos y el 56% brinda apoyo a la persona afectada, mientras que sólo un 26% recurre a adultos o autoridades escolares.

“Creo que vamos corriendo por detrás del problema”, continúa Laura. “Internet es rápido, voraz y muy dinámico. Este es un cambio de época y nosotros somos parte de ese proceso. Estamos construyendo estos territorios digitales, en un contexto muy difícil, son tiempos de mucha individualidad y crueldad absoluta”, asegura.

En el comunicado, las voceras de la comisión de Géneros del Nacional Buenos Aires instaron a las autoridades a que “no se nos fuerce a nosotras a convivir en el día a día con quienes forman parte de estos círculos y han puntualmente participado de la vulneración de la intimidad de chicas de nuestro colegio y otro colegio”. “Es aberrante ver cómo se naturaliza tratar nuestros cuerpos como objetos de consumo, comercializando imágenes y sosteniendo redes de violencia virtuales”, agregaron. Aunque este medio intentó contactarse con las víctimas no recibió respuestas.

El hecho no es un conflicto menor, ni se reduce a una travesura. Interpela a las familias, que muchas veces desconocen los espacios virtuales por donde circulan sus hijos. A las escuelas, que deberán pensar cómo incorporar con más fuerza la alfabetización digital y la educación sexual integral como herramientas para pensar el consentimiento, la intimidad y el uso de las tecnologías. Y al Estado, que necesita actualizar los marcos normativos sin reducir el problema a una respuesta exclusivamente penal.

Sin embargo, es imposible pensar el hecho sin nombrar el impacto sobre las víctimas. Aunque esas imágenes no hayan sucedido, la violencia sí existió. La vergüenza, el miedo a volver al aula, la sensación de haber perdido el control sobre la propia imagen y sobre el propio cuerpo son absolutamente reales. Como vienen insistiendo las activistas digitales, lo virtual es real y la violencia digital no necesita tocar un cuerpo para producir daño. 

Acompañar a las adolescentes no implica solamente intervenir cuando la violencia ya ocurrió, sino construir las herramientas para que puedan atravesar esas experiencias sin quedar definidas por ellas. “Hay que acompañarlas para que puedan sostener su trayectoria educativa y vincularse. Reconstruir la confianza y las redes de apoyo”, sostiene Sánchez.

Desde esa perspectiva, tanto la especialista como la senadora coinciden en que la Guía Ema debe formar parte de un abordaje integral de la Educación Sexual Integral (ESI) e incorporarse como un capítulo más dentro de las herramientas que las escuelas tienen para prevenir, detectar y acompañar situaciones de violencia.

Porque hablar de abuso y violencia con adolescentes no es solamente enseñar a identificar un riesgo: también es garantizar que quienes atravesaron esas situaciones puedan recuperar proyectos, vínculos y espacios propios. “Cuando hay situaciones de violencia, de abuso, una cuestión muy importante es poder transformarlas para que esto no se transforme en toda tu vida. Ese es el desafío que tenemos también con las pibas”, concluyó Macha.

Lo ocurrido en el Pellegrini y en el Buenos Aires no habla solamente del futuro de la inteligencia artificial y de lo peligroso que es el mal uso de la tecnología. Habla del presente de nuestras masculinidades y deja en claro una cosa: mientras la humillación de las mujeres siga siendo una forma de construir poder entre varones, siempre aparecerá una nueva herramienta para hacerlo.

Días después de que el caso se hiciera público, apareció escrito sobre un pupitre: "Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas".