Los conflictos digitales entre adolescentes generan nuevas tensiones en las rutinas escolares: deepfakes, difusión de imágenes o información sin consentimiento, hostigamiento y rumores vía cuentas anónimas. La falta de regulación estatal de las redes sociales y la Inteligencia Artificial en la Argentina genera un terreno inclinado hacia las grandes corporaciones tecnológicas. Mientras tanto, jóvenes, docentes y funcionarias piensan estrategias para dialogar y prevenir desde la ESI.
Risas. Señalamientos con el dedo. Murmullos. Con todo eso se encontró Julieta*, estudiante de quinto año, cuando entró a la escuela, una institución pública y emblemática de la Ciudad de Buenos Aires en el barrio de Balvanera.
—¿Viste lo que hizo Marcos? —le preguntó un compañero.
—No, ¿qué?
El chico sacó el celular y le mostró una foto. Julieta se vio a ella misma desnuda. Pero no era real. Era una imagen alterada con inteligencia artificial (IA). Un estudiante de segundo año había colocado su cara sobre el cuerpo de otra persona. “Nadie paraba de hablar de eso y me empecé a sentir mal. Entonces, me acerqué a la profesora de Matemática que es referente de ESI y le conté”, relata Julieta a Feminacida.
Cuando la vicedirectora se enteró, dijo que iba a hablar seriamente con el alumno involucrado. Sin embargo, Julieta no tuvo más información sobre el llamado de atención. Lo que sí descubrió fue que había un nuevo video falso donde se la veía a ella y al chico dándose un beso. Enseguida, abundaron los grupos de WhatsApp y memes: “Marcos y Juli”. Así que lo eliminó a él y a sus amigos de las redes sociales.
Su madre quiso acercarse a hablar a la escuela y ella le dijo que no fuera. Julieta insiste con que no le afecta tanto lo que haga “un pibe de segundo”, pero “esperaba algo más del colegio”. Es consejera de género y lo que menos quiere es que las estudiantes más chicas sufran situaciones similares.
La conflictividad digital crece cada vez más entre los y las adolescentes. Los deepfakes, que vienen en aumento desde el año pasado, son la punta del iceberg de una serie de problemáticas cotidianas de menor impacto, pero con una lógica similar: burlas mediante stickers de WhatsApp, difusión de rumores en cuentas sin firma, hostigamiento vía redes sociales. Todas, situaciones que tensionan la convivencia escolar y remiten a la lógica troll que hoy gobierna: agresión virtual, anonimato, viralidad y hate. Mucho hate.
De acuerdo con una encuesta de Unicef, 8 de cada 10 docentes argentinos considera que el bullying y el ciberbullying son problemas frecuentes entre sus estudiantes. El acoso escolar siempre existió, pero antes, la presencia de otro compañero de clase, de su cara, cuerpo y voz podía generar pudor, reparos o reflexión en quien estaba a punto de burlar o maltratar. Hoy, las redes sociales son capaces de remover las barreras y el respeto que genera compartir el aula, el patio o cualquier otro entorno físico.
Mientras tanto, muchos adultos miran con sorpresa estos conflictos que se desatan en los muros virtuales, entre likes y comentarios, ya sea por falta de herramientas, subestimación o simplemente por no comprenderlos. Las preguntas se multiplican: ¿lo virtual es real? ¿Hasta dónde llegan la escuela y las familias? ¿Y el Estado?
En homenaje a Ema
Mónica Macha, diputada nacional por Unión por la Patria y recientemente electa como legisladora de la provincia de Buenos Aires, presentó el proyecto de Ley Ema que busca crear el Programa Nacional de Prevención y Abordaje Integral de la Violencia Digital en Ámbitos Educativos. La iniciativa lleva el nombre de Ema Bondaruk, una adolescente de 15 años de Longchamps que se quitó la vida por la difusión de un video sexual en su entorno escolar.
“Ema da cuenta de una situación extrema e irreparable. Pero en los establecimientos educativos nos cuentan un montón de otros hechos cotidianos que tienen que ver con los temas que toca la ESI: la sexualidad, el respeto por el cuerpo propio y el del otro, el consentimiento, la violencia de género. Por ejemplo, cuando un pibe cree que porque tiene una foto o video de una compañera es dueño de ese contenido y está autorizado a viralizarlo”, describe Macha a Feminacida.
Las desigualdades de género encuentran nuevas formas y cauces en los territorios digitales. La gran mayoría de las víctimas de difusión de imágenes íntimas, reales o falsas, son mujeres. La virtualidad habilita nuevas posibilidades de pasar por encima de sus voluntades y cuerpos incluso sin rozarlos. En muchas ocasiones, el contenido circula en grupos de varones. Esto da cuenta de la necesidad de repensar las estrategias para el trabajo con las masculinidades desde la ESI en base a los desafíos de la época.
En el Código Penal no hay figuras específicas que castiguen los casos de deepfake. Macha presentó el proyecto Ley Belén, que espera su tratamiento en el Congreso, con el fin de incorporar esta y otras formas emergentes de la violencia digital. Sin embargo, cuando los autores de este tipo de imágenes no son adultos, los desafíos son otros. La diputada explica que la adolescencia es parte de un proceso en el que “no está totalmente jugada la subjetividad”, lo que invita a “pensar en procesos donde los pibes se responsabilicen, reflexionen sobre lo que hicieron y tengan una sanción, pero no penal, sino en el marco de las políticas reparatorias y restaurativas”.
Más allá de la punición, allí donde las plataformas parecen un terreno despojado de reglas jurídicas, la dimensión legal cobra un valor pedagógico. El programa MPF+Cerca del Ministerio Público Fiscal de CABA da talleres de prevención de estas prácticas en instituciones escolares. En estas instancias se explica cuál es el rol de la fiscalía y cómo es el proceso penal en casos de violencia digital, incluso a pesar del vacío legal. Se hace hincapié en la necesidad de reconocer conductas que pueden ser tomadas como delitos y sus consecuencias, lo que incluye el impacto social y emocional en las víctimas. “Los adolescentes concluyen que las personas que sufrieron actos de violencia en internet se sintieron mal y solas y que efectivamente se deberían borrar o denunciar las fotos que las comprometen”, cuenta Anahí Méndez Velázquez, psicóloga del equipo.
La Ciudad de Buenos Aires publicó un protocolo escolar frente a situaciones de violencia digital. Sin embargo, en muchas escuelas –tanto de CABA como de otras jurisdicciones– faltan herramientas para saber cómo actuar frente a estos casos. “Por eso pensamos en la Guía Ema. Como comunidad educativa necesitamos hacernos responsables. Ni creer que es un asunto que sólo compete a la escuela ni considerar que depende de lo que se enseña en cada casa. Es un problema que nos atraviesa a todos y todas”, enfatiza Macha.
Los jóvenes como protagonistas
Buena parte de la socialización de las adolescencias transcurre en plataformas, como las redes sociales, que producen códigos de conducta. Las definiciones de Musk o Zuckerberg impactan en las formas de vincularse que tienen las nuevas generaciones. “El like es el primer paso para después empezar a hablar con alguien. Todo es una regla a cumplir. Somos nosotros mismos quienes lo avalamos y replicamos. Pero si lo hablamos en profundidad surgen comentarios como ‘no sé por qué lo hago, tal vez porque todos lo hacen’”, señala Martina Bonino, estudiante de quinto año de una escuela privada de Santo Tomé, Santa Fe.
Bonino es activista juvenil en el Consejo de Acción Adolescente y Juvenil de la oficina Regional de UNICEF, periodista en la Agencia Buena Data e integrante del Centro Ana Frank Argentina. En diálogo con Feminacida, advierte otras situaciones en las que la presión social tiene un peso fuerte, como las publicaciones que se suben a la cuenta de Instagram de las “promos” –los egresados– cuando un estudiante cumple años: “Los amigos arman una descripción con una foto o video ‘escrache’ de la persona bajo el consumo de alcohol, o haciendo una pavada, y se cuenta las ‘internas que tuvo’ -con quién estuvo- o con quién quiere estar del curso. No es obligatorio, pero muchos se sienten forzados a hacerlo. Es lo que llamo ‘la patoteada del siglo XXI’”.
“Casi todas los intercambios que tenemos son digitales. Ya no es posible distinguir el mundo virtual del físico. ¿Para qué publico algo en redes sociales? Para que otros me digan ‘qué lindo lo que subiste’. Eso no tiene nada de irreal”, dice a este medio Juan Ignacio Caricatto, activista de 17 años de EsConESI que vive en Mercedes, provincia de Buenos Aires. En línea con el planteo de la filósofa Paula Sibilia, la exhibición de la intimidad es moneda corriente en Internet, y no sólo entre los adolescentes. En el caso de las nuevas generaciones, Caricatto hace foco en los mensajes anónimos que se mandan a través de la aplicación Tellonym, que permite expandir rumores o difundir asuntos privados de la vida de los otros.
El adolescente subraya que el anonimato es un problema porque permite crear una cuenta para “bardear gente y salir impune”. Según la joven de Santo Tomé, esa condición explica el crecimiento de los discursos de odio, fogoneado por el sistema político. “Me pregunto qué incentiva a alguien a hacer un comentario tan cruel. Pero no hay que demonizar a los jóvenes. Todo esto sucede porque hay un panorama que lo permite. ¿Cómo el chico no va a repetir un discurso de odio si es lo que más ve en redes? Quizás pretendemos que las infancias y adolescencias construyan un mundo distinto, pero en realidad están replicando el ya existente”, reflexiona.
Para la activista, es necesario que haya información sobre los derechos digitales y saber a dónde acudir cuando se vulneran. Y, sobre todo, “diálogo intergeneracional”. Esta dimensión es central: en la conversación entre los más jóvenes y quienes crecieron sin un celular es posible interrogar hábitos cotidianos que se presentan como evidentes.
Ese cruce debe, desde el punto de vista de estos adolescentes, acompañarse de otras instancias protagonizadas por los propios jóvenes sobre la problemática que más afecta a un grupo puntual, en lugar de la “típica charla sobre ciberbullying de adultos para chicos”. “Una buena solución es que los propios pibes demos talleres sobre ESI. Si te habla alguien de tu edad, que se parece a vos, el mensaje se va a captar mejor que si lo hace alguien con más poder”, opina Caricatto.
La revista Cebados, conformada por estudiantes de Quinto año del Instituto León XIII de CABA, elaboró una guía para dar clases sobre redes sociales “sin dar cringe” y sin “caer en el sermón”. El escrito invita a los docentes a explicar el funcionamiento de estas plataformas y conversar sobre sus efectos sociales y culturales, principalmente en chicas que imitan a sus influencers favoritas e incorporan rituales de belleza no aconsejables para su edad. El documento aconseja frases para encarar la charla con adolescentes y otras a evitar como “ustedes están todo el día con el celular”.
“Si el primer mensaje que reciben los y las estudiantes es una crítica directa a su uso del celular sin escuchar lo que piensan, la clase se cierra antes de empezar. No es que se ‘obsesionen’ porque sí, ni que “no se puedan controlar”. Y tampoco es tan simple como decir que ‘las redes son el problema’ o que ‘todo depende de cómo las use cada uno’”, arriesgan. Para las estudiantes, se trata de entender que “es una relación mucho más compleja: las redes, la sociedad, las modas, los algoritmos, la cultura y las experiencias personales se mezclan todo el tiempo, y eso termina influyendo en cómo las y los adolescentes se ven, sienten y actúan”.
Regular para equilibrar la cancha
Para Bonino, es difícil marcar la línea de hasta dónde puede interceder la escuela: “La respuesta fácil es que se tiene que hacer cargo de estos conflictos, pero muchas veces no cuenta con las herramientas ni con los conocimientos. Hay otros ámbitos como la familia, los clubes, los espacios de activismo y hasta los propios entornos digitales donde hay que charlar de estos temas”.
“No podemos permitir que no haya legislación sobre esto. Hay mucha impunidad”, problematiza el joven de Mercedes. Efectivamente, en la Argentina, al igual que en la mayor parte del mundo, no hay normativa a la altura de la velocidad de estas transformaciones. Un ejemplo de imaginación política es el caso de Brasil, en donde el gobierno de Lula decidió ponerle un freno a estas arquitecturas digitales. Recientemente, promulgó la ley conocida como “adultización” o “ECA digital”. Las empresas de tecnología deberán diseñar productos pensando en el interés superior de las infancias y adolescencias y proporcionarles los niveles más altos de privacidad y seguridad. Esto incluye la protección de datos personales y reglas de control parental claras y en portugués. También, la verificación de la edad de los usuarios más allá de la autodeclaración.
Las cuentas en las redes sociales de los menores de 16 años deberán estar vinculadas y conectadas a la de un tutor legal, que podrá gestionar la configuración de privacidad y supervisar las interacciones con adultos. Además, se exhorta a regular los contenidos que les aparecen a los menores de edad como la promoción de sitios de apuestas, pornografía, violencia e incitación a prácticas que dañen la salud física o mental. Y, como si fuera poco, no se podrá fomentar el uso compulsivo de productos o servicios. En otras palabras, se desalienta el scroll automático de TikTok e Instagram. Las empresas que no cumplan con estas pautas podrán enfrentar multas de hasta 50 millones de reales o el 10 por ciento de los ingresos que obtengan en Brasil.
En tiempos de plataformas e inteligencia artificial, el suelo que caminan pibes y pibas, pero también sus docentes y familias, se mueve a un ritmo que puede volverse puro vértigo. El Estado tiene la posibilidad, pero también la responsabilidad, de incidir en este terreno a través de políticas diseñadas desde una nueva ética digital que tiendan a cambiar las reglas del juego. Mientras tanto, la cancha sigue inclinada a favor de Silicon Valley y en detrimento del bienestar de cientos de miles de adolescentes.
*El nombre real de Julieta fue alterado para la publicación de este artículo.
