Juventudes y tecnología: Meta y el desafío de legislar sin vigilar ni censurar
Mientras especialistas coinciden en exigir responsabilidad a las grandes corporaciones de tecnología por el diseño adictivo de sus plataformas y los daños en la salud mental de los jóvenes, también advierten que los mecanismos de prohibición en soledad no resuelven los problemas de fondo. ¿Es posible pensar en una regulación que contemple la promoción de la autonomía progresiva, el acompañamiento adulto y un abordaje crítico sobre el rol que ocupa la tecnología en la vida cotidiana?
El reciente fallo contra Meta en el que se llegó a un arreglo con los fiscales generales de cuarenta y siete estados por manipular ilegalmente la atención de los niños, es tan solo uno de los últimos eslabones en una campaña global por determinar la responsabilidad de las redes sociales en varios de los males que aquejan a los niños y adolescentes hoy.
Para algunos, fue un acto de justicia que se venía haciendo esperar; para otros, una reacción lenta e insuficiente en una década atravesada por horrores en materia de impacto cognitivo y sobre la salud mental de los jóvenes. Baste decir que no hubo admisión oficial de culpa por parte de la empresa y que la cifra de 17.000 millones de dólares parece un vuelto, al lado de lo proyecta facturar esta mega corporación (que gastó más de dos mil millones de dólares en su defensa legal).
Como resultado, Meta se comprometió a realizar una serie de modificaciones en las interfases de Facebook e Instagram, que incluyen entre varias cosas: la eliminación en el recuento de “me gusta" en las publicaciones y del feed algorítmico como única experiencia posible, remover el autoplay, la eliminación de filtros de belleza. Hasta acá, medidas lógicas teniendo en cuenta el carácter manifiestamente adictivo de la experiencia de usuario de muchas de estas plataformas, diseñadas para maximizar el tiempo que las personas pasamos online; de igual manera que hace sentido viendo fenómenos recientes, como el aumento de los problemas de salud mental y desórdenes alimenticios relacionados con la presión estética (o nuevas patologías, como la dismorfia corporal), que aunque no siempre son ocasionadas por el uso de las redes, se encuentran en aumento y están fuertemente influenciadas por ellas.
La polémica detrás del sistema de verificación por edad
Sin embargo, la situación se vuelve más compleja cuando nos adentramos en otros de los cambios festejados por parte de la sociedad civil, como la verificación por la edad. Hay algo todavía más trascendente para pensar en relación a estos fallos aparte del timing, el alcance de la penalidad o las repercusiones públicas, y tiene que ver con cómo se están pensando las salvaguardas tecnológicas a futuro para las juventudes y qué tipo de sacrificios estamos dispuestos a hacer como sociedad para intentar subsanar los errores del pasado.
Sobre todo, si lo que desde varios espacios —tanto de defensa de los derechos civiles, ámbitos de militancia feminista, el periodismo independiente y disidente, y hasta desde el movimiento de software libre— están advirtiendo: la verificación por edad mandatoria y las prohibiciones de acceso a plataformas también podrían afectar(nos) a todos en sentidos más complejos de los que estamos previsualizando en relación a nuestros derechos de privacidad, de acceso a la información, a la libertad de expresión y hasta los derechos políticos de grupos minoritarios o marginados, al tiempo que no solucionan el problema de fondo ni para chicos, ni adultos. Aunque a estos últimos se los mencione poco.
Algunos expertos en tecnología y periodistas señalan estos peligros, pero también algunas cuestiones intuitivas tanto desde lo técnico como cultural, como por ejemplo, que las prohibiciones son técnicamente permeables, ya que se pueden falsear datos y simular con Inteligencia Artificial —conviene considerar que a menudo los adolescentes poseen mayores competencias digitales que los legisladores que los regulan—, incluso si se externalizan a las propias empresas de redes sociales. Esto, además, podría desencadenar un éxodo hacia redes privadas virtuales (VPN) o, lo que es peor, empujar a los usuarios jóvenes a buscar plataformas, foros y servicios de chat menos regulados que Instagram, sin moderación o cifrados (desde Reddit a Discord, Telegram o rincones de la dark web). Suena totalmente razonable que un adolescente que quiere buscar información que le fue restringida o interactuar con sus amigos u otros, recurra a estas medidas.
Mitos y verdades en torno al uso de las redes sociales
Pese a estas objeciones, avanza en todo el mundo la regulación de redes sociales que busca prohibir el acceso a menores de edad. Australia fue de los primeros países en restringir el acceso antes de los 16 años. Brasil, Dinamarca, Reino Unido, España y Francia plantearon medidas similares; mientras que en LATAM empezaron a discutirlo en Argentina, Colombia, Ecuador, Uruguay y Panamá.
No es que no haya que desarrollar mejores salvaguardas para las niñeces y adolescencias, abrir el debate público para rediscutir el diseño de las plataformas y apps, y exigir responsabilidad y transparencia a las empresas. Pero como sugieren periodistas especializados en derechos civiles y tecnologías, como Taylor Lorenz, “todo esto está dando paso a una era de vigilancia masiva y censura generalizada, contribuyendo a lo que los académicos han denominado como una recesión global de la libertad de expresión”, según explica en esta nota en The Guardian.
No solo estas medidas eliminan el anonimato en la web —algo que ocurrirá cuando se exija a las empresas tecnológicas identificar y vetar a los menores—, sino que facilitan que los gobiernos rastreen y censuren a periodistas, militantes feministas o políticos, activistas estudiantiles y hasta denunciantes. Pero también a medios, repositorios de información, organizaciones y personas que consideren “peligrosos”. Basta pensar que medios como este mismo podrían ser “banneados” o restringidos por considerarlos “no aptos” para menores, “amorales” o “demasiado woke”.
¿Cómo se construyen estos criterios y quién los revisa? ¿Son los contenidos sobre salud reproductiva, pro-aborto o de atención a la afirmación de género algo que podría prohibirse o limitarse también? E inclusive, ¿podrían los chicos acceder a material educativo anatómicamente preciso o hasta artístico que contenga desnudos? ¿Dónde está la línea y quién la traza?
Para complicar aún más las cosas, estas medidas coexisten con un debate ya saldado por parte del ámbito científico, pero que sirve como aliciente para muchas de estas medidas: que las redes sociales generan adicción. Más allá de que esto ha sido cuestionado porque no existe tal cosa como la “adicción a la dopamina” generada por Instagram, muchos de estos discursos generan un caldo de cultivo basado en el pánico moral que le facilita la labor a los grupos conservadores y los políticos de derecha que hoy están en el poder. De hecho, como Lorenz también señala, varias de las organizaciones y el lobby detrás de estas medidas responden a instituciones tradicionalistas como la Heritage Foundation o asociaciones de “moralidad” y grupos anti-LGBTQ.
Un breve paréntesis: el autor del libro que se transformó en bestseller y que muchos citan para justificar el avance de estos fallos como algo positivo, Jonathan Haidt, es uno de los tantos intelectuales que contribuyeron al crecimiento y la adopción del perjudicial discurso del wokismo que llegó hasta estas latitudes. Más allá de que la tesis central de su libro “La generación ansiosa” haya sido relativizada o refutada en varias oportunidades, cabe reparar el contexto en el que se gestan las ideas que moldean nuestra mirada del mundo y nuestro vínculo con la tecnología.
Si el 95% de las infancias y adolescencias ya cuentan con un celular con acceso a Internet y muchos pibes y pibas llevan sus vidas online, aunque estos espacios no son inocuos para la salud mental e inciden en el aprendizaje (así como ahora estamos viendo el impacto de la IA en la lectura, la escritura y el pensamiento crítico y creativo), también se constituyen en lugares para buscar información que los chicos no pueden obtener de otra manera, reunirse con sus pares e incluso encontrar apoyo y crear comunidad en el caso de personas LGBTQ o marginadas (zonas rurales, barrios vulnerables urbanos, etc). En suma, aunque cueste decirlo en voz alta, las redes sociales pueden ser también un paraguas experiencial para muchos jóvenes.
¿Una nueva era de vigilancia masiva y transgresión de derechos básicos?
Lorenz no es la única alertando, también desde diarios mainstream, como el New York Times, se han hecho las pertinentes advertencias en relación a que estas medidas son inconstitucionales. “Una plataforma de redes sociales no es una botella de alcohol ni un cigarrillo. No suministra una droga; transmite expresiones. A veces, esas expresiones son triviales e inofensivas; otras veces, son tóxicas y perjudiciales; y en ocasiones, resultan educativas o inspiradoras”.
¿Finalmente se le está asestando un golpe grande a una de las corporaciones que más daño ha hecho en la última década? Hay que reconocer que la injerencia de Meta hoy excede a las redes sociales y se extiende a otros ámbitos de creciente preocupación (desde la IA a desarrollos de realidad aumentada, como los lentes Meta) e influencia política. Por otro lado, muchas de estas leyes, en vez de frenar el poder de las grandes empresas tecnológicas, terminarán consolidando los monopolios y debilitando a las plataformas independientes o sin fines de lucro, que sin fondos o estructura suficiente para asumir los elevados costos de los sistemas de verificación podrían desaparecer.
Por último, ¿qué ocurre con los riesgos de crear sistemas de vigilancia masiva que pueden ser utilizados a piacere por gobiernos y grupos privados? ¿No deberían el fantasma de Palantir (y su actual utilización por el ICE) o la figura de Peter Thiel —afincado en la Argentina—espabilarnos? ¿Qué pasará con los discursos disidentes o las posturas pro-palestina, de conciencia climática o de defensa de los derechos de las mujeres y personas queer online en este contexto tecno-político?
Aunque las intenciones de proteger a los chicos pueden ser buenas, si se mira de cerca el enforcement de muchas de estas medidas, aparecen todavía más problemas técnicos y legales que los tecnólogos están advirtiendo: desde cómo verificar realmente la edad de una persona online sin entregar cada vez más datos sensibles a empresas que nos han demostrado una y otra vez que no son confiables, o exponer datos sensibles de los usuarios al generar “honey pots” con millones de datos personales muy tentadores para ser hackeados, que en vez de combatir el fraude informático, lo estimulan.
Como proponen especialistas al referirse a la Online Safety Act en vigencia en el Reino Unido, ésta no sólo no es la forma más eficaz de proteger a los niños, sino que si el modelo se extiende no se limitará a bloquear contenidos para menores, también determinará si los adultos pueden leer, escribir y debatir libremente sin someterse a vigilancia. Muchas de estas leyes que piden el monitoreo de los contenidos de las plataformas implican poder vigilar fácilmente todo el contenido producido por usuarios y, para ello, quitar el cifrado de extremo a extremo, esencial para muchas víctimas de abusos, el colectivo LGBTQ, periodistas y sus fuentes confidenciales, entre otras cuestiones.
Cada vez son más las aplicaciones que piden datos sensibles, muchos de ellos basados en la verificación de identidad. Este viraje paulatino, pero para nada inocente, se da en un contexto de sociedades que avanzan hacia estados vigilados (como las cámaras Flock en EEUU y las idas y vueltas con el presupuesto de la SIDE), y estados que prohibieron en el discurso público e institucional palabras consideradas “woke” y cerraron programas y políticas DEI. Todas estas medidas, que podrían imitarse en lugares como Argentina, son las consecuencias no calculadas que podría haber, y que afectan de manera diferenciada a las minorías y mujeres.
¿Hacia dónde vamos no hay privacidad?
El corolario no tiene por qué ser lúgubre, es cierto que en un panorama en el que las Big Techs parecen moverse a sus anchas, fallos como estos son, de mínima, ejemplificadores y pedagógicos para el resto de la sociedad, si pensamos en lo que podemos y debemos exigirles a las empresas en una relación de poder que sin la intervención estatal es absolutamente asimétrica.
“Hay que diferenciar los reclamos sobre la censura, de lo que es el diseño para retener la atención de las y los usuarios, con el scroll infinito, los sistemas de recomendación, la opacidad constitutiva que tienen esos sistemas algorítmicos para favorecer un modelo de negocios que es muy invasivo y abusivo”, explica Martín Becerra, profesor de la Universidad Nacional de Quilmes y UBA, e investigador del CONICET, que también advierte que la verificación de edad es blanquear una práctica que en los hechos vienen realizando desde hace tres décadas. “Pero tampoco es infalible el sistema actual de no exigirles nada, porque efectivamente están transgrediendo todo, construyendo perfiles de menores de edad, aunque las leyes de protección de datos lo prohíban”.
Lo cierto es que a más de una década de preocupación por la forma en que los adolescentes usan las redes sociales, y pese a este fallo, aún con las pertinentes advertencias de privacidad y seguridad hechas, hay que preguntarnos si la relación entre la tecnología y la sociedad ha cambiado realmente y si estamos pudiendo pensar más allá de los binarismos “redes sí o no”. Sobre todo, cuando sabemos que muchos de los problemas de salud mental de los jóvenes hoy encuentran otras causas estructurales que se acoplan con el fenómeno tecnológico, y que se mira demasiado poco.
Se habla del acompañamiento familiar y educativo, pero no todas las familias están en condiciones, y lo que para algunos puede sonar un básico (evitar las pantallas hasta determinada edad, por ejemplo), para otros es un privilegio.
Los expertos en tecnología también apuntan a que la prohibición no ofrece soluciones profundas (los chicos crecen y pasada esa edad límite podrían acceder a toda la oferta tech). “Mi problema es con una corriente que pareciera plantear que la prohibición es la base de este tema, casi como si con solo prohibir alcanzara; y encima con estándares de prohibición muy desafiantes para el status quo. La prohibición es mucho más una ‘demora de acceso’, es parte de un enfoque que debería estar basado en el ejemplo, el diálogo y la progresividad como camino hacia la autonomía progresiva”, matiza Sebastian Bortnik, especialista en crianza digital.
Dialogar e informar, curar contenidos y restringir siempre que sea posible, ¿y dar el ejemplo? Lo llamativo es que cuando discutimos todos estos tópicos que aquejan a los adolescentes, los adultos, a quienes todas estas cuestiones también los afectan de manera directa, parecen quedar al margen.
Lo que es seguro es que, independientemente de las posturas que asumamos tanto individual como socialmente, una parte importante, junto con demandar responsabilidad a las empresas, es mirar críticamente dónde ubicamos aspiracional y funcionalmente a estas tecnologías en nuestras vidas y las de los chicos. Valga como postal insólita en este escenario, que la misma semana en que se cerró el acuerdo judicial de Facebook, la portada de la revista Time mostraba a Sam Altman y Greg Brockman —fundadores de OpenAI— defendiendo su producto y pidiendo “Confíen en nosotros”.
