- Experto alerta que redes fomentan adicción y contenido dañino en menores
Carlos Lara Moreno
Los algoritmos y herramientas utilizados por las grandes plataformas de redes sociales están diseñados para maximizar la interacción de los usuarios y pueden provocar uso excesivo, contactos sexuales no solicitados y exposición de menores a contenido dañino, advirtió Ravi Iyer, director general del Instituto de Psicología de Tecnología y del Centro Neely de la Universidad del Sur de California.
Al exponer los riesgos que enfrenta la niñez en el entorno digital en la conferencia de prensa de la mañana en Palacio Nacional, Iyer sostuvo que el problema no se limita a las personas que publican material perjudicial, sino que alcanza directamente al diseño de las plataformas y sus sistemas de recomendación, construidos para mantener la atención de los usuarios.
“Estos productos pueden diseñarse mejor, y sé que la forma en que están diseñados hoy causa daño a los niños”, afirmó.
El especialista, quien dijo haber trabajado durante cuatro años y medio en el diseño de este tipo de sistemas, explicó que buena parte de los algoritmos comerciales son optimizados a partir del comportamiento inmediato de las personas: qué contenidos abren, comentan y durante cuánto tiempo permanecen frente a ellos.
“Los algoritmos actuales suelen diseñarse para optimizar el comportamiento observado, comúnmente llamado interacción o engagement”, señaló.
Iyer contrastó ese modelo con la posibilidad de construir tecnologías orientadas hacia las aspiraciones expresadas por los propios usuarios y no únicamente hacia aquello que consigue mantenerlos conectados durante más tiempo.
Para explicar esa diferencia recurrió a una analogía: “Si me ofrecieran una dona en este momento probablemente me la comería. Quiero la dona, pero no quiero ser alguien que siempre esté comiendo donas”.
Menores reciben contenido que no buscaron
Entre las consecuencias del actual diseño de las plataformas, Iyer destacó el uso excesivo de redes sociales entre adolescentes. Citó una encuesta en Estados Unidos según la cual 45% de los jóvenes reconoció pasar demasiado tiempo en redes sociales, otro 45% dijo que afectan su sueño y 40% señaló afectaciones a su productividad.
También mencionó datos de investigaciones internas de Meta que, según explicó, fueron conocidos como parte de un litigio en Nuevo México. De acuerdo con esas cifras, 13% de los usuarios de Instagram de entre 13 y 15 años recibió alguna insinuación sexual no deseada durante un periodo de siete días.
Además, afirmó que 19.2% de los menores de ese mismo rango de edad reportó haber visto desnudos u otro contenido no deseado en una sola semana.
“La palabra clave aquí es indeseado. Estos niños no están buscando el material; se les ofrece a través de un sistema de recomendaciones diseñado para captar su atención”, enfatizó.
El fenómeno, agregó, rebasa a Estados Unidos. Iyer citó una encuesta de la autoridad australiana de seguridad digital entre más de 3 mil menores de 10 a 17 años, en la que 47% declaró haber visto comentarios ofensivos o sexistas sobre niñas y mujeres, 47% videos de peleas y 46% retos peligrosos en internet.
“El problema no son los usuarios malos”
Iyer señaló directamente características como el scroll infinito, reproducción automática, conteo de “likes”, rachas, notificaciones, sistemas de recomendación personalizados y configuraciones de privacidad laxas como decisiones de diseño capaces de aumentar los riesgos.
“El problema no son los usuarios malos que publican contenido negativo; es un sistema diseñado para fomentar el uso excesivo, el contacto indeseado y la exposición a contenido no deseado y dañino”, sostuvo.
En ese contexto, destacó una resolución judicial en Nuevo México contra Meta Platforms que, de acuerdo con su exposición, obliga a modificar durante cinco años diferentes características de Facebook e Instagram relacionadas con usuarios menores de edad.
Entre las medidas mencionó reforzar la verificación de edad, mantener privadas por defecto las cuentas de adolescentes, ocultar públicamente el conteo de “likes”, desactivar notificaciones durante la noche y el horario escolar, limitar el tiempo de utilización de Facebook e Instagram e impedir determinados contactos entre adultos y menores sin una relación previa.
También señaló medidas dirigidas a la inteligencia artificial, particularmente para evitar intercambios románticos o sexualizados entre menores de 18 años y chatbots de Meta, incluyendo situaciones en las que un menor pueda desarrollar apego hacia un producto de IA.
“Cada una de estas es una decisión; cada una de ellas puede tomarse de otra manera”, afirmó.
Iyer sostuvo que distintas jurisdicciones comienzan a establecer límites al diseño de las plataformas digitales y mencionó medidas regulatorias adoptadas o impulsadas en Estados Unidos, la Unión Europea, Reino Unido, Indonesia, Emiratos Árabes Unidos y Brasil.
El especialista rechazó que este tipo de regulaciones representen una oposición al desarrollo tecnológico.
“No estamos en contra de la tecnología, sólo queremos que los productos tecnológicos estén diseñados para ayudar a las personas a alcanzar aspiraciones, no para obstaculizarlas, especialmente en el caso de nuestros hijos”, concluyó.