El debate

La tecnología que nos conecta también nos controla, manipula, polariza, distrae, monetiza, divide… El mensaje y las conclusiones de los autores y protagonistas del documental son claros y directos. Sobre ellas, sobre el “dilema de las redes sociales”, las reacciones que ha provocado o las posibles actuaciones o soluciones frente al poder de las redes han debatido dos decenas de socios de OdiseIA, profesionales de distintas áreas, muy vinculados y conocedores de las últimas tecnologías en sus distintas aplicaciones. Apenas empezado el diálogo un primer punto, de acuerdo, haberlo visto o saber de qué va el documental está siendo el origen de una conversación que ha transcendido más allá de él, expandiéndose exponencialmente sin limitarse por fronteras, para poner fuera de las redes cuestiones como la consciencia social o cómo se diseña y funciona la tecnología que usamos tan habitualmente y a la que, en general, tan poca atención se presta con toda la importancia e impacto que tiene en nuestras vidas.

Salud mental

En el ¿bienestar digital? en el que vivimos esta ficción de Netflix explica cómo funcionan los algoritmos y sus objetivos y nos plantea distintos dilemas, como el de la salud mental. Tal como recoge un estudio de 2017 de la American Journal of Epidemiology se comprobó que un mayor uso de los medios sociales se correlacionaba con un descenso de la salud mental y física y de la satisfacción con la vida. Algunos de los participantes en el debate, por propia experiencia, hablaron de esa fatiga, de acabar siendo profesionales “quemados”, de la hiperconectividad sin horarios y de cómo acaba afectando a la salud física y mental, en demasiadas ocasiones, sin que nosotros mismos queramos ser conscientes de ello pensado que lo tenemos controlado. También, pese a todas estas contrariedades, de la oportunidad que encontraron para un cambio, para descubrir de dónde viene esta tecnología, de la necesidad de la ética y de hablar y tener en cuenta un bienestar digital real, de hacer y fomentar el uso responsable de la tecnología y de la ocasión, tanto personal como en la sociedad, para tomar decisiones y acciones. Propuestas planteadas fueron mantener relaciones más saludables con la tecnología, como el Digital Wellness, o “tomar acción” para que se diseñe, regule y use pensando en la sociedad. Un apunte, muy presente en la serie y cotidiano en nuestros días, el impacto que tiene en la juventud el uso de las redes, su dependencia, las relaciones que establecen en ellas, etc. en un momento clave de sus vidas, el de la construcción de sus propias identidades y la formación de su personalidad. Ahora además se produce, con esta pandemia, con un enorme distanciamiento afectivo, con la alteración de referencias que permitan entender lo que se ve, lo que se siente…

Discriminación y sesgos

Entre otros temas de trabajo de OdiseIA está uno de los dilemas planteados, el de la discriminación y los sesgos. La propia Facebook, protagonista indiscutible del documental, recogía en un informe interno de 2018 que el 64% de las personas que se unieron a grupos extremistas en Facebook lo hicieron porque los algoritmos los guiaron hasta allí, al igual que le sucede a uno de los actores que interpreta un papel principal en “El dilema de las redes sociales”. No deja de sorprender que la tecnología, que es agnóstica en sí misma, tenga tantos efectos positivos y, a la vez, tantos negativos. Es paradójico que nos haya dado acceso a la mayor cantidad de información abierta jamás imaginada por el ser humano, haciendo visible tanto la histórica como la actual, pero que, al mismo tiempo, los algoritmos sean los creadores de burbujas basadas en recomendaciones personalizadas que, finalmente, limitan nuestro acceso y conocimiento de múltiples contenidos por estar en un bucle continuo de información, datos o contactos similares a los “supuestamente” preferidos por el usuario. Es en este círculo limitado en el que coinciden las opiniones y preocupaciones de la mayoría de los participantes en el debate, en estos nichos que restringen el conocimiento o en los que, para los juristas y especialistas en IA del grupo, priman los beneficios dando al usuario “lo que sea”, los intereses empresariales y, en especial tener poder, sobre la ética, el respeto o en la definición de cómo será un futuro claramente tecnológico. Encuentran en este modelo de negocio un gran riesgo de “destrucción masiva” ya que, opinan, “no predicen el futuro, lo causan” y es difícil de discernir si estas actuaciones o los comportamientos de los algoritmos, como los sesgos, son inevitables, involuntarios o voluntarios, responsables…
“El dilema de las redes sociales”. Una cuestión de poder
Debate sobre “El dilema de las redes sociales” en OdiseIA Para las personas juristas del grupo, el aislamiento de la realidad, la creación de vidas paralelas que forman sociedades digitales virtuales que replican al mundo real o crean nuevas con sus ciudadanos, sus principios, sin fronteras… supone un desafío y una preocupación ya que, en nuestra vida cotidiana el marco normativo es muy importante, pero ¿con qué reglas, valores, principios, etc. se rigen estas sociedades virtuales? ¿Cuáles pueden considerarse como correctas? ¿Cómo podría ser su traslación al mundo real?

Democracia y fake news

Un dilema crítico en la actualidad es el de la democracia, con el aumento de las fake news y las campañas de desinformación, recogidos en múltiples informes de gobiernos, organizaciones, instituciones, ONGs… o con el impacto que han tenido en distintas elecciones, como fue el caso de las presidenciales estadounidenses de 2008 o el escándalo Cambridge Analytica. El control y uso de los datos, basado en el conocimiento de la psicología social y en los hábitos, costumbres y preferencias de los usuarios/clientes, carente de preocupación por cumplir o proteger derechos fundamentales por la obtención de beneficios empresariales, ha demostrado que marca y condiciona comportamientos individuales y colectivos pero, ¿deberían ser así? ¿Es suficiente el criterio de un algoritmo para conceder, restringir o denegar información o servicios? ¿Para determinar actuaciones humanas?… Como pueda ser desde la compra de una prenda de vestir a la orientación de un voto en cualquier democracia consolidada y libre. Estos condicionantes del comportamiento inquietan por la amenaza que supone que un algoritmo, o los intereses que estén detrás, puedan causar una “uniformidad de manipulados” con un comportamiento predecible por los dictados de la IA o por cumplir con los requisitos que esta supuesta inteligencia superior pueda plantear, aunque ésta sea “estúpida”. Surge, incluso, la pregunta de si las tecnologías “inteligentes”, o sus aplicaciones, deberían ser un servicio público, con sus reglas, instrumentalizadas y definidas dentro de un modelo social.

Impacto personal

Con todas estas cuestiones en debate entre los socios se planteó una cuestión personal: “¿Qué os ha parecido, qué os ha hecho sentir el documental?”. Respuestas habituales fueron “sorpresa, impotencia, preocupación, inquietud, pena, escepticismo…” por el uso que se da a la IA, por los sesgos y el modelo de negocio basado en la extracción de datos de los usuarios, por el “¿dónde vamos o hasta qué punto llegaremos?”. También felicidad por que este tema empiece a ser conocido, que genere impacto en la sociedad y que seamos conscientes de los grandes beneficios de la tecnología, de los avances o de las ventajas de conectar y compartir, pero siendo conscientes de que “el mal está ahí”. Por otro lado, se echó en falta determinados contenidos o la participación de responsables o personal actual de Facebook, dado que las personas protagonistas fueron empleadas hace años o son ajenas completamente a ellos. También que pueda ser en algunas cuestiones amarillista, excesiva o carente de matices. Es importante destacar que Facebook, en una acción poco habitual, ha dado en siete puntos una respuesta oficial a este documental de Netflix, cuyo algoritmo, no dejó de ser comentado.

¿Acciones?

Y si estamos concienciados e impactados, ahora: ¿qué acciones se podrían tomar? Hay una primera reflexión histórica: las audiencias siempre se han buscado. Desde hace décadas se estudian comportamientos para adaptar los contenidos a la demanda, intereses o, más recientemente, la experiencia de usuario. Hace unos años llegaron la IA y los algoritmos, con todos sus beneficios y de la mano de dos cuestiones negativas: el concepto de burbuja (ejercicio de eficiencia como modelo de negocio) y la vinculación emocional. Las redes sociales podrían, de alguna manera, asemejarse al modelo de negocio del narcotráfico: crean adicción y redes clientelares para influir en las acciones de las personas, modificar su conducta y, esencialmente, tener dinero y poder.
“El dilema de las redes sociales”. Una cuestión de poder
Photo by & Marius Masalar on Unsplash Un primer paso sería identificar qué acciones están en manos de las redes o de quiénes las controlan y cuáles en las nuestras. Como usuarios deberíamos recuperar capacidad crítica y sentido común para tener la oportunidad de decidir y definir quiénes somos y qué queremos. Como ciudadanía es importante ser consciente de que tenemos un problema colectivo, así como trabajar y demandar mejoras en la educación, en que se enseñe a manejar la tecnología y a tomar decisiones o en el conocimiento y protección de la ética y los derechos, sin olvidar los deberes. ¿Cómo podemos llevarlo desde abajo hasta arriba? Frente al escepticismo y falta de acción de las compañías, ya que la ética no es rentable económicamente, sí que se puede sensibilizar y movilizar a la sociedad (usuarios y clientes de las redes) y convencer a los anunciantes (financian este modelo de negocio), para que tomen acciones que obliguen a las empresas a tomar decisiones directas. Como usuarios/consumidores tenemos margen de influencia y responsabilidad, las empresas anunciantes, que se juegan su dinero e imagen, también. Además, frente a los modelos estadounidense y chino, en los que priman el mercantilismo, el control y la homogeneización para beneficio de empresas y estado, nunca para el individuo (al que se ha privado de sentido crítico y responsabilidad), en Europa contamos con el amparo del marco legal que proporcionan las instituciones comunitarias y que, en la mayoría de los estados miembros, se aplica en las legislaciones nacionales.

En el tintero

China, al igual que otras cuestiones “elefantes” como el uso de perfiles falsos o el flujo de datos a las agencias de inteligencia, quedaron apenas comentados por falta de tiempo. También si ahora sabemos que nuestros datos cuestan y generan negocio y dinero ¿hasta qué punto queremos ceder nuestra privacidad gratuitamente? ¿Qué consideramos como irrenunciable? Seguro que en próximas citas de OdiseIA estas y otras preguntas encontrarán debate y respuesta.
“El dilema de las redes sociales”. Una cuestión de poder
David Corral Hernández es Responsable de Innovación de Contenidos en RTVE y Socio de OdiseIA. [Este artículo no representa la posición oficial de RTVE ni de OdiseIA en su conjunto]

Compartir