Algoritmos de la discordia (y 2)

En la publicación anterior escribí sobre la idea de los algoritmos de la discordia, que son aquellos mecanismos digitales que utilizan las redes sociales y otras plataformas de redes sociales interactivas, que bien sea de forma intencionada o no, contribuyen a la polarización social, política e ideológica, a formas de información sesgada, a la creación de tendencias y a la difusión de la desinformación.

Veremos entonces las características del contenido que amplifican estos algoritmos de la discordia. Tenemos, primeramente, contenidos polarizantes; temas que dividen a la sociedad (política, ideología, religión). Otro tema frecuente son las teorías de conspiración. Son atractivas porque ofrecen narrativas simples y secretas que explican eventos complejos, normalmente increíbles. 

Por otro lado, tenemos la desinformación y noticias falsas (Fake News), que suelen ser más llamativas y emocionantes que la verdad, por lo que se viralizan más rápido. Esto se aplica igualmente al contenido sensacionalista, con titulares exagerados o con un tono de indignación moral. Todas estas maneras son canalizadas por esos algoritmos, que replican y reproducen esos contendidos para obtener más seguidores, más engagement y más "me gusta". 

Un ejemplo es lo sucedido con la red social Facebook, cuyos los estudios internos por Meta en 2021 demostraban que sus algoritmos priorizaban el contenido dañino porque generaban más interacción. También sabían que Instagram era tóxico para la salud mental de muchas adolescentes y no aplicaban eficazmente sus propias normas de moderación de contenido en todos los idiomas, lo que permitía que la discordia se propagara en países en desarrollo, a veces con consecuencias violentas. 

En realidad los llamados algoritmos de la discordia no son un código malicioso creado con la intención de dividir a la sociedad, sino que son el resultado de un sistema de recomendación optimizado para un solo objetivo: el compromiso y el seguimiento, sin tener plenamente en cuenta el daño social colateral que causa al favorecer de manera sistemática el contenido más visceral y divisivo. Es un concepto crucial para entender cómo las plataformas tecnológicas que usamos a diario pueden moldear, sin quererlo, el discurso público y la salud democrática.