En estos tiempos de redes sociales, comunicación digital e inteligencia artificial, aparece un concepto interesante que nos da una visión cuestionadora de todos esos fenómenos. La llamada "dictadura" de los algoritmos. Es, obviamente, un término metafórico y crítico que describe la creciente influencia, y en muchos casos, el control, que los sistemas algorítmicos tienen sobre nuestras vidas, decisiones y sociedad, a menudo de manera opaca y sin un escrutinio democrático adecuado.
Naturalmente, no se refiere a un régimen político formal sino a un sistema de gobernanza tecnocrático donde las decisiones humanas son suplantadas o dirigidas por procesos matemáticos automatizados. Hay varios elementos que se pueden tomar en consideración para desarrollar este concepto. La primera dimensión es la de su propio funcionamiento.
La dictadura parte de la personalización y los filtros. Plataformas como redes sociales, Netflix o Amazon, usan algoritmos para mostrarle al usuario contenido "relevante". Esto crea la "burbuja de filtros" o "cámara de eco", donde solo se ve lo que el algoritmo predice que gustará, limitando la exposición a ideas diversas. Así mismo, otro elemento es la puntuación y la clasificación. Los algoritmos nos asignan "puntuaciones" que determinan si obtenemos un crédito (crédito social en algunos países, scoring financiero), un trabajo (análisis de CV), o incluso afectan sentencias judiciales en algunos lugares (herramientas de "risk assessment").
Por otra, tenemos la moderación de contenido. Los algoritmos deciden qué se viraliza, qué se oculta o qué se elimina, actuando como censores privados con criterios poco transparentes. Como fueron diseñados para la optimización del comportamiento, maximizan el "engagement" (tiempo en pantalla, clics), moldean nuestros hábitos, consumo y hasta nuestras opiniones políticas.
A este sistema se le designa como "dictadura" por su opacidad, falta de rendición de cuentas, inevitabilidad y discriminación. Muchos algoritmos son "cajas negras" y sus criterios son secretos comerciales. No sabemos por qué nos muestran algo o nos niegan un servicio. Cuando un algoritmo comete un error (por ejemplo, negar injustamente un beneficio), es difícil apelar, discutir o encontrar un responsable humano. Lo peor es su universalidad: es casi imposible escapar de ellos. Gobiernan desde el ocio hasta los servicios esenciales.
Finalmente, y tal vez lo más grave, multiplican los sesgos y la discriminación. Como aprenden de datos históricos que contienen prejuicios humanos (racismo, sexismo, clasismo), suelen reproducirlos y amplificarlos a escala masiva, creando injusticias sistémicas. En la siguiente publicación veremos ejemplos concretos y cómo nos enfrentamos a esta nueva realidad.
No hay comentarios:
Publicar un comentario