La dictadura de los algoritmos (y 2)

En la publicación anterior hice un resumen de lo que ha dado en llamase "dictadura de los algoritmos". Siendo los algoritmos toda serie de pasos o instrucciones bien definidas que se siguen para resolver un problema o realizar una tarea específica, y en el caso de la informática una serie de secuencias, instrucciones o mandos que sirven para hacer correr programas y funciones digitales, estos guían los procesos mediante los cuales se rige internet, las redes sociales y la Web. Vimos que están diseñados de tal manera que responden a intereses de programaciones pensadas para canalizar formas de navegación y acceso a informaciones en el ciberespacio. Aquí pongo algunos ejemplos:

    Redes Sociales: el feed de Instagram o TikTok es un producto algorítmico que dicta qué es tendencia y qué no.

    Búsqueda de Google: el PageRank decide qué información es "autoritativa", influyendo en nuestro conocimiento del mundo.

    Plataformas de trabajo: Uber, Deliveroo o Amazon Mechanical Turk fijan precios, turnos y rendimiento mediante algoritmos, a menudo deshumanizando el trabajo.

    Vigilancia Predictiva: algunas policías usan algoritmos para predecir dónde ocurrirá un crimen o quién podría cometerlo, llevando a una vigilancia desproporcionada de ciertos barrios.

Esta especie de "dictadura" que domina y determina tendencias, sesgos e intereses, recibe muchas críticas. El problema va más allá de la vigilancia o la manipulación. Se argumenta que vivimos en una "siliconización del mundo", donde la lógica algorítmica busca cuantificar, predecir y optimizar todos los aspectos de la vida humana, erosionando el juicio personal, la serendipia, la intimidad y la soberanía individual. Se instaura una "gobernanza por los números".

Hay algunas formas o alternativas para minimizar este gobierno. Por ejemplo, la alfabetización digital y crítica; entender cómo funciona este régimen algorítmico es el primer paso para dejar de verlos como neutrales. Otra forma es establecer ciertas formas de regulación. Leyes como el RGPD (Reglamento General de Protección de Datos) en Europa intentan dar transparencia y control sobre los datos personales. Se debate el "derecho a la explicación" de decisiones algorítmicas. Está latente la delicada frontera entre el control y la censura, pero pareciera que en efecto falta control en este sentido.

Hay que pensar también en el diseño ético. Hoy hay varios movimientos dentro de la tecnología que abogan por algoritmos auditables, justos y con supervisión humana. Inclusive, se piensa en una tecnología de código abierto y pública, para promover algoritmos cuyo funcionamiento sea público y esté al servicio del bien común, no solo del lucro privado. 

La "dictadura de los algoritmos" es una llamada de atención sobre cómo hemos delegado, sin un debate democrático profundo, la toma de decisiones que afectan a individuos y sociedades en sistemas automatizados, opacos y con fines frecuentemente comerciales o de control. Estos no son "malvados" por naturaleza, pero su diseño, opacidad y uso indiscriminado plantean riesgos enormes para la autonomía, la igualdad y la libertad. Es una campanada para no ser usuarios pasivos, sino a cuestionar, exigir transparencia y repensar el lugar que queremos que la tecnología ocupe en nuestra humanidad.

La dictadura de los algoritmos (1)

En estos tiempos de redes sociales, comunicación digital e inteligencia artificial, aparece un concepto interesante que nos da una visión cuestionadora de todos esos fenómenos. La llamada "dictadura" de los algoritmos. Es, obviamente, un término metafórico y crítico que describe la creciente influencia, y en muchos casos, el control, que los sistemas algorítmicos tienen sobre nuestras vidas, decisiones y sociedad, a menudo de manera opaca y sin un escrutinio democrático adecuado.

Naturalmente, no se refiere a un régimen político formal sino a un sistema de gobernanza tecnocrático donde las decisiones humanas son suplantadas o dirigidas por procesos matemáticos automatizados. Hay varios elementos que se pueden tomar en consideración para desarrollar este concepto. La primera dimensión es la de su propio funcionamiento.

La dictadura parte de la personalización y los filtros. Plataformas como redes sociales, Netflix o Amazon, usan algoritmos para mostrarle al usuario contenido "relevante". Esto crea la "burbuja de filtros" o "cámara de eco", donde solo se ve lo que el algoritmo predice que gustará, limitando la exposición a ideas diversas. Así mismo, otro elemento es la puntuación y la clasificación. Los algoritmos nos asignan "puntuaciones" que determinan si obtenemos un crédito (crédito social en algunos países, scoring financiero), un trabajo (análisis de CV), o incluso afectan sentencias judiciales en algunos lugares (herramientas de "risk assessment").

Por otra, tenemos la moderación de contenido. Los algoritmos deciden qué se viraliza, qué se oculta o qué se elimina, actuando como censores privados con criterios poco transparentes. Como fueron diseñados para la optimización del comportamiento, maximizan el "engagement" (tiempo en pantalla, clics), moldean nuestros hábitos, consumo y hasta nuestras opiniones políticas.

A este sistema se le designa como "dictadura" por su opacidad, falta de rendición de cuentas, inevitabilidad y discriminación. Muchos algoritmos son "cajas negras" y sus criterios son secretos comerciales. No sabemos por qué nos muestran algo o nos niegan un servicio. Cuando un algoritmo comete un error (por ejemplo, negar injustamente un beneficio), es difícil apelar, discutir o encontrar un responsable humano. Lo peor es su universalidad: es casi imposible escapar de ellos. Gobiernan desde el ocio hasta los servicios esenciales.

Finalmente, y tal vez lo más grave, multiplican los sesgos y la discriminación. Como aprenden de datos históricos que contienen prejuicios humanos (racismo, sexismo, clasismo), suelen reproducirlos y amplificarlos a escala masiva, creando injusticias sistémicas.  En la siguiente publicación veremos ejemplos concretos y cómo nos enfrentamos a esta nueva realidad. 

Una viñeta de humor con la IA y mucha ironía

Esta imagen la he visto circulando hace unos días por las redes sociales y me ha parecido muy oportuna, porque además de un toque de humor negro nos muestra una ironía latente: la inteligencia artificial que lo sabe todo, muchas veces se equivoca... 

Significados leyendo las imágenes, según Gunther Kress y Theo van Leeuwen

En la entrada anterior vimos un breve resumen de lo que los autores Gunther Kress y Theo van Leeuwen proponen para entender los significados de las imágenes según una gramática visual. Vimos que la base de sus proposiciones se fundamentan en lo que llaman las Tres Metafunciones, adaptación de lingüística de Michael Halliday a lo visual. Sostienen entonces que toda imagen cumple simultáneamente tres funciones grandes (o metafunciones): Representacional, Interactiva y Composicional. 

En primer término, se estudia el Significado Representacional (El "Qué"). Se refiere a las personas, lugares o cosas representadas y cómo se relacionan entre sí. Se dividen en dos tipos principales, los Procesos Narrativos, que cuentan una historia o indican acción, y la clave aquí son los vectores (líneas invisibles formadas por miradas, brazos señalando o movimiento); si hay vectores, hay una narración. Y los Procesos Conceptuales, donde no hay acción, sino clasificación o simbolismo; muestran "lo que son" las cosas (ej. un diagrama, un retrato corporativo estático, una infografía).

Luego se desarrolla el Significado Interactivo (La relación con el espectador). Esta es quizás la parte más útil para el análisis. Define cómo la imagen manipula o invita a quien la mira a través de tres herramientas:

A. El Contacto (La Mirada)

    Demanda (Demand): El sujeto mira directamente a los ojos del espectador. "Exige" una respuesta imaginaria o conexión.

    Oferta (Offer): El sujeto mira hacia otro lado. Se "ofrece" como objeto de observación sin pedir interacción.

B. La Distancia Social (El Plano)

    Primer plano (Close-up): Sugiere intimidad o relación personal.

    Plano medio: Sugiere una relación social estándar (como de negocios).

    Plano general: Sugiere distancia impersonal o pública.

C. La Perspectiva (El Poder)

    Ángulo Picado (desde arriba): El espectador tiene poder sobre el sujeto. El sujeto se ve pequeño o vulnerable.

    Ángulo Contrapicado (desde abajo): El sujeto tiene poder sobre el espectador. Se ve imponente.

    A nivel de los ojos: Sugiere igualdad entre el espectador y el sujeto.

Después se destaca Significado Composicional (El diseño). Aquí es donde Kress y Van Leeuwen analizan cómo la distribución en el espacio altera el significado. Utilizan un esquema muy específico:

A. Valor de la Información (Zonas espaciales)

    Izquierda vs. Derecha:

Izquierda: Lo "Dado" (información conocida, el pasado, lo establecido).

Derecha: Lo "Nuevo" (la novedad, el futuro, el mensaje clave a aprender).

    Arriba vs. Abajo:

Arriba: Lo "Ideal" (la promesa, el sueño, la aspiración, lo emotivo).

Abajo: Lo "Real" (la información práctica, el producto, el precio, lo terrenal).

    Centro vs. Margen: Lo que está en el centro es el núcleo del mensaje; lo de los márgenes es secundario.

B. Resalte (Peso visual)

Qué elementos captan la atención primero debido a su tamaño, foco, contraste de color o ubicación.

C. Encuadre (Framing)

Cómo se conectan o desconectan los elementos. Líneas divisorias (marcos) separan ideas; la ausencia de marcos conecta conceptos.

Sin duda, la vigencia del libro "Reading Images" resulta indiscutible en el actual ecosistema digital. Lejos de quedar obsoleta, la gramática visual propuesta por Kress y Van Leeuwen ofrece un marco sólido para navegar la complejidad de las nuevas interfaces y narrativas transmedia. Entender la lógica de lo 'Dado' y lo 'Nuevo', o la psicología de la interacción visual, permite a los creadores diseñar con intencionalidad precisa y a los usuarios decodificar eficazmente los mensajes que consumen a diario en sus pantallas. La imagen, así entendida, se confirma como el signo predominante del siglo XXI.