La gobernanza algorítmica (o algorithmic governance) es un concepto relevante en los estudios digitales y se refiere al uso de sistemas automatizados, basados en datos y algoritmos (especialmente IA) para tomar decisiones, regular comportamientos o administrar aspectos de la sociedad. Surge en el contexto de la digitalización masiva y la creciente dependencia de plataformas tecnológicas en ámbitos como el Estado, el mercado y la cultura. Se entiende como el conjunto de normas, técnicas y estructuras de poder que determinan cómo los algoritmos influyen en la vida social, económica y política, ya sea mediante regulaciones externas o mediante su diseño interno.
Un elemento que resalta aquí es la automatización del poder. Los algoritmos deciden (o influyen en) desde recomendaciones en redes sociales hasta acceso a créditos, empleo o libertad condicional. Esto puede ser peligroso por la falta de transparencia en la operación, la aparición de "cajas negras" en datos y contenidos y la reproducción de sesgos. Esto tiene que ver también con la regulación mediante diseño, pues las las plataformas digitales y de comunicación imponen reglas a través de sus algoritmos, como moderación de contenido, sin necesariamente responder a marcos democráticos.
En esta realidad es necesaria una gobernanza híbrida, humano-algoritmo, que imponga una interacción entre leyes estatales y códigos algorítmicos, como por ejemplo las leyes de copyright aplicadas por IA en YouTube. Esta forma de gobernanza algorítmica trae un fuerte impacto en la sociedad del conocimiento, pues los algoritmos filtran información, afectando qué se considera "verdad" o "valor cultural" (por ejemplo filtros de burbuja o sesgos en datasets de IA artística).
La gobernanza algorítmica se refiere entonces al conjunto de prácticas, normas, leyes y arquitecturas sociotécnicas que regulan y dan forma a las interacciones sociales a través del uso de algoritmos computacionales. En otras palabras, es cómo las decisiones automatizadas tomadas por algoritmos impactan y ordenan nuestras vidas, desde la moderación de contenido en redes sociales hasta la asignación de recursos públicos o la vigilancia policial predictiva.
No hay comentarios:
Publicar un comentario