Los cuestionamientos éticos a la IA de Timnit Gebru

Timnit Gebru es una científica estadounidense nacida en Etiopía en 1983, experta en computación y especializada en algoritmos de minería de datos y sesgo algorítmico. Aboga por la defensa de la diversidad en la tecnología y es cofundadora de Black in AI, una comunidad de investigadores afrodescendientes que trabajan en inteligencia artificial. 

Su trabajo se ha centrado en demostrar cómo los algoritmos de aprendizaje automático pueden replicar y amplificar los sesgos humanos, la discriminación y la desigualdad. Trabajó en la empresa Google y salió en 2020 por denunciar algunos de los métodos de desarrollo de la inteligencia artificial que ella consideraba anti éticos.

En 2018, junto con el también informático Joy Buolamwini del MIT, publicó el influyente estudio Gender Shades, que analizó los sistemas comerciales de análisis facial de empresas como IBM, Microsoft y Face++. Sus hallazgos demostraron que la precisión del reconocimiento facial era superior al 99% para hombres de piel clara, pero la tasa de error aumentaba dramáticamente (hasta un 34.7%) al analizar rostros de mujeres de piel oscura. Esto reveló que los conjuntos de datos de entrenamiento (datasets) estaban masivamente sesgados hacia personas de tez blanca y promovió un debate global sobre el sesgo algorítmico y los derechos civiles.  

Esta investigación pionera evidenció fallos críticos en la equidad de los sistemas de visión por computadora. La contribución central de Timnit Gebru a la ética de la IA es haber revelado una contradicción fundamental: la tecnología por sí sola no puede resolver problemas éticos arraigados en los datos y en las estructuras de poder. Su postura se resume así: la ética no es una "revisión de cumplimiento" que se añade al final del desarrollo técnico, sino una consideración esencial que debe integrarse en cada paso, desde la recolección de datos hasta el diseño y el despliegue de los modelos.

En próximas publicaciones abordaré otros temas que ella analiza desde hace unos años, como el costo ambiental de la IA y lo que llama "datos no curados", que le ha impuslado a proponer una "IA frugal", que esté en concordancia con las necesidades reales tanto de los usuarios como del sistema ecológico. 

Una frase de Hegel sobre el espíritu

"El espíritu tiene que progresar hasta la conciencia de lo que es de un modo inmediato, tiene que superar la bella vida ética y alcanzar, a través de una serie de figuras, el saber de sí mismo". 

Georg Wilhelm Friedrich Hegel (1770-1831) filósofo alemán.

La cuidadora del jardín celestial

Esta imagen fue realizada usando técnicas y herramientas digitales por la artista estadounidense Mirelle, y se titula "The Moonkeeper of the Celestial Garden", La cuidadora lunar del jardín celestial, y es una excelente y bella muestra colorida e imaginativa de ciberarte en la Web. Ver su sitio en https://www.deviantart.com/mireillekawaiidreams. 

Una relación entre la inteligencia artificial y la semiótica (y 2)

Ya en publicaciones anteriores en el blog me referido a las propuestas y estudios sobre semiótica del filósofo estadounidense Charles Sanders Peirce (1839-1914), con su definición del signo triadico y sus conceptos de primeridad, segundidad y terceridad. En la entrada de ayer establecí una breve relación entre la semiótica, el signo sintético y su aproximación semiológica. Esa relación puede estudiarse también desde esa visión tiradica, en lo se entendería como una triple carencia peirceana: símbolo sin índice ni ícono. Es el signo sintético.

Desde la semiótica de Peirce, la distinción entre ícono, índice y símbolo permite comprender la naturaleza específica del signo sintético. Los sistemas de IA contemporáneos operan casi exclusivamente en el registro de la simbolicidad: manipulan signos convencionales según reglas aprendidas de patrones estadísticos. Pero carecen de conexión indexical con el mundo externo, o sea, no hay un vínculo causal o espacial entre el signo y su referente y no están suficientemente constreñidos por relaciones icónicas que aporten estructura lógica .

Esta carencia de indexicalidad es crucial. Peirce sostenía que la semiosis genuina requiere la experiencia de "segundidad" (Secondness): la resistencia bruta del mundo externo, el encuentro con algo que se opone a nuestras interpretaciones y nos fuerza a ajustarlas. Sin esa resistencia, el sistema permanece en un "salón de espejos" donde los símbolos apuntan a otros símbolos sin anclaje en realidad alguna. El signo sintético es, en este sentido, un signo que ha perdido su capacidad de ser corregido por lo real.

Peirce habla de "interpretante", y paradójicamente, el intérprete se ve como elemento irreductible. Es justamente en el polo del intérprete donde la semiótica del signo sintético revela su dimensión más humana. El elemento de la semiosis que es el intérprete no se modifica ni desaparece con la llegada de la IA generativa. Sus aportaciones pragmáticas (sensibilidad, experiencia, contexto) siguen siendo irreductiblemente humanas. La IA funciona como herramienta para acompañar procesos creativos o interpretativos, pero no va más allá al carecer de intención, conciencia o moralidad.

Esto significa que el signo sintético no es plenamente un signo hasta que es interpretado por un intérprete humano que le atribuye sentido. La semiosis maquínica produce cadenas de tokens; la semiosis humana produce significado. La brecha entre ambas es el espacio donde la semiótica contemporánea debe operar críticamente. La irrupción del signo sintético transforma también los marcos de validación del conocimiento. La justificación del saber se desplaza de una "garantía literaria" estable y validada humanamente hacia una "garantía algorítmica" volátil, generada por IA. Los sistemas tradicionales de organización del conocimiento, construidos sobre la premisa de estabilidad semántica, se enfrentan a un entorno textual dinámico donde el significado es fluido, contextual y permanentemente reconfigurado.

En fin, el signo sintético no es simplemente un signo producido por máquinas. Es una categoría semiótica nueva que exige repensar los fundamentos mismos de la teoría del signo: la relación entre significante y significado, el papel del intérprete, la naturaleza de la referencia, y las condiciones de posibilidad de la semiosis genuina. La IA no ha resuelto el problema del significado; lo ha desplazado a un terreno donde las respuestas tradicionales resultan insuficientes.

Una relación entre la inteligencia artificial y la semiótica (1)

La relación entre inteligencia artificial y semiótica, en términos del signo sintético, es un aspecto muy interesante y tal vez una de las áreas más fértiles y problemáticas del debate contemporáneo. No se trata simplemente de una aplicación de la semiótica al análisis de la IA, sino de una reconfiguración profunda de lo que entendemos por signo, significado y semiosis cuando el intérprete ya no es necesariamente humano.

Podemos comenzar revisando la idea signo sintético, que es una simulación sin anclaje referencial. No olvidemos que un signo es un objeto o hecho que sustituye a otro, una cosa que está en lugar de otra, bien sea por relación o por convención, como ente de significación. Pero la noción de "signo sintético" alude a las unidades significantes generadas por sistemas de IA, particularmente en lo que se refiere a los modelos de lenguaje de gran escala (LLM, que exhiben todas las propiedades formales del signo lingüístico humano (coherencia, gramaticalidad, pertinencia contextual) pero carecen de su función representacional originaria. El signo deja de ser puente entre palabra y experiencia, entre concepto y mundo, para convertirse en simulación de su propia función representacional. Lo que emerge es una hiperrealidad discursiva, un lenguaje que funciona perfectamente pero sin ancla en ninguna experiencia del mundo.

Esta caracterización no implica que los signos generados por IA sean "falsos" o "vacíos" en un sentido trivial. Son signos operativos, dado que producen efectos, generan interpretaciones, movilizan respuestas. Pero su semiosis opera en un registro distinto al de la semiosis humana, porque provienen de un sistema informático de big data y modelos de aprendizaje en gran escala.

Un aspecto central de la semiótica del signo sintético es la cuestión de la enunciación. ¿Hay un sujeto que enuncia cuando ChatGPT produce un texto? La respuesta, desde una perspectiva semiótica rigurosa, es negativa. Lo que ocurre es un proceso de tokenización, embedding y sampling, en el que el texto se convierte en números, se organiza en vectores semánticos de alta dimensionalidad, y se genera una respuesta calculando las palabras más probables en función de patrones previos. 

Se podría hablar de una "enunciación maquínica" , pero debe distinguirse claramente de la enunciación humana. Aquí no hay posición ideológica, no hay intención comunicativa, no hay un "yo" que impulse la interpretación. La IA no razona respecto de un yo que guía la relación del texto; opera mediante sistemas algorítmicos que simulan constantemente y con los cuales "aprenden" a establecer inferencias parciales que le sirven para realizar su semiosis maquínica. Este tema puede complejizarse si lo revisamos a la luz de una idea fundamental propuesta por el filósofo estadounidense Charles Sanders Peirce, la tríada sígnica, que veremos en la siguiente publicación.

"Amén", un corto en animación 3D CGI

Este cortometraje en CGI fue realizado durante 2024 por un grupo de estudiantes de la École des Nouvelles Images de Avignon, Francia (https://www.nouvellesimages.xyz/) como trabajo final del curso. Está dirigido por  Orphée Coutier, Bettina Demarty, Kimie Maingonnat, Laurène Perego, Louise Poulain y Avril Zundel. El guión original es de Nicolas Cornil y en la production está Julien Deparis con la mezcla de sonido de Pierre-François Renouf. En este film titulado Amén, de unos 6 minutos, un grupo de cerdos escapa a su destino de la forma más impensada. Tiene un poco de drama, de suspenso y de humor y la animación está muy bien lograda. Los colores y las luces ayudan a todo el desarrollo de la trama. Ganó varios reconocimientos internacionales entre 2024 y 2025.

Una opinión de Larry Ellison

"Internet debe ser un medio de comunicación entre los pueblos que contribuya a la paz mundial y que el principal objetivo de la alta tecnología es mejorar el nivel de vida de las personas".

Larry Ellison, empresario e informático teórico estadounidense, nacido en 1944.

Kitsune Fox en tres imágenes

Este es un ejercicio visual atractivo realizado por la artista esadounidense Kaylyn "StarlyssSkye" (https://www.deviantart.com/starlyssskye), usando programas de ilustración digital con ayuda de inteligencia artificial. Se trata de un personaje de fantasía, Kitsune Fox, que es en realidad una mujer mágica en un ambiente nocturno, que cambia de atuendo en las tres imágenes secuenciales sin variar de composición. Al hacer clic en la primera imagen se puede pasar a la segunda y la tercera para ver el cambio. Es la versatilidad que ofrece la IA para un creador de ciberarte.

Color y comunicación por Sergio Zyman

 "El color es un poderoso comunicador. Puede inspirarnos o repelernos, hacernos felices o tristes. Al igual que los sabores u olores, los colores llevan consigo todo tipo de peso emocional. Ciertos colores significan determinadas cosas. El sepia comunica al instante "lo pasado de moda", sin necesidad de una mayor explicación. Una cierta tonalidad de amarillo prácticamente dice "autobús escolar" y si usted observa otro tipo de vehículo pintado con ese color, quizá pensará por un segundo que es realmente un autobús. El patrón de rojo, blanco y azul en la bandera de Estados Unidos dice "América" con tanta fuerza que usted quizá no pueda identificar una bandera en la cual los colores se reorganizaron o cambiaron". 

Tomado de El fin de la publicidad como la conocemos, libro de 2002 del publicista y consultor empresarial estadounidense Sergio Zyman. 

Tríptico de fuego en arte abstracto digital

Hoy aquí una imagen dinámica de fuego y rojo abstracto, reliazada digitalmente y hallada en la Web. Es un tríptico artístico como ejemplo de ciberarte por internet. 

Entre mitos y miedos, por Marcos Della Pittima

En su libro de 2026, Humanos en un mundo artificial, el ingeniero argentino Marcos Della Pittima, afirma, entre otras cosas:

Cada ola tecnológica trae sus propios miedos. Ya pasó con la máquina de vapor, con las líneas de montaje, con las computadoras. Siempre se dijo que los trabajos iban a desaparecer. Y siempre surgieron otros. Hoy pasa algo parecido con la inteligencia artificial y la automatización. Algunos informes proyectan millones de empleos en riesgo. Otros, millones de nuevos puestos. ¿A quién creerle?

Quizás convenga mirar los casos reales: países como Alemania, Austria o Estados Unidos, con una altísima cantidad de robots industriales por habitante, no tienen altas tasas de desempleo. Al contrario, tienen mercados laborales más dinámicos y salarios más altos. ¿La diferencia? La capacidad de adaptarse. De reentrenar. De integrar tecnología sin dejar de lado lo humano.

Ciertamente, lo que señala el autor parece ser cierto, y hay muchos más mitos que realidades en lo que se dice y teme de la inteligencia artificial y su futuro. 

Capas de la cebolla de vidrio

"Glass Onion", la Cebolla de Vidrio, es el nombre  identifica a una operación masiva de desinformación e influencia digital analizada por la firma de ciberseguridad e inteligencia de redes Graphika, que ha descubierto y difundido el funcionamiento de esa maquinaria. Este proyecto consiste en una red encubierta de portales de noticias falsas y suplantación de identidad (spoofing) diseñada para manipular narrativas en la web y blanquear propaganda. Esta organización por capas (como una cebolla) conforma un grupo coordinado  de desinformación y operaciones de influencia en línea vinculada a intereses del gobierno de China (enmarcada dentro de la campaña masiva conocida como Spamouflage o DRAGONBRIDGE). Ahora bien, ¿en qué consiste la red Glass Onion? Veamos. 

En primer lugar, hace suplantación de medios legítimos (Typosquatting y Spoofing). La red maneja decenas de dominios y subdominios que imitan visual y tipográficamente a medios internacionales de alto prestigio como The New York Times, The Guardian o The Wall Street Journal. Copian plantillas del sistema de gestión de contenidos (CMS) e identidades gráficas para engañar al lector casual.

Luego realiza inserciones de narrativa pro-estatal; entremezclan noticias reales con artículos patrocinados, anuncios y contenido propagandístico alineado con los intereses del Gobierno de China y el Partido Comunista Chino (PCCh).  

Crea vinculaciones con firmas de relaciones públicas reales. La investigación vinculó esta infraestructura técnica con empresas de marketing digital y de RR.PP. en China (relacionadas con campañas de influencia previas conocidas como HaiEnergy, Paperwall y Spamouflage). Estas firmas vendían a clientes la "publicación" de sus comunicados en "medios occidentales destacados", utilizando en realidad estos portales falsos.

Hace un lavado de información y amplificación, pues una vez publicado el contenido falso o sesgado en estos sitios clones, los clientes promovían los enlaces en plataformas chinas como prueba de que "prensa influyente de Occidente" hablaba de ellos. Además, redes de cuentas no auténticas (bots y troles) amplificaban los artículos en redes sociales occidentales (X, Facebook, etc.) para incidir en la opinión pública global.

Así, Glass Onion utiliza cuentas automatizadas, redes de spam recicladas y operadores humanos en múltiples plataformas de redes sociales para viralizar los enlaces hacia estos contenidos falsos. El nombre con el que fue identificado tiene que ver con una fachada aparentemente transparente y legítima (un medio de comunicación) que esconde múltiples capas superpuestas de empresas de marketing, actores estatales, granjas de amplificación y redireccionamiento de tráfico en la Web.

Todo este mecanismo ha sido estudiado y denunciado, pero dadas las circunstancias en que se mueve, es difícil desmantelarlo. Lo importante es estar al tanto de que no todo lo que nos llega por internet suele ser verdad.

Ejemplos de gamificación

En la entrada de ayer hablé de nuevo sobre la gamificación o ludificación, que es un método organizativo para darrollar actividades empleando estructuras y normas de juegos. Hay varios ejemplos que ilustran esta metodología. 

En la la educación, por nombrar una importante. Una app para aprender idiomas que da premios por practicar a diario, sube de nivel cuando se completan lecciones y tda monedas virtuales que se pueden canjear por vidas extra. (¡Duolingo es el rey de esto!).

En el trabajo también. Veamos. Un equipo de ventas que usa un tablero digital donde cada venta cerrada le da puntos al vendedor y le hace subir en un ranking semanal, con un "bonus" (insignia) para el que más puntos acumule.

En la salud. Un reloj inteligente que felicita al usuario con un "¡logro desbloqueado!" cuando se completa 10.000 pasos al día y reta al usuario a superar su propia marca personal.

En el marketing, una cadena de café que le da al cliente un sello en una tarjeta virtual por cada compra, y al juntar 10 sellos, "desbloquea" un café gratis (eso es gamificación pura).

Estos ejemplos son simples, pero ayudan a comprender cómo funciona el método.

Gamificación o ludificación

Ya en publicaciones anteriores me he referido a este tema de la gamificación, que se aplica cada vez más a muy diversas actividades en el campo del conocimiento, la organización y la comunicación. Se entiende por "gamificación" (o ludificación, traducción más adecuada de gamification) a la aplicación de mecánicas, elementos y dinámicas propias de los juegos (como puntos, niveles, insignias, clasificaciones, misiones o barras de progreso) en entornos que no son de juego, tales como la educación, las empresas o la salud. Su objetivo principal es aumentar la motivación, la fidelidad y la participación de las personas. En este concepto, en lugar de crear un actividad lúdica aplicada completa desde cero, se toman los elementos más interesantes para integrarlos en acciones cotidianas para hacerlas más atractivas.

El fin no es convertir esas actividades en un videojuego, sino aprovechar la psicología que hay detrás del juego (la motivación, el deseo de superación, la curiosidad y la interacción social) para hacer que tareas que suelen ser aburridas, repetitivas o difíciles se vuelvan más atractivas, divertidas y adictivas en el buen sentido. 

Algunos de los elementos básicos que se aplican son los puntos, que recompensan las acciones deseadas inmediatamente; las insignias o medallas, que representan logros o hitos alcanzados; las tablas de clasificación, que fomentan la competencia sana y el reconocimiento; y los desafíos y misiones, que proponen objetivos claros con progresión visible.

Retomo este tema para revisar, en próximas publicaciones, diversas áreas en las que se aplica esta metodología, como en la publicidad, la educación o  las organizaciones empresariales. Además de que se relaciona con el uso de la inteligencia artificial y las experiencias inmersivas de comunicación y trabajo.

Big Data y su exceso, por Sosa Escudero

En su libro de 2019, Big Data, Walter Sosa Escudero, economista argentino, señala, en relación con el mal uso de lo que llamamos big data, ese conjunto de datos masivos, complejos y de alta velocidad, que contribuyen hoy al desarrollo informático y la inteligencia artificial, lo siguiente:  

"Pero muchas veces, más allá de lo ético y lo social, es la propia lógica de los datos y la información la que pone un manto de cautela sobre lo que se puede esperar de big data y sus algoritmos. Esta es una historia acerca de que muchas veces lo que abunda daña, como el agua en una inundación, o los datos usados irresponsablemente".

Ciertamente, estamos en presencia de un enorme volumen de datos e información, peligroso en todo sentido y que parece ser irrefrenable.