Ética o ideología de la inteligencia artificial por Adela Cortina

Este es un texto que resume algunas de las ideas propuestas por la filósofa española Adela Cortina, nacida en 1947, en su libro de 2024, ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada, en el que aborda de manera crítica las promesas, riesgos y discursos ideológicos que rodean la IA, destacando su impacto en la democracia y la razón comunicativa. Está tomado de Bloghemia: https://bloghemia.com/2026/09/etica-o-ideologia-de-la-inteligencia-artificial.html. 

La inteligencia artificial (IA) nació en el pasado siglo, cargada de amenazas y también de promesas. Tanto los temerosos frente a las amenazas como los entusiastas de las promesas reclamaron dotar a la IA de una ética.

El monstruo de Frankenstein inspiraba esa frankenfobia que exigió una ética para las máquinas, capaz de defender a los seres humanos frente a sus posibles perjuicios, pero sobre todo capaz también de extraer los grandes beneficios que pueden aportar los sistemas inteligentes cuando se toman como instrumentos al servicio de los seres humanos y de una sostenibilidad justa de la naturaleza.

En el extremo contrario, los entusiastas de la revolución 4.0 aseguraron que la IA ayudaría a resolver los problemas de la vida cotidiana, introduciendo la magia de los algoritmos para tomar decisiones en todos los ámbitos de la vida social, incluso dejando esas decisiones en sus manos, sustituyendo los débiles cerebros humanos por la fuerza de la computación o la conectividad.

Y, yendo aún más allá, un buen número de tecnocientíficos aseguraron que acabaremos con la enfermedad, la vejez y la muerte. Que, incorporando valores morales a las máquinas, como el amor, la compasión y la solidaridad, crearemos una nueva especie superior a la humana conocida. Un mundo de paz y felicidad, que pondrá fin al reinado del Homo sapiens, a la época del Antropoceno, marcada por las guerras y la depredación de la naturaleza.

Tras este planteamiento, la autora se pregunta: "¿Esta segunda opción merece el nombre de «ética» o el de «ideología»? ¿No se está calificando como ciencia lo que no lo es para atraer suculentas inversiones, conformar las mentalidades e incluso ganar en la competencia por el poder mundial?". Y entonce afirma: "el primer deber de una ética de la ciencia es no engañar". Vemos que es un planteamiento bien complejo, difícil de resolver en este mundo de hoy, pero que sin duda debe abordarse sin perder de vista las realidades contemporáneas. 

Una idea sobre política por Manuel Azaña

"Las formas sociales y políticas en las que los pueblos pueden entrar y permanecer, no están sujetas a su arbitrio, sino determinadas por su carácter y su pasado".

Manuel Azaña (1880-1940), político español.

Un TBT para septiembre de 2026

Hoy pongo el enlace a una publicación de hace 10 años, del 24 de septiembre de 2016, con el tema de la trilogía de películas 3D danesas basadas en cuentos de Ole Lund Kirkegaard, "Freddy Frogface". Aquí dejo el link para volver a ver esta entrada y su contenido, como ThrowBack Thursday, el recuerdo de los jueves. 

https://ciberestetica.blogspot.com/2016/09/freddy-frogface-primera-de-la-trilogia.html

El "loro estocástico" de Timnit Gebru y sus coautoras

El concepto de "loro estocástico" es central en el trabajo de Timnit Gebru y sus coautoras, término proviene del artículo de 2021 "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?", escrito por Gebru con Emily M. Bender, Angelina McMillan-Major y Margaret Mitchell. La definición que dan las autoras es la siguiente: un "loro estocástico" es un sistema que "ensambla de manera caótica secuencias de formas lingüísticas observadas en sus vastos datos de entrenamiento, de acuerdo con información probabilística sobre cómo se combinan, pero sin ninguna referencia a su significado". Es decir, repiten como un  loro.

Vemos lo que significan los términos. En matemáticas, estocástico se refiere a un proceso regido por una distribución de probabilidad aleatoria. Es decir, hay azar, pero guiado por probabilidades. El loro es un juego de palabras que se usa como referencia al verbo "to parrot" en inglés, que significa repetir algo sin entender su significado, no tanto al animal en sí sino a su capacidad de repetición. La propia Emily Bender ha aclarado que prefería el verbo para evitar conferirle al sistema una "vida interior" como la de un loro real.

La metáfora sostiene que los grandes modelos de lenguaje (LLM) son sistemas extremadamente sofisticados de autocompletado. No "comprenden" el mundo; simplemente predicen la siguiente palabra más probable basándose en patrones estadísticos extraídos de cantidades masivas de texto. Tal es el caso de ChatGPT y demás programas de conversación de inteligencia artificial. 

Los LLM se entrenan con datos no "curados" de internet. Estos conjuntos contienen inevitablemente sesgos, lenguaje tóxico y visiones hegemónicas que perjudican a grupos vulnerables. Por ejemplo, el contenido de internet representa de forma desproporcionada a hombres blancos de países desarrollados en sus respuestas. Como un loro, el modelo imita el habla con sentido, pero no accede al significado. Para las autoras, el lenguaje es un sistema de signos donde la forma (la palabra) está ligada al significado. Los LLM solo acceden a la forma.

Como el texto generado es gramaticalmente correcto y convincente, las personas tienden a atribuirle significado y a confiar en él. Esto crea un riesgo real de difusión de desinformación, discurso de odio y fraude. Cuanto mejor es la imitación, mayor es el riesgo de que se sobreestimen sus capacidades. 

Emily Bender ha señalado en repetidas ocasiones que la frase se ha convertido en un adagio mal interpretado y que se ha sacado de contexto. Aclara que no dicen que "la IA es un loro estocástico", sino que analizan específicamente los grandes modelos de lenguaje. El debate no es sobre si los LLM son "inteligentes" o no, sino sobre los riesgos concretos de confiar en sistemas que generan texto convincente sin una comprensión subyacente.

Desde 2021, fecha de publicación, el debate ha cambiado. Muchos investigadores argumentan que los modelos actuales muestran capacidades que no se explican solo por la "interpolación estadística". Por ejemplo, se ha observado que los modelos entrenados solo para predecir movimientos en un juego desarrollan representaciones internas del tablero, lo que sugiere que construyen algún tipo de "modelo del mundo". También se habla de "habilidades emergentes" que aparecen al aumentar la escala, aunque esto es objeto de debate metodológico. En todo caso, y a pesar de estas críticas, la metáfora sigue siendo útil para recordar que la fluidez no es lo mismo que la comprensión, y que los riesgos señalados por Gebru y sus colegas siguen siendo profundamente relevantes.

Otoño y primavera 2026 por Gemini AI

Entre el día de ayer, 21 de septiembre y el de hoy, 22, de este 2026, comenzó el cambio de estaciones equinocciales para los dos hemisferios: otoño empieza en el norte y primavera en el sur. Con este motivo, pedí a la inteligencia artificial de Google, es decir, Gemini, que me creara una ilustración con ese tema en una pradera, y estos son los resultados. Bastante ingeniosas, con el río como división (en una disuelto y en otra continuo) y los colores marcando la diferencia. 

Los cuestionamientos éticos a la IA de Timnit Gebru

Timnit Gebru es una científica estadounidense nacida en Etiopía en 1983, experta en computación y especializada en algoritmos de minería de datos y sesgo algorítmico. Aboga por la defensa de la diversidad en la tecnología y es cofundadora de Black in AI, una comunidad de investigadores afrodescendientes que trabajan en inteligencia artificial. 

Su trabajo se ha centrado en demostrar cómo los algoritmos de aprendizaje automático pueden replicar y amplificar los sesgos humanos, la discriminación y la desigualdad. Trabajó en la empresa Google y salió en 2020 por denunciar algunos de los métodos de desarrollo de la inteligencia artificial que ella consideraba anti éticos.

En 2018, junto con el también informático Joy Buolamwini del MIT, publicó el influyente estudio Gender Shades, que analizó los sistemas comerciales de análisis facial de empresas como IBM, Microsoft y Face++. Sus hallazgos demostraron que la precisión del reconocimiento facial era superior al 99% para hombres de piel clara, pero la tasa de error aumentaba dramáticamente (hasta un 34.7%) al analizar rostros de mujeres de piel oscura. Esto reveló que los conjuntos de datos de entrenamiento (datasets) estaban masivamente sesgados hacia personas de tez blanca y promovió un debate global sobre el sesgo algorítmico y los derechos civiles.  

Esta investigación pionera evidenció fallos críticos en la equidad de los sistemas de visión por computadora. La contribución central de Timnit Gebru a la ética de la IA es haber revelado una contradicción fundamental: la tecnología por sí sola no puede resolver problemas éticos arraigados en los datos y en las estructuras de poder. Su postura se resume así: la ética no es una "revisión de cumplimiento" que se añade al final del desarrollo técnico, sino una consideración esencial que debe integrarse en cada paso, desde la recolección de datos hasta el diseño y el despliegue de los modelos.

En próximas publicaciones abordaré otros temas que ella analiza desde hace unos años, como el costo ambiental de la IA y lo que llama "datos no curados", que le ha impuslado a proponer una "IA frugal", que esté en concordancia con las necesidades reales tanto de los usuarios como del sistema ecológico. 

Una frase de Hegel sobre el espíritu

"El espíritu tiene que progresar hasta la conciencia de lo que es de un modo inmediato, tiene que superar la bella vida ética y alcanzar, a través de una serie de figuras, el saber de sí mismo". 

Georg Wilhelm Friedrich Hegel (1770-1831) filósofo alemán.

La cuidadora del jardín celestial

Esta imagen fue realizada usando técnicas y herramientas digitales por la artista estadounidense Mirelle, y se titula "The Moonkeeper of the Celestial Garden", La cuidadora lunar del jardín celestial, y es una excelente y bella muestra colorida e imaginativa de ciberarte en la Web. Ver su sitio en https://www.deviantart.com/mireillekawaiidreams. 

Una relación entre la inteligencia artificial y la semiótica (y 2)

Ya en publicaciones anteriores en el blog me referido a las propuestas y estudios sobre semiótica del filósofo estadounidense Charles Sanders Peirce (1839-1914), con su definición del signo triadico y sus conceptos de primeridad, segundidad y terceridad. En la entrada de ayer establecí una breve relación entre la semiótica, el signo sintético y su aproximación semiológica. Esa relación puede estudiarse también desde esa visión tiradica, en lo se entendería como una triple carencia peirceana: símbolo sin índice ni ícono. Es el signo sintético.

Desde la semiótica de Peirce, la distinción entre ícono, índice y símbolo permite comprender la naturaleza específica del signo sintético. Los sistemas de IA contemporáneos operan casi exclusivamente en el registro de la simbolicidad: manipulan signos convencionales según reglas aprendidas de patrones estadísticos. Pero carecen de conexión indexical con el mundo externo, o sea, no hay un vínculo causal o espacial entre el signo y su referente y no están suficientemente constreñidos por relaciones icónicas que aporten estructura lógica .

Esta carencia de indexicalidad es crucial. Peirce sostenía que la semiosis genuina requiere la experiencia de "segundidad" (Secondness): la resistencia bruta del mundo externo, el encuentro con algo que se opone a nuestras interpretaciones y nos fuerza a ajustarlas. Sin esa resistencia, el sistema permanece en un "salón de espejos" donde los símbolos apuntan a otros símbolos sin anclaje en realidad alguna. El signo sintético es, en este sentido, un signo que ha perdido su capacidad de ser corregido por lo real.

Peirce habla de "interpretante", y paradójicamente, el intérprete se ve como elemento irreductible. Es justamente en el polo del intérprete donde la semiótica del signo sintético revela su dimensión más humana. El elemento de la semiosis que es el intérprete no se modifica ni desaparece con la llegada de la IA generativa. Sus aportaciones pragmáticas (sensibilidad, experiencia, contexto) siguen siendo irreductiblemente humanas. La IA funciona como herramienta para acompañar procesos creativos o interpretativos, pero no va más allá al carecer de intención, conciencia o moralidad.

Esto significa que el signo sintético no es plenamente un signo hasta que es interpretado por un intérprete humano que le atribuye sentido. La semiosis maquínica produce cadenas de tokens; la semiosis humana produce significado. La brecha entre ambas es el espacio donde la semiótica contemporánea debe operar críticamente. La irrupción del signo sintético transforma también los marcos de validación del conocimiento. La justificación del saber se desplaza de una "garantía literaria" estable y validada humanamente hacia una "garantía algorítmica" volátil, generada por IA. Los sistemas tradicionales de organización del conocimiento, construidos sobre la premisa de estabilidad semántica, se enfrentan a un entorno textual dinámico donde el significado es fluido, contextual y permanentemente reconfigurado.

En fin, el signo sintético no es simplemente un signo producido por máquinas. Es una categoría semiótica nueva que exige repensar los fundamentos mismos de la teoría del signo: la relación entre significante y significado, el papel del intérprete, la naturaleza de la referencia, y las condiciones de posibilidad de la semiosis genuina. La IA no ha resuelto el problema del significado; lo ha desplazado a un terreno donde las respuestas tradicionales resultan insuficientes.

Una relación entre la inteligencia artificial y la semiótica (1)

La relación entre inteligencia artificial y semiótica, en términos del signo sintético, es un aspecto muy interesante y tal vez una de las áreas más fértiles y problemáticas del debate contemporáneo. No se trata simplemente de una aplicación de la semiótica al análisis de la IA, sino de una reconfiguración profunda de lo que entendemos por signo, significado y semiosis cuando el intérprete ya no es necesariamente humano.

Podemos comenzar revisando la idea signo sintético, que es una simulación sin anclaje referencial. No olvidemos que un signo es un objeto o hecho que sustituye a otro, una cosa que está en lugar de otra, bien sea por relación o por convención, como ente de significación. Pero la noción de "signo sintético" alude a las unidades significantes generadas por sistemas de IA, particularmente en lo que se refiere a los modelos de lenguaje de gran escala (LLM, que exhiben todas las propiedades formales del signo lingüístico humano (coherencia, gramaticalidad, pertinencia contextual) pero carecen de su función representacional originaria. El signo deja de ser puente entre palabra y experiencia, entre concepto y mundo, para convertirse en simulación de su propia función representacional. Lo que emerge es una hiperrealidad discursiva, un lenguaje que funciona perfectamente pero sin ancla en ninguna experiencia del mundo.

Esta caracterización no implica que los signos generados por IA sean "falsos" o "vacíos" en un sentido trivial. Son signos operativos, dado que producen efectos, generan interpretaciones, movilizan respuestas. Pero su semiosis opera en un registro distinto al de la semiosis humana, porque provienen de un sistema informático de big data y modelos de aprendizaje en gran escala.

Un aspecto central de la semiótica del signo sintético es la cuestión de la enunciación. ¿Hay un sujeto que enuncia cuando ChatGPT produce un texto? La respuesta, desde una perspectiva semiótica rigurosa, es negativa. Lo que ocurre es un proceso de tokenización, embedding y sampling, en el que el texto se convierte en números, se organiza en vectores semánticos de alta dimensionalidad, y se genera una respuesta calculando las palabras más probables en función de patrones previos. 

Se podría hablar de una "enunciación maquínica" , pero debe distinguirse claramente de la enunciación humana. Aquí no hay posición ideológica, no hay intención comunicativa, no hay un "yo" que impulse la interpretación. La IA no razona respecto de un yo que guía la relación del texto; opera mediante sistemas algorítmicos que simulan constantemente y con los cuales "aprenden" a establecer inferencias parciales que le sirven para realizar su semiosis maquínica. Este tema puede complejizarse si lo revisamos a la luz de una idea fundamental propuesta por el filósofo estadounidense Charles Sanders Peirce, la tríada sígnica, que veremos en la siguiente publicación.

"Amén", un corto en animación 3D CGI

Este cortometraje en CGI fue realizado durante 2024 por un grupo de estudiantes de la École des Nouvelles Images de Avignon, Francia (https://www.nouvellesimages.xyz/) como trabajo final del curso. Está dirigido por  Orphée Coutier, Bettina Demarty, Kimie Maingonnat, Laurène Perego, Louise Poulain y Avril Zundel. El guión original es de Nicolas Cornil y en la production está Julien Deparis con la mezcla de sonido de Pierre-François Renouf. En este film titulado Amén, de unos 6 minutos, un grupo de cerdos escapa a su destino de la forma más impensada. Tiene un poco de drama, de suspenso y de humor y la animación está muy bien lograda. Los colores y las luces ayudan a todo el desarrollo de la trama. Ganó varios reconocimientos internacionales entre 2024 y 2025.

Una opinión de Larry Ellison

"Internet debe ser un medio de comunicación entre los pueblos que contribuya a la paz mundial y que el principal objetivo de la alta tecnología es mejorar el nivel de vida de las personas".

Larry Ellison, empresario e informático teórico estadounidense, nacido en 1944.

Kitsune Fox en tres imágenes

Este es un ejercicio visual atractivo realizado por la artista esadounidense Kaylyn "StarlyssSkye" (https://www.deviantart.com/starlyssskye), usando programas de ilustración digital con ayuda de inteligencia artificial. Se trata de un personaje de fantasía, Kitsune Fox, que es en realidad una mujer mágica en un ambiente nocturno, que cambia de atuendo en las tres imágenes secuenciales sin variar de composición. Al hacer clic en la primera imagen se puede pasar a la segunda y la tercera para ver el cambio. Es la versatilidad que ofrece la IA para un creador de ciberarte.

Color y comunicación por Sergio Zyman

 "El color es un poderoso comunicador. Puede inspirarnos o repelernos, hacernos felices o tristes. Al igual que los sabores u olores, los colores llevan consigo todo tipo de peso emocional. Ciertos colores significan determinadas cosas. El sepia comunica al instante "lo pasado de moda", sin necesidad de una mayor explicación. Una cierta tonalidad de amarillo prácticamente dice "autobús escolar" y si usted observa otro tipo de vehículo pintado con ese color, quizá pensará por un segundo que es realmente un autobús. El patrón de rojo, blanco y azul en la bandera de Estados Unidos dice "América" con tanta fuerza que usted quizá no pueda identificar una bandera en la cual los colores se reorganizaron o cambiaron". 

Tomado de El fin de la publicidad como la conocemos, libro de 2002 del publicista y consultor empresarial estadounidense Sergio Zyman. 

Tríptico de fuego en arte abstracto digital

Hoy aquí una imagen dinámica de fuego y rojo abstracto, reliazada digitalmente y hallada en la Web. Es un tríptico artístico como ejemplo de ciberarte por internet.