Otros aspectos sobre la gobernanza digital en relación con las imágenes sintetizadas por IA

Ya en varias publicaciones anteriores, algunas bastante recientes, he abordado este tema, pero dado que tiene cada vez más relevancia lo sigo tratando. La gobernanza digital sobre las imágenes sintetizadas por inteligencia artificial ha cobrado un nuevo aspecto, porque hace unos pocos días se hicieron públicas estadísticas que muestran el cada vez más indiscriminado uso de imágenes falsas y deepfakes en el campo de la comunicación, lo cual amenaza la credibilidad de todo mensaje visual. 

Con anterioridad he señalado que la gobernanza digital de las imágenes sintéticas generadas por IA se refiere al conjunto de principios, políticas, normas técnicas y marcos legales que buscan regular el ciclo de vida de estas imágenes (creación, distribución, detección y uso) para maximizar sus beneficios y mitigar riesgos.

Los principales desafíos que la gobernanza busca abordar incluyen, justamente, la desinformación y deepfakes, las imágenes hiperrealistas de eventos que nunca ocurrieron o personas diciendo o haciendo cosas falsas, con potencial para manipular elecciones, generar pánico financiero o dañar reputaciones. Esto es fraude y suplantación de identidad con el uso en estafas de verificación biométrica, creación de perfiles falsos creíbles o ingeniería social. Ello incluye problemas con la privacidad y la honorabilidad. La generación de desnudos no consentidos (deepnudes) o imágenes de personas en situaciones comprometedoras sin su permiso, es tremendamente perjudicial.

Otro reto es la vulneración de derechos de autor y propiedad intelectual. Modelos de IA entrenados con millones de imágenes extraídas de internet sin consentimiento ni compensación a los autores originales, violentan todos los derechos y registros. 

Un aspecto que ya he nombrado, que se aplica a los programas de conversación con IA pero que ahora se ha notado mucho en los programas de creación de imágenes, es el tema de los sesgos y la discriminación. Los modelos pueden perpetuar o amplificar estereotipos dañinos (raciales, de género, etc.) en las imágenes generadas.

Como vemos, hay mucho que enfrentar, discutir y establecer, siempre con el riesgo de pasar de una regulación a un control y de este a una censura. En próximas publicaciones seguiré abordando este tópico que es de total actualidad y globalidad. 

Gata celosa en humor gráfico Web

Pongo hoy esta imagen humorístca hallada en la Web, que parodia las redes sociales y las relaciones entre gatos y humanos. ¿Gata tóxica, intensa? O puros celos gatunos... 😆

Ética y lenguaje por C. L. Stevenson (2/2)

En la publicación anterior comenté sobre algunas de las ideas que el filósofo estadounidense Charles L. Stevenson propuso al respecto de la ética y su relación con el uso del lenguaje. Él señala dos significados en el lenguaje ético, el descriptivo y emotivo, que vienen de las creencias y las actitudes de cada sociedad. Esta es la base de su estructura mental para definir la ética y sus manifestaciones a través de los lenguajes.  

Plantea entonces dos métodos del discurso moral. Dado que el desacuerdo moral es, fundamentalmente, un desacuerdo de actitudes, ¿cómo se resuelve? No mediante la razón pura o la demostración lógica (como en ciencia), sino mediante dos métodos:

a) Métodos descriptivos de la razón, que se usan para resolver desacuerdos en creencia. Se discuten hechos, causas, consecuencias. Si dos personas discrepan sobre si la eutanasia causa sufrimiento, pueden apelar a datos. Esto es útil, pero secundario. Si tras acordar los hechos siguen discrepando en su actitud (uno la aprueba y otro la rechaza), la razón pura no puede resolverlo.

b) Métodos persuasivos dinámicos, que son la forma genuina de resolver desacuerdos de actitud. Estos incluyen:

• Apelaciones emocionales: usar un lenguaje vívido, ejemplos conmovedores, metáforas.
• Persuasión "psicológica": reestructurar la percepción de la situación, resaltar ciertos valores olvidados.
• Persuasión "lógica" (aparente): mostrar cómo la actitud del otro lleva a consecuencias que él mismo no aprueba (tratando de generar una inconsistencia en su sistema de actitudes).
• Influencia no racional: repetición, autoridad, retórica.

En esencia, para Stevenson, la discusión moral no es una búsqueda de una verdad objetiva, sino un intento de influir en las actitudes del otro para lograr un acuerdo o un acercamiento. Por otro lado, él habla del papel de la definición persuasiva, que es una de sus ideas más originales. Una definición persuasiva es una estrategia retórica que cambia el significado descriptivo de un término (para hacerlo más favorable o desfavorable) sin alterar su significado emotivo (su carga de aprobación/desaprobación). Por ejemplo: decir que "el verdadero socialismo" no es el de los estados totalitarios, sino el de las comunidades libres y solidarias. Se conserva la palabra emotivamente positiva "socialismo", pero se redefine su contenido descriptivo para ajustarlo a la ideología del hablante. Esto muestra cómo el lenguaje ético se puede manipular para ganar aprobación hacia nuevas ideas.

En resumen, es innegable la importancia de Stevenson, porque rompe con el objetivismo moral tradicional. Niega que existan propiedades morales objetivas en el mundo. Asi mismo, supera el emotivismo radical de otros moralistas, como A.J. Ayer. Mientras Ayer decía que los juicios éticos son meras exclamaciones emocionales ("¡Bien!" o "¡Puaj!"), Stevenson añade el componente dinámico de influencia y reconoce el papel complejo de las creencias y la persuasión racional. Es un emotivismo más sofisticado.

Ofrece así una explicación plausible del desacuerdo moral. Explica por qué discutimos tan apasionadamente sobre valores sin llegar a una "prueba" concluyente. Conecta igualmente ética con retórica y psicología. Muestra que hacer ética es también usar el lenguaje de manera persuasiva.

Claro que hay otras cíticas frecuentes. Muchos filósofos (como Alasdair MacIntyre) dicen que su teoría reduce la razón moral a mera manipulación emocional, y que no puede explicar por qué usamos términos como "deber" con una fuerza que parece más que una simple preferencia personal. Tampoco explica cómo podemos debatir racionalmente sobre qué actitudes deberíamos tener. Son temas de debate que aún hoy se discuten. En definitiva, Stevenson lleva a escuchar el lenguaje moral no como un informe sobre el mundo, sino como una partitura emocional que expresa nuestros sentimientos más profundos y busca hacer que los demás bailen al mismo ritmo.

Ética y lenguaje por C. L. Stevenson (1/2)

Charles Leslie Stevenson (1908-1979) fue un filósofo estadounidense, figura clave del emotivismo, teoría ética "Metaética" que floreció en el siglo XX como reacción contra las teorías éticas que veían los juicios morales como hechos objetivos. Esto significa que para Stevenson, la función principal del lenguaje ético no es describir hechos del mundo, sino expresar emociones e influir en las actitudes de los demás. Su obra más importante es "Ética y lenguaje" (1944), donde desarrolla su teoría de forma detallada y matizada. Veamos algunas de las ideas centrales de su pensamiento. 

Para entender a Stevenson, hay que distinguir dos aspectos de la psicología moral, las creencias y las actitudes. Las creencias son nuestras ideas sobre cómo es el mundo (hechos). Por ejemplo, "Este medicamento alivia el dolor de cabeza". Son descriptivas y pueden ser verdaderas o falsas. Por otro lado, las actitudes son nuestras preferencias, gustos, deseos y disposiciones emocionales. Así por ejemplo, se dice "¡Me gusta que se alivie el dolor!" o "Quiero que se usen medicamentos efectivos". No son verdaderas ni falsas, sino que se tienen o no se tienen. Los desacuerdos morales, según Stevenson, suelen ser una mezcla compleja de desacuerdo en creencia (sobre los hechos) y desacuerdo en actitud (sobre lo que debemos preferir). El error clásico es pensar que todo desacuerdo moral es solo un desacuerdo en creencia.

Eso le lleva a hablar de dos significados en el lenguaje ético, el descriptivo y emotivo. Stevenson propone que términos como "bueno", "malo", "correcto", "deber", tienen dos tipos de significado, descriptivo y emotivo. El significado descriptivo se refiere a las propiedades empíricas o definibles del objeto. Por ejemplo, al decir "Juan es bueno", podría describirse que "Juan es honesto y ayuda a los demás". Este significado es secundario y variable entre diferentes personas y contextos.

En cambio, el significado emotivo (o dinámico) es la función principal del lenguaje. Es la capacidad de la palabra para expresar las actitudes del hablante y para provocar o reforzar actitudes similares en el oyente. Es como una "carga emocional" que tiene la palabra. Decir "bueno" es como decir "¡Lo apruebo! ¡Sigue esa línea de conducta!". Por ejemplo, si digo "La eutanasia es buena", no estoy diciendo un hecho objetivo sobre la eutanasia, estoy expresando mi actitud (aprobación, sentimiento favorable hacia la eutanasia, pero también estoy enfluyendo en el otro, intentando que también apruebe la eutanasia. En cambio, con el significado descriptivo ("la eutanasia pone fin al sufrimiento"), se da la razón para apoyar esa actitud, pero la palabra "buena" añade el empuje emocional.

Estas propuestas sobre la relación entre la ética y el lenguaje de Stevenson tienen otras aspectos a cuestionar, que además reciben críticas, incluyendo las implicaciones morales pertinentes, que estudiaremos en la siguiente publicación. 

Sobre la información en una imagen, por Michio Kaku

"Cualquier imagen tridimensional contiene una enorme cantidad de información: un montón de veces, la información almacenada en una imagen bidimensional".

MICHIO KAKU, físico teórico estadounidense de origen japonés, reconocido divulgador de la ciencia, nacido en 1947, a quien ya he citado antes en este blog.

Desinformación médica con imágenes de IA

En la Web y las redes sociales circulan hoy decenas de imágenes, datos e informaciones que en realidad son una desinformación médica y tratamientos falsos. Circulan imágenes generadas por inteligencia artificial de supuestos pacientes curados milagrosamente (antes/después de tratamientos falsos), imágenes microscópicas inventadas de bacterias o células para vender suplementos, y hasta fotos de instalaciones médicas lujosas que nunca existieron para captar pacientes en turismo de salud. 

Lo casos más comunes hoy son los "deepfake doctors", videos generados por IA que muestran a falsos profesionales médicos dando consejos o vendiendo productos. Estos avatares pueden ser facsímiles de médicos reales (usando su imagen sin consentimiento), o figuras ficticias generadas completamente por IA.

El mecanismo combina modelos de difusión (como DALL-E, Midjourney) que crean el vídeo realista, modelos de lenguaje (LLMs) que generan el guión coherente y convincente y medios de difusión viral como las redes sociales. El resultado es tan creíble que incluso los familiares de los médicos reales suelen ser engañados. 

Por otro lado, existen modelos generativos capaces de crear radiografías, resonancias o tomografías falsas que son indistinguibles de las reales para un ojo no entrenado. El estudio MedForensics ha documentado generación de imágenes falsas en seis modalidades médicas diferentes usando doce modelos generativos diferentes. 

En todos estos casos, el riesgo es siempre grande. Personas que abandonan tratamientos reales por falsas promesas respaldadas por imágenes visualmente convincentes. Este es un asunto bien delicado y complicado, que se hace cada vez más difícil de enfrentar y resolver.

El arte como experiencia para John Dewey

El aporte del psicólogo y pedagogo estadounidense, John Dewey (1859-1952), al estudio del arte es profundo y transformador, aunque opera desde una perspectiva filosófica diferente. No nos dio un método para clasificar el arte, sino una teoría sobre qué es la experiencia estética y cómo ocurre. Su obra fundamental en este campo es El arte como experiencia (1934), basada en sus conferencias en Harvard. Ya en publicaciones anteriores he hecho referencia a sus ideas, que aquí sigo desarrollando. 

En primer término, rompe con la visión de museo como pedestal del arte. Dewey critica la tendencia a aislar el arte de la vida cotidiana; para él, el problema surge cuando guardamos una pintura en un museo o una sinfonía en una sala de conciertos, separándola de las experiencias vitales que la originaron. Su propuesta es reconectar la experiencia estética con los procesos de la vida diaria.

Así mismo, define la experiencia estética como una "experiencia consumatoria" y distingue entre el flujo caótico de experiencias cotidianas y una "experiencia consumatoria, que es aquella que tiene un inicio, un desarrollo y un clímax que nos llena de sentido. Por ejemplo, resolver un problema difícil, tener una conversación profunda o presenciar una obra de arte. Por esto él habla del arte como experiencia. La obra de arte no es el lienzo o la partitura, sino la interacción entre el objeto (estímulo) y el espectador (sujeto activo). La experiencia estética no es un lujo. Es la culminación exitosa de cualquier interacción organismo y su entorno. Ver una puesta de sol o escuchar una historia pueden ser arte si se viven plenamente.

Para Dewey, el arte no es solo expresión emocional ni solo técnica fría. Es un acto de construcción. Por ello, la emoción guía el hacer. El artista siente una cualidad emocional global (alegría, melancolía, tensión) que actúa como un "imán" que selecciona los materiales y las formas de su obra. El hacer tiene que ver con la creación y la producción. El artista trabaja los materiales (piedra, sonido, color) transformándolos. No es una copia de la realidad, es una recreación.

Esto implica también una percepción activa. El espectador no es pasivo. Para tener una experiencia estética, debe realizar su propio acto de recreación, siguiendo las pistas que el artista dejó en la obra. Si no hay esa participación activa, solo hay reconocimiento (saber qué es), no percepción (vivir su significado). Dewey rechaza la idea de que el arte sea solo un adorno o un escape de la realidad. Lo ve como el modo de comunicación más profundo y completo. Mientras que el lenguaje ordinario puede ser abstracto o informativo, el arte comunica la cualidad sentida de una experiencia. Un cuadro no te dice "el guerrero está triste", te hace sentir esa tristeza a través de líneas, colores y formas.

John Dewey aporta al estudio del arte la idea de que este no es un objeto sagrado para contemplar, sino un modelo de cómo toda experiencia humana puede volverse plena, significativa y comunitaria.

Una imagen sintetizada con rostros y estética Glitch

Esta imagen nos muestra rostros que parecen totalmente reales, pero en realidad son generados por programas gráficos de inteligencia artificial, que además han sido tratados y modificados para dar la sensación de arte digital, con estética de Glitch Art. Es todo un reto ahora identificar el origen y la veracidad de estas obras de ciberarte sintetizado, que sin embargo, destacan por su originalidad.

Una idea de Descartes sobre las leyes y las costumbres

"La primera máxima de todo ciudadano ha de ser la de obedecer las leyes y costumbres de su país, y en todas las demás cosas gobernarse según las opiniones más moderadas y más alejadas del exceso".

RENÉ DESCARTES (1596-1650) Filósofo y matemático francés.

La gobernanza sobre la imagen visual con IA en ciertos países o instituciones

En publicaciones anteriores traté el tema del control o regulación posible (o necesario) sobre las imágenes sintéticas realizadas con inteligencia artificial. Hoy pongo aquí algunos ejemplos concretos de regulaciones y prácticas en diferentes países y sectores como forma de gobernanza respecto de las imágenes generadas con IA, hasta esta fecha.

Unión Europea (UE)

La UE está trabajando en la Ley de Inteligencia Artificial (AI Act), que busca regular el uso de sistemas de IA incluyendo aquellos que generan contenido visual. Esta ley impondrá obligaciones a los proveedores y usuarios para garantizar transparencia, seguridad y respeto a los derechos fundamentales. Por ejemplo, se requerirá etiquetar claramente las imágenes generadas por IA y evitar usos que puedan causar daño o engaño. Además, el Reglamento General de Protección de Datos (GDPR) protege la privacidad de las personas frente a la generación o manipulación de imágenes que puedan afectar su derecho a la imagen o datos personales.

Estados Unidos

Aunque no existe una ley federal específica sobre imágenes generadas con IA, algunos estados han comenzado a aprobar leyes relacionadas con deepfakes para prohibir su uso malicioso, especialmente en contextos políticos o de difamación. Plataformas como Twitter y Facebook han implementado políticas que exigen la identificación clara de contenido generado por IA para combatir la desinformación.

China  

China ha establecido regulaciones estrictas sobre la generación de contenido por IA, incluyendo imágenes. Se exige que cualquier contenido generado por IA incluya marcas visibles que informen a los usuarios, y prohíbe la creación y difusión de contenido falso o dañino. Además, empresas tecnológicas deben cumplir con directrices estatales de censura y control.

Organizaciones internacionales  

Organismos como la UNESCO o la OCDE están desarrollando recomendaciones para la gobernanza ética de la IA, que incluyen la regulación del contenido visual para promover la transparencia, evitar discriminación y proteger derechos humanos.

También el sector de entretenimiento y medios está incorporando ciertas regulaciones. En cine o publicidad, suelen usarse cláusulas contractuales para regular el uso de imágenes generadas por IA, protegiendo la imagen y derechos de actores o modelos virtuales. También se promueven estándares éticos para evitar la manipulación engañosa en noticias o campañas.

Estos ejemplos muestran que la regulación es un proceso activo y diverso, buscando balancear la innovación tecnológica con la protección social y ética. Es un tema aún delicado y polémico, pero estas acciones están demostrando que sí, en efecto, hay que hacer algo respecto al uso de la IA en las imágenes sintéticas. Pongo aquí también un interesante artículo sobre este asunto, publicado en la Web por el diario argentino La Capital: https://www.lacapitalmdp.com/ia-contra-ia-la-carrera-por-detectar-imagenes-falsas-en-pleno-tsunami-digital/

Arte digital industrial por Lucas Gutiérrez

Lucas Gutiérrez, artista digital y diseñador industrial argentino, nacido en 1985 y radicado en Berlín, explora en sus obras la intersección entre programas informáticos y errores gráficos, creando objetos autónomos en un entorno virtual sin principio ni final, caracterizado por texturas macro y superficies imposibles; una propuesta que reflexiona sobre los nuevos paradigmas de la cultura digital desde una perspectiva metafísica, colorida y caótica.

Los últimos trabajos del artista, que ha ofrecido charlas y performances en espacios como el Centro Pompidou, son una original combinación de tecnología y abstracción dinámica que renueva los recursos digitales tridimensionales. Los ha presentado en IRCAM, Manifeste, Sonar+D, NYU Berlin/Tokio y sus obras se han mostrado en certámenes internacionales como The New Infinity, Berliner Festspiele, Immersion y CTM/transmediale, entre otros.

Su práctica explora la materialidad de lo digital a través de universos abstractos donde las superficies parecen convertirse en esculturas. En sus piezas, lo algorítmico adquiere textura, densidad y hasta latido propio. Lo que vemos nos hace dudar de si estamos frente a metal, plástico o pura simulación: la imagen deja de ser plana y empieza a comportarse como materia, que parte del diseño industrial.

Sus imágenes son conocidas por su estética abstracta y futurista y su capacidad para crear entornos profundamente inmersivos. Se mueve entre la cultura del remix y el desarrollo de proyectos audiovisuales en tiempo real, en los cuales fusiona influencias de diferentes contextos. La narrativa de Lucas Gutiérrez gira en torno a distopías y miedos sociales actuales desde un lenguaje metafísico lleno de caos y color. Su sitio Web es extraodinario, muy dinámico y completo. Aquí pongo el enlace y una entrevista muy interesante en la revista digital Planeta Urbano.

https://elplanetaurbano.com/2026/03/lucas-gutierrez-la-textura-del-algoritmo-siempre-se-asocia-lo-tecnologico-con-algo-superficial-o-sin-alma/

https://lucasgutierrez.com/. Acá se aprecia muy bien su estética y el estilo dinámico de su obra. Vale la pena estrar y disfrutar.

Shaw y el futuro

Hoy pongo una hermosa frase del famoso escritor, dramaturgo y poeta irlandés, premio Nobel de literatura en 1925, George Bernard Shaw (1856-1950).

"No nos hace sabios el recuerdo de nuestro pasado, sino la responsabilidad de nuestro futuro".

El pasado y la historia son importantes, pero el futuro hay que hacerlo. 

Sobre la gobernanza digital y las imágenes sintéticas (2/2)

Un aspecto importante a considerar en el caso del uso indiscriminado de imágenes sintetizadas es cómo evitar que violen la privacidad individualk y violenten los derechos personales o colectivos. La gobernanza digital aplicada al control, supervisión o regulación de las imágenes generadas con inteligencia artificial (IA) es, en consecuencia, un tema muy relevante y en desarrollo actualmente.

Podemos revisar cómo se aplica:

1. Normativas y políticas claras. Se crean leyes y regulaciones que establecen qué tipo de imágenes generadas por IA están permitidas, cuáles podrían considerarse ilegales (por ejemplo, imágenes que promuevan el odio, la discriminación o la violencia), y cómo deben tratarse los derechos de autor o la privacidad.

2. Transparencia y etiquetado. Una práctica común es exigir que las imágenes generadas por IA sean etiquetadas claramente como tales para evitar la desinformación o el engaño. Esto forma parte de la gobernanza para garantizar que los usuarios sepan cuándo están viendo contenido manipulado o generado artificialmente.

3. Supervisión ética. Se establecen comités o grupos especializados que evalúan el impacto ético de estas tecnologías y sus usos, y proponen guías o recomendaciones para su aplicación responsable.

4. Control técnico y seguridad. Se implementan mecanismos tecnológicos para detectar imágenes falsas o manipuladas (deepfakes), y prevenir su uso fraudulento o malintencionado.

5. Participación y colaboración. La gobernanza digital promueve la participación de diferentes actores (gobiernos, empresas tecnológicas, expertos, sociedad civil) para que las regulaciones sean inclusivas y efectivas.

6. Protección de derechos. Se asegura la protección de derechos humanos, como la privacidad y la reputación, cuando se utilizan imágenes generadas por IA.

De esta forma, la gobernanza digital busca establecer un marco que permita aprovechar las ventajas de la IA para crear imágenes, pero minimizando riesgos asociados como la desinformación, violaciones a la privacidad o usos maliciosos. No obstante, sigue estando presente el asunto coercitivo y de regulaciòn, que puede derivar en censura y control punitivo. Es un problema candente, que recién está en la palestra.  

Sobre la gobernanza digital y las imágenes sintéticas (1/2)

Este es un tema muy actual y con muchas implicaciones hoy día: el enorme desarrollo que ha experimentado la difusión de imágenes visuales e incluso productos audiovisuales sintetizados con el uso de inteligencia artificial.  Este crecimiento ha resultado en la proliferaciòn de noticias falsas (fake news) y suplantaciones (deepfakes) que retan la credibilidad y el sentido ético de la comunicación. En este sentido surge una nueva interrogante: ¿hay que controlar, regular o supervisar el uso de la IA en este tipo de imágenes? Entonces, ¿es posible establecer alguna forma de gobernanza de tipo digital para esta tendencia actual?

La gobernanza digital se refiere al conjunto de normas, políticas, procesos y mecanismos que regulan el uso, gestión y desarrollo de las tecnologías digitales y la información en una organización, comunidad o país. Su objetivo principal es asegurar que las tecnologías digitales se utilicen de manera eficiente, segura, ética y transparente para beneficiar a todos los actores involucrados.

En un contexto más amplio, la gobernanza digital abarca aspectos como:

- La regulación del acceso y uso de internet y otras plataformas digitales.

- La protección de datos personales y la privacidad.

- La ciberseguridad.

- La inclusión digital para que más personas puedan acceder y aprovechar estas tecnologías.

- La participación ciudadana a través de medios digitales.

- La transparencia y rendición de cuentas en el gobierno y en organizaciones mediante herramientas digitales.

Ahora bien, se puede pensar en extender la normativa para que abarque con precisión, justamente, el uso ético de la IA en las imágenes y videos sintetizados. Es por supuesto un tema polémico, porque raya con la censura y el control político, pero es necesario algún tipo de regulación o limitación en este sentido, porque cada vez más vemos como se hace patetente el manejo indiscriminado de rostros, espacios y hechos reales para presentar noticias no ciertas y acciones irreales o falsas, que son fuente de mentiras y desinformación. En la publicación de mañana veremos algunas propuestas para revisar esta compleja situación. 

Imaginario paisaje de globos y montañas en ilustración 3D

Esta imagen que muestro hoy es otro ejemplo de arte digital hecho con programas gráficos de ilustración 3D. Es una representación de un paisaje imaginario, con globos aerostáticos y palacios elevados, hallada en la Web.