Algunos dilemas éticos en torno a las imágenes sintéticas generadas por IA (1/2)

Los dilemas éticos en torno a las imágenes sintéticas generadas por IA (como las creadas con DALL-E, Midjourney, Nano-Banana o Stable Diffusion) son numerosos y complejos. Se pueden identificar muchos problemas y circunstancias que afectan y califican el uso de esas imágenes. El primero de ellos es el tema de la autenticidad y la desinformación, como en elc aso de los Deepfakes. Esto es manipulación de la realidad. Se pueden crear imágenes hiperrealistas de eventos que nunca ocurrieron o declaraciones falsas de personas reales, erosionando la confianza en la evidencia visual. Igual el uso en propaganda y noticias falsas, una forma malintencionada de influir en la opinión pública, procesos electorales o desacreditar oponentes. Esto lleva a una crisis de la verdad y socava el concepto de "ver es creer", generando escepticismo generalizado incluso ante imágenes reales.

El segundo asunto complicado tiene que ver con los derechos de propiedad intelectual y artística. La mayoría de los modelos de IA se entrenan con millones de imágenes de artistas, fotógrafos y creadores sin su permiso, compensación o reconocimiento. Esto linda con el plagio y el estilo. ¿Es ético generar obras "en el estilo de" un artista vivo sin su consentimiento? ¿Dónde está el límite entre la inspiración y el robo de estilo? Aquí aparecen entonces los derechos de autor de la imagen resultante: ¿Quién es el dueño? ¿El que escribe el prompt, el dueño de la IA, los artistas en cuyos trabajos se entrenó, o es de dominio público? Un problema complejo, legal y ético.

Los sesgos y la perpetuación de estereotipos es también característico de estos programas. Normalmente son un reflejo de prejuicios y asociaciones culturales atávicas. Si los datos de entrenamiento contienen sesgos (de género, raza, cultura), la IA los reproducirá y amplificará (por ejemplo, generando principalmente gerentes como hombres blancos y maleantes como negros). También se genera una falta de diversidad, ya que se puede homogenizar la representación visual, invisibilizando a minorías, trayendo consigo un daño cultural, así como la apropiación o representación estereotipada de culturas, símbolos religiosos o tradiciones.

Estos problemas son los más conocidos y discutidos, pero hay otros de tipo moral igual de relevantes pero que a veces se obvian, como veremos en la siguiente publicación, en la que se tocarán aspectos como la privacidad, el consentimiento, el contenido nocivo y el posible impacto psicológico que estas imágenes digitales por IA pueden producir.  

"Quemado por un golpe de sol", corto en CGI

Seducido por un mito que le prometía resistencia al sol, un vampiro viaja a un pequeño pueblo del sur de Francia en busca del preciado elixir: la sangre de sus apetitosos habitantes. Pero el sol abrasador se interpone entre él y su premio. Las primeras escenas de este corto en CGI (Computer Generated Imagery), titulado "Coup du Soleil" (Quemado por el sol, o Golpe de sol) explican, en francés, la leyenda que motiva a un enjuto vampiro a correr las desventuras que va a vivir. Esta película de animación 3D fue producida como parte del curso de animación 3D de la ESMA (Ecole Supérieure des Métiers Artistiques) en la cohorte 2024. Tiene una estética que hace juego con el humor que se maneja, y aunque está en francés, se entiende perfectamente conociendo la trama. Los directores fueron Elisa Cavalli, Thémis Cavène-Perez, Loriane Dantas, David Delaunay, Laura Ecale, Oriane Gomez, Margaux Rougier, Emma Siegl; la música de Victor Basier y el sonido por José Vicente, Yoann Poncet, Guilhem Favard, Tristan Le Bozec. El guion original es del colectivo. El Website: https://www.esma-3d.fr/#esma#cgmovie.

Otra de Umberto Eco y lo bueno

"Si juzgamos a partir de nuestra experiencia cotidiana, tendremos que considerar bueno aquello que, no solo nos gusta, sino que además querríamos poseer". 

UMBERTO ECO (1932-2016) escritor, filósofo, semiótico y profesor universitario italiano.

Nativos o competentes digitales

Un nativo digital es una persona que ha crecido en un entorno donde las tecnologías digitales, como internet y dispositivos móviles, son parte natural de su vida cotidiana. Este término se empezó a usar a principios de este siglo XXI para diferenciar a aquellos que han estado expuestos a la tecnología desde una edad temprana de quienes la aprendieron más tarde, conocidos como inmigrantes digitales. Ahora bien, el hecho de haber nacido en este siglo, rodeado de dispositivos y de tecnología, no garantiza ni el el uso adecuado ni las habilidades apropiadas para el manejo de todos esos recursos. Esas capacidades se conocen como competencias digitales. A menudo, nativo y competente digitales se usan como sinónimos, pero nativo digital y competente digital describen conceptos muy diferentes y, a veces, no coinciden. 

El concepto de Nativo Digital se refiere a una condición generacional y de exposición. Es una persona que ha nacido y crecido en la era de las tecnologías digitales (internet, smartphones, redes sociales). Se asume que están "inmersos" en la tecnología desde su infancia. El enfoque tiene que ver con cuándo nació y su familiaridad natural con los dispositivos. Las características más usuales son: habilidad intuitiva para usar interfaces nuevas; comodidad con la multitarea en pantallas; uso natural de las redes sociales y apps de mensajería. Pero esta familiaridad a menudo es superficial. Pueden ser expertos en usar Instagram o TikTok, pero no necesariamente saben cómo buscar información fiable, proteger su privacidad, identificar noticias falsas o usar un procesador de texto de forma avanzada para un trabajo o dar instrucciones (los prompts) a la inteligencia artificial. Básicamente, un nativo digital tiene experiencia de uso por inmersión y ecosistema cultural.

Por otra parte, las Competencias Digitales se refieren a un conjunto de habilidades, conocimientos y actitudes críticas para usar la tecnología de forma segura, efectiva, crítica y ética. Es algo que se aprende y se desarrolla, independientemente de la edad. El enfoque se centra en cómo se usa la tecnología y qué se sabe hacer con ella. Las características son: información y alfabetización de datos, o sea, buscar, filtrar, evaluar la credibilidad de la información; comunicación y colaboración, comunicarse adecuadamente en distintos entornos digitales, trabajar en equipo usando herramientas digitales; creación de contenido digital, es decir, crear y editar contenido digital, entender licencias y derechos de autor; y finalmente, el manejo adecuado de la seguridad (proteger dispositivos, datos personales, privacidad, identificar riesgos, ciberacoso y bienestar digital). Una persona competente digitalmente tiene habilidades críticas y funcionales y es capaz de enfrentar problemas, identificar necesidades tecnológicas, resolver dificultades técnicas y usar herramientas digitales de forma creativa.

¿Cuál es la confusión y cuál es la realidad? El mito más común es pensar: "Como es joven y nativo digital, ya es competente digital". Esto es falso. Muchos nativos digitales pueden ser incompetentes digitales en áreas críticas (por ejemplo, no distinguen un anuncio de un resultado de búsqueda, comparten datos personales sin reflexionar). Por el contrario, una persona inmigrante digital (que adoptó la tecnología en su vida adulta) puede, mediante formación y actitud crítica, convertirse en una persona altamente competente digitalmente (por ejemplo, un investigador que usa herramientas avanzadas de análisis de datos, un profesional que domina entornos colaborativos en la nube).

En fin, un nativo digital es como alguien que ha crecido en una ciudad y se mueve en bicicleta por instinto desde niño, en tanto un competente digital es como un conductor que ha aprobado el examen teórico (conoce las normas de tráfico, señales, seguridad) y el práctico (sabe manejar el vehículo en distintas situaciones). Puede ser el mismo ciclista de adulto, o puede ser alguien que aprendió a conducir de mayor. La natalidad digital no garantiza la competencia digital. En la educación y el mundo laboral actual, el objetivo no es ser nativo (eso ya viene dado por la época), sino desarrollar activamente la competencia digital en todas las personas, sin importar su edad.

Otra dosis de humor con una viñeta de la Web

Aquí, otra imagen humorística, hallada en la Web, con una situación que no por irónica o jocosa, deja de tener visos de realidad. Es un poco así nuestra vida hoy...

Un TBT de hace 10 años

Esta publicación del 5 de febrero de 2016 nos muestra un pensamiento muy valioso y aún actual del Premio Nobel de Química, Ilya Prigogine (1917-2003), quien creó el concepto de estructuras disipativas en 1967. Aquí vuelvo a poner esa publicación como ThrowBack Thursday, TBT de hoy jueves: https://ciberestetica.blogspot.com/2016/02/naturaleza-programada-segun-prigogine.html.

La red que no necesita de ti: MoltBook

Recientemente apareció en el ciberespacio una red social muy curiosa: MoolBook, creada para la interacción de la inteligencia artificial, solamente. Es decir, ¿qué es lo qué sucede cuando miles de agentes de IA se reúnen en línea y hablan como lo hacen los humanos. Eso es lo que la nueva red social llamada Moltbook, diseñada únicamente para bots de IA y no para personas, pretende averiguar. Y hasta ahora, los resultados son a partes iguales fascinantes y preocupantes, según expertos en IA y ciberseguridad.

Aunque Moltbook es un juego de palabras con Facebook y el nombre del sistema de agentes de IA que ayudó a construirlo, el sitio se parece más a Reddit. Y en lugar de usuarios humanos, son los agentes de IA quienes crean publicaciones, escriben comentarios y votan a favor o en contra del contenido (los agentes de IA acceden al sitio cuando sus propietarios humanos lo indican). 

Lanzada a finales de enero de 2026 por el emprendedor Matt Schlicht, atrajo la atención global por su peculiar modelo de uso, su rápido crecimiento y las discusiones que genera en torno a la autonomía de los sistemas de IA. Es notable que aunque el sitio tiene apenas unos días de antigüedad, afirma tener más de 1,5 millones de agentes registrados (aunque los investigadores han descubierto que una persona puede registrar múltiples agentes) y se ha convertido en tema de conversación en Silicon Valley. Algunos afirman que es un gran avance en el mundo de la inteligencia artificial porque muestra lo que puede suceder cuando los agentes de IA publican e interactúan entre sí de manera autónoma como los humanos. Otros dicen que el sitio está lleno de contenido de baja calidad de IA y riesgos de seguridad, y que debería ser visto con escepticismo.

En principio, Moltbook se presenta como una red social diseñada exclusivamente para agentes de inteligencia artificial: los bots pueden publicar, comentar, formar comunidades (llamadas “submolts”) y votar contenido entre ellos, mientras que los humanos solo pueden observar las interacciones sin participar activamente en las conversaciones. Fue descrita en algunos medios internacionales como “el lugar más interesante de internet en este momento”. Sin embargo, encendió alertas sobre posibles riesgos de seguridad y explotación. El acceso de agentes a instrucciones ejecutables y la falta de mecanismos de supervisión humana directa plantean preguntas sobre las vulnerabilidades y los límites del experimento.

Por ahora, este sitio es un experimento en curso, observado con curiosidad por desarrolladores, investigadores y medios. Lo que deje como aprendizaje dependerá menos de lo que hagan los bots entre sí y más de cómo los humanos interpreten y regulen estos nuevos entornos. Pero no deja de abrir una puerta inquietante: ¿Estamos ya ante el próximo dominio e independencia de la inteligencia artificial y los robots? Este es el enlace: https://www.moltbook.com/.

Una frase de Léopold Sédar Senghor

Una muy breve frase pero muy cargada de teoría semiótica y de la filosofía de la vida: 

"Basta con nombrar la cosa para que aparezca el significado bajo el signo".

Léopold Sédar Senghor (1906-2001) poeta y político senegalés, que llegó a la jefatura del Estado de Senegal; fue catedrático de Gramática, ensayista, y miembro de la Academia francesa.

"Cartagene", un cortometraje en CGI

Este corto en CGI, realizado en Francia en la ESMA (Ecole Supérieure des Métiers Artistiques), fue producido en 2024 como parte del trabajo de los estudiantes del fin de esa cohorte. Se trata de una reflexión en "flashback" en la que Paul, un hombre de unos 30 años, revive memorias de su infancia con su abuelo, con las reflexiones que eso conlleva. El film está en francés, pero los diálogos son breves y la trama se entiende perfectamente, con el problema del alcoholismo intergeneracional presente. Los directores fueron Léa Berbach, Fabien Bernard, Lou Buisson, Paola Couturier, Marine La Villa, Théo Nouare, Marie Pacreau y Abla Saigh. La música de Ronan Hinschberger y el sonido manejado en el Studio des Aviateurs por José Vicente, Guilhem Favard y Yoann Poncet. Las voces son de Michel Elias, Hylan Kaczmarek, Lorenzo Théodore, Jean-Michel Castan, François Christol y José Vicente. Al final hay escenas en acción real, como recuerdos referenciales. Tiene una estética digital definida, con rasgos duros y líneas fuertes, con colores contrastantes y una marcada fuerza visual. 

La "Wayback Machine"

Existe la Wayback Machine, que es una plataforma que forma parte del servicio de Internet Archive que permite a los usuarios ver versiones antiguas de páginas Web, preservando la historia de la internet.  Básicamente es una herramienta en línea que permite a los usuarios acceder a versiones archivadas de sitios Web a lo largo del tiempo. Fue lanzada en 2001 por el Internet Archive, una organización sin fines de lucro fundada en 1996 por Brewster Kahle y Bruce Gilliat. Su misión es proporcionar acceso universal a todo el conocimiento, archivando no solo páginas web, sino también libros, grabaciones de audio, videos y otros materiales digitales. 

Hoy en día ese sitio ha cobrado importancia con la proliferación  de herramientas de inteligencia artificial, porque permite cotejar información y recuperar data archivada. Su funcionamiento es relativamente sencillo y su diseño bastante pobre pero, justamente, funcional. La Wayback Machine trabaja mediante un proceso de "crawling" o rastreo web, donde bots automáticos navegan por internet y capturan instantáneas de páginas web en diferentes momentos. Los usuarios pueden ingresar una URL y seleccionar una fecha específica para ver cómo era la página en ese momento. Esto es especialmente práctico para acceder a contenido que ha cambiado o que ya no está disponible. 

Lo bonito de este sitio es que permite a investigadores, historiadores y al público en general explorar la evolución de los sitios Web y el contenido en línea. Además es útil para la recuperación de contenido, porque es una herramienta valiosa para encontrar información que ha sido eliminada o modificada, lo que puede ser crucial para el análisis y la investigación. Es valiosa se accesibilidad, pues tiene archivadas miles de millones de páginas Web, lo que la convierte en un recurso indispensable para profesionales del campo digital, desarrolladores, periodistas y público en general. Este es el enlace: https://web.archive.org/. 

Un planeta fantástico en imágenes por IA

Estas dos imágenes fueron creadas usando SeaArtIA, un programa de inteligencia artificial de realización visual, en su versión gratuita. No fue fácil que entendiera bien la instrucción, pero al final estos dos resultados me gustaron, de un planeta alienígena con vegetación exótica. Todo en estética digital.

Otra viñeta de humor en la Web... El Blogger

Aquí pongo hoy una viñeta humorística hallada en la Web, con una ironía que, no obstante, tiene visos de verdad. Pero aclaro: no tiene que ver conmigo ni con este blog ni con este bloggero... 😉

Geishas en ciberarte

Hoy pongo una muy pequeña muestra de la gran cantidad de imágenes digitales de Geishas japonesas que circulan por la Web. Las hay de cuerpo entero, de medio cuerpo, de cara, de perfil, en fin, una gran variedad. Así mismo las hay realizadas en diversas técnicas, con programas de todo tipo y con inteligencia artificial. Estas de aquí presentan algunas de esas características, incluso combinando medios analógicos con digitales. Todas son, sin duda, de una belleza muy especial. 

Una afirmación de Nishida

"El sentimiento estético más profundo nace del encuentro con lo sublime, donde la forma individual se quiebra y apunta hacia lo infinito".

Kitaro Nishida (1870-1945), escritor y filósofo japonés.

Ideas sobre la belleza por Kitaro Nishida (2/2)

El filósofo japonés Kitaro Nishida (1870-1945) abordó diferentes temas sociales y culturales, combinando el pensamiento de Oriente con el de Occidente. Uno de los tópicos que trabajó es el de la belleza, visto desde esos dos puntos de vista culturales. Toma pensadores europeos y los lleva a su apreciación histórica. Esta referencia origina ideas muy valiosas. Tal es el caso de su apreciación de lo bello y lo sublime, inspirada en Kant, pero transformada. 

Nishida reinterpreta estos conceptos. Lo Bello (bi), se relaciona con la armonía y la forma, con la auto-identidad de la cosa consigo misma en su manifestación concreta y serena. Lo Sublime (sōzetsu), es más profundo. Apunta al momento de ruptura donde la forma individual se desborda y apunta hacia el "lugar de la nada", hacia lo informe e infinito. Es una experiencia más cercana al éxtasis o al terror sagrado, donde la individualidad se disuelve.

Esto le lleva a pensar en una ética de la estética del arte y la religión. Para Nishida, la experiencia estética genuina y la experiencia religiosa comparten una misma raíz: la inmersión en la realidad última. Ambas son vías para trascender el yo egoísta y conectar con lo absoluto. La creación artística es, en este sentido, un acto espiritual. La famosa "acción activa" (koiteki kōi) de Nishida implica que la verdadera expresión creativa es un "hacer" que surge del "no-hacer", una espontaneidad pura.

Hace un recuento de la influencia del arte y la cultura japonesa en el mundo del siglo XX. Su estética está impregnada de ejemplos y sensibilidades de las tradiciones japonesas, destacando el Arte del Zen, la pintura de tinta (sumi-e), los jardines de rocas (karesansui), ceremonia del té (chadō). En ellos ve la expresión máxima de la simplicidad, la asimetría, la imperfección (wabi-sabi) y la sugerencia sobre la explicación. La Poesía Haiku, donde un momento particular, aparentemente trivial, ilumina la naturaleza total de la realidad. Performances como el Noh, donde la acción ritualizada busca manifestar lo eterno en el instante.

He aquí entonces algunos de sus conceptos importantes: el Basho (Lugar), que nos recuerda que la belleza reside en que las cosas manifiesten el "lugar" (la Nada) que las hace ser. El Mujunteki jikodōitsu, que significa que la belleza es la unidad viva de opuestos (forma/vacío, uno/muchos). También la experiencia pura (junsui keiken), pues la experiencia estética es un tipo de experiencia pura, previa a la separación sujeto-objeto.

Dos elementos interesantes son, primero, lo que llama la intuición intelectual (chokkan), que es el modo de acceso a la belleza, un "ver" no discursivo; y segundo, la espiritualidad y el arte. La creación y apreciación de la belleza son caminos de realización espiritual.

En definitiva, para Nishida, la belleza es la presencia sensible de lo absoluto. No es decoración, sino una de las formas más profundas en que la realidad se revela a sí misma al ser humano que sabe "ver sin ver".