Esta imagen nos muestra rostros que parecen totalmente reales, pero en realidad son generados por programas gráficos de inteligencia artificial, que además han sido tratados y modificados para dar la sensación de arte digital, con estética de Glitch Art. Es todo un reto ahora identificar el origen y la veracidad de estas obras de ciberarte sintetizado, que sin embargo, destacan por su originalidad.
En publicaciones anteriores traté el tema del control o regulación posible (o necesario) sobre las imágenes sintéticas realizadas con inteligencia artificial. Hoy pongo aquí algunos ejemplos concretos de regulaciones y prácticas en diferentes países y sectores como forma de gobernanza respecto de las imágenes generadas con IA, hasta esta fecha.
Unión Europea (UE)
La UE está trabajando en la Ley de Inteligencia Artificial (AI Act), que busca regular el uso de sistemas de IA incluyendo aquellos que generan contenido visual. Esta ley impondrá obligaciones a los proveedores y usuarios para garantizar transparencia, seguridad y respeto a los derechos fundamentales. Por ejemplo, se requerirá etiquetar claramente las imágenes generadas por IA y evitar usos que puedan causar daño o engaño. Además, el Reglamento General de Protección de Datos (GDPR) protege la privacidad de las personas frente a la generación o manipulación de imágenes que puedan afectar su derecho a la imagen o datos personales.
Estados Unidos
Aunque no existe una ley federal específica sobre imágenes generadas con IA, algunos estados han comenzado a aprobar leyes relacionadas con deepfakes para prohibir su uso malicioso, especialmente en contextos políticos o de difamación. Plataformas como Twitter y Facebook han implementado políticas que exigen la identificación clara de contenido generado por IA para combatir la desinformación.
China
China ha establecido regulaciones estrictas sobre la generación de contenido por IA, incluyendo imágenes. Se exige que cualquier contenido generado por IA incluya marcas visibles que informen a los usuarios, y prohíbe la creación y difusión de contenido falso o dañino. Además, empresas tecnológicas deben cumplir con directrices estatales de censura y control.
Organizaciones internacionales
Organismos como la UNESCO o la OCDE están desarrollando recomendaciones para la gobernanza ética de la IA, que incluyen la regulación del contenido visual para promover la transparencia, evitar discriminación y proteger derechos humanos.
También el sector de entretenimiento y medios está incorporando ciertas regulaciones. En cine o publicidad, suelen usarse cláusulas contractuales para regular el uso de imágenes generadas por IA, protegiendo la imagen y derechos de actores o modelos virtuales. También se promueven estándares éticos para evitar la manipulación engañosa en noticias o campañas.
Estos ejemplos muestran que la regulación es un proceso activo y diverso, buscando balancear la innovación tecnológica con la protección social y ética. Es un tema aún delicado y polémico, pero estas acciones están demostrando que sí, en efecto, hay que hacer algo respecto al uso de la IA en las imágenes sintéticas. Pongo aquí también un interesante artículo sobre este asunto, publicado en la Web por el diario argentino La Capital: https://www.lacapitalmdp.com/ia-contra-ia-la-carrera-por-detectar-imagenes-falsas-en-pleno-tsunami-digital/
Lucas Gutiérrez, artista digital y diseñador industrial argentino, nacido en 1985 y radicado en Berlín, explora en sus obras la intersección entre programas informáticos y errores gráficos, creando objetos autónomos en un entorno virtual sin principio ni final, caracterizado por texturas macro y superficies imposibles; una propuesta que reflexiona sobre los nuevos paradigmas de la cultura digital desde una perspectiva metafísica, colorida y caótica.
Los últimos trabajos del artista, que ha ofrecido charlas y performances en espacios como el Centro Pompidou, son una original combinación de tecnología y abstracción dinámica que renueva los recursos digitales tridimensionales. Los ha presentado en IRCAM, Manifeste, Sonar+D, NYU Berlin/Tokio y sus obras se han mostrado en certámenes internacionales como The New Infinity, Berliner Festspiele, Immersion y CTM/transmediale, entre otros.
Su práctica explora la materialidad de lo digital a través de universos abstractos donde las superficies parecen convertirse en esculturas. En sus piezas, lo algorítmico adquiere textura, densidad y hasta latido propio. Lo que vemos nos hace dudar de si estamos frente a metal, plástico o pura simulación: la imagen deja de ser plana y empieza a comportarse como materia, que parte del diseño industrial.
Sus imágenes son conocidas por su estética abstracta y futurista y su capacidad para crear entornos profundamente inmersivos. Se mueve entre la cultura del remix y el desarrollo de proyectos audiovisuales en tiempo real, en los cuales fusiona influencias de diferentes contextos. La narrativa de Lucas Gutiérrez gira en torno a distopías y miedos sociales actuales desde un lenguaje metafísico lleno de caos y color. Su sitio Web es extraodinario, muy dinámico y completo. Aquí pongo el enlace y una entrevista muy interesante en la revista digital Planeta Urbano.
https://lucasgutierrez.com/. Acá se aprecia muy bien su estética y el estilo dinámico de su obra. Vale la pena estrar y disfrutar.
Hoy pongo una hermosa frase del famoso escritor, dramaturgo y poeta irlandés, premio Nobel de literatura en 1925, George Bernard Shaw (1856-1950).
"No nos hace sabios el recuerdo de nuestro pasado, sino la responsabilidad de nuestro futuro".
El pasado y la historia son importantes, pero el futuro hay que hacerlo.
Un aspecto importante a considerar en el caso del uso indiscriminado de imágenes sintetizadas es cómo evitar que violen la privacidad individualk y violenten los derechos personales o colectivos. La gobernanza digital aplicada al control, supervisión o regulación de las imágenes generadas con inteligencia artificial (IA) es, en consecuencia, un tema muy relevante y en desarrollo actualmente.
Podemos revisar cómo se aplica:
1. Normativas y políticas claras. Se crean leyes y regulaciones que establecen qué tipo de imágenes generadas por IA están permitidas, cuáles podrían considerarse ilegales (por ejemplo, imágenes que promuevan el odio, la discriminación o la violencia), y cómo deben tratarse los derechos de autor o la privacidad.
2. Transparencia y etiquetado. Una práctica común es exigir que las imágenes generadas por IA sean etiquetadas claramente como tales para evitar la desinformación o el engaño. Esto forma parte de la gobernanza para garantizar que los usuarios sepan cuándo están viendo contenido manipulado o generado artificialmente.
3. Supervisión ética. Se establecen comités o grupos especializados que evalúan el impacto ético de estas tecnologías y sus usos, y proponen guías o recomendaciones para su aplicación responsable.
4. Control técnico y seguridad. Se implementan mecanismos tecnológicos para detectar imágenes falsas o manipuladas (deepfakes), y prevenir su uso fraudulento o malintencionado.
5. Participación y colaboración. La gobernanza digital promueve la participación de diferentes actores (gobiernos, empresas tecnológicas, expertos, sociedad civil) para que las regulaciones sean inclusivas y efectivas.
6. Protección de derechos. Se asegura la protección de derechos humanos, como la privacidad y la reputación, cuando se utilizan imágenes generadas por IA.
De esta forma, la gobernanza digital busca establecer un marco que permita aprovechar las ventajas de la IA para crear imágenes, pero minimizando riesgos asociados como la desinformación, violaciones a la privacidad o usos maliciosos. No obstante, sigue estando presente el asunto coercitivo y de regulaciòn, que puede derivar en censura y control punitivo. Es un problema candente, que recién está en la palestra.
Este es un tema muy actual y con muchas implicaciones hoy día: el enorme desarrollo que ha experimentado la difusión de imágenes visuales e incluso productos audiovisuales sintetizados con el uso de inteligencia artificial. Este crecimiento ha resultado en la proliferaciòn de noticias falsas (fake news) y suplantaciones (deepfakes) que retan la credibilidad y el sentido ético de la comunicación. En este sentido surge una nueva interrogante: ¿hay que controlar, regular o supervisar el uso de la IA en este tipo de imágenes? Entonces, ¿es posible establecer alguna forma de gobernanza de tipo digital para esta tendencia actual?
La gobernanza digital se refiere al conjunto de normas, políticas, procesos y mecanismos que regulan el uso, gestión y desarrollo de las tecnologías digitales y la información en una organización, comunidad o país. Su objetivo principal es asegurar que las tecnologías digitales se utilicen de manera eficiente, segura, ética y transparente para beneficiar a todos los actores involucrados.
En un contexto más amplio, la gobernanza digital abarca aspectos como:
- La regulación del acceso y uso de internet y otras plataformas digitales.
- La protección de datos personales y la privacidad.
- La ciberseguridad.
- La inclusión digital para que más personas puedan acceder y aprovechar estas tecnologías.
- La participación ciudadana a través de medios digitales.
- La transparencia y rendición de cuentas en el gobierno y en organizaciones mediante herramientas digitales.
Ahora bien, se puede pensar en extender la normativa para que abarque con precisión, justamente, el uso ético de la IA en las imágenes y videos sintetizados. Es por supuesto un tema polémico, porque raya con la censura y el control político, pero es necesario algún tipo de regulación o limitación en este sentido, porque cada vez más vemos como se hace patetente el manejo indiscriminado de rostros, espacios y hechos reales para presentar noticias no ciertas y acciones irreales o falsas, que son fuente de mentiras y desinformación. En la publicación de mañana veremos algunas propuestas para revisar esta compleja situación.
