Sobre la gobernanza digital y las imágenes sintéticas (2/2)

Un aspecto importante a considerar en el caso del uso indiscriminado de imágenes sintetizadas es cómo evitar que violen la privacidad individualk y violenten los derechos personales o colectivos. La gobernanza digital aplicada al control, supervisión o regulación de las imágenes generadas con inteligencia artificial (IA) es, en consecuencia, un tema muy relevante y en desarrollo actualmente.

Podemos revisar cómo se aplica:

1. Normativas y políticas claras. Se crean leyes y regulaciones que establecen qué tipo de imágenes generadas por IA están permitidas, cuáles podrían considerarse ilegales (por ejemplo, imágenes que promuevan el odio, la discriminación o la violencia), y cómo deben tratarse los derechos de autor o la privacidad.

2. Transparencia y etiquetado. Una práctica común es exigir que las imágenes generadas por IA sean etiquetadas claramente como tales para evitar la desinformación o el engaño. Esto forma parte de la gobernanza para garantizar que los usuarios sepan cuándo están viendo contenido manipulado o generado artificialmente.

3. Supervisión ética. Se establecen comités o grupos especializados que evalúan el impacto ético de estas tecnologías y sus usos, y proponen guías o recomendaciones para su aplicación responsable.

4. Control técnico y seguridad. Se implementan mecanismos tecnológicos para detectar imágenes falsas o manipuladas (deepfakes), y prevenir su uso fraudulento o malintencionado.

5. Participación y colaboración. La gobernanza digital promueve la participación de diferentes actores (gobiernos, empresas tecnológicas, expertos, sociedad civil) para que las regulaciones sean inclusivas y efectivas.

6. Protección de derechos. Se asegura la protección de derechos humanos, como la privacidad y la reputación, cuando se utilizan imágenes generadas por IA.

De esta forma, la gobernanza digital busca establecer un marco que permita aprovechar las ventajas de la IA para crear imágenes, pero minimizando riesgos asociados como la desinformación, violaciones a la privacidad o usos maliciosos. No obstante, sigue estando presente el asunto coercitivo y de regulaciòn, que puede derivar en censura y control punitivo. Es un problema candente, que recién está en la palestra.  

Sobre la gobernanza digital y las imágenes sintéticas (1/2)

Este es un tema muy actual y con muchas implicaciones hoy día: el enorme desarrollo que ha experimentado la difusión de imágenes visuales e incluso productos audiovisuales sintetizados con el uso de inteligencia artificial.  Este crecimiento ha resultado en la proliferaciòn de noticias falsas (fake news) y suplantaciones (deepfakes) que retan la credibilidad y el sentido ético de la comunicación. En este sentido surge una nueva interrogante: ¿hay que controlar, regular o supervisar el uso de la IA en este tipo de imágenes? Entonces, ¿es posible establecer alguna forma de gobernanza de tipo digital para esta tendencia actual?

La gobernanza digital se refiere al conjunto de normas, políticas, procesos y mecanismos que regulan el uso, gestión y desarrollo de las tecnologías digitales y la información en una organización, comunidad o país. Su objetivo principal es asegurar que las tecnologías digitales se utilicen de manera eficiente, segura, ética y transparente para beneficiar a todos los actores involucrados.

En un contexto más amplio, la gobernanza digital abarca aspectos como:

- La regulación del acceso y uso de internet y otras plataformas digitales.

- La protección de datos personales y la privacidad.

- La ciberseguridad.

- La inclusión digital para que más personas puedan acceder y aprovechar estas tecnologías.

- La participación ciudadana a través de medios digitales.

- La transparencia y rendición de cuentas en el gobierno y en organizaciones mediante herramientas digitales.

Ahora bien, se puede pensar en extender la normativa para que abarque con precisión, justamente, el uso ético de la IA en las imágenes y videos sintetizados. Es por supuesto un tema polémico, porque raya con la censura y el control político, pero es necesario algún tipo de regulación o limitación en este sentido, porque cada vez más vemos como se hace patetente el manejo indiscriminado de rostros, espacios y hechos reales para presentar noticias no ciertas y acciones irreales o falsas, que son fuente de mentiras y desinformación. En la publicación de mañana veremos algunas propuestas para revisar esta compleja situación.