Los dilemas éticos en torno a las imágenes sintéticas generadas por IA (como las creadas con DALL-E, Midjourney, Nano-Banana o Stable Diffusion) son numerosos y complejos. Se pueden identificar muchos problemas y circunstancias que afectan y califican el uso de esas imágenes. El primero de ellos es el tema de la autenticidad y la desinformación, como en elc aso de los Deepfakes. Esto es manipulación de la realidad. Se pueden crear imágenes hiperrealistas de eventos que nunca ocurrieron o declaraciones falsas de personas reales, erosionando la confianza en la evidencia visual. Igual el uso en propaganda y noticias falsas, una forma malintencionada de influir en la opinión pública, procesos electorales o desacreditar oponentes. Esto lleva a una crisis de la verdad y socava el concepto de "ver es creer", generando escepticismo generalizado incluso ante imágenes reales.
El segundo asunto complicado tiene que ver con los derechos de propiedad intelectual y artística. La mayoría de los modelos de IA se entrenan con millones de imágenes de artistas, fotógrafos y creadores sin su permiso, compensación o reconocimiento. Esto linda con el plagio y el estilo. ¿Es ético generar obras "en el estilo de" un artista vivo sin su consentimiento? ¿Dónde está el límite entre la inspiración y el robo de estilo? Aquí aparecen entonces los derechos de autor de la imagen resultante: ¿Quién es el dueño? ¿El que escribe el prompt, el dueño de la IA, los artistas en cuyos trabajos se entrenó, o es de dominio público? Un problema complejo, legal y ético.
Los sesgos y la perpetuación de estereotipos es también característico de estos programas. Normalmente son un reflejo de prejuicios y asociaciones culturales atávicas. Si los datos de entrenamiento contienen sesgos (de género, raza, cultura), la IA los reproducirá y amplificará (por ejemplo, generando principalmente gerentes como hombres blancos y maleantes como negros). También se genera una falta de diversidad, ya que se puede homogenizar la representación visual, invisibilizando a minorías, trayendo consigo un daño cultural, así como la apropiación o representación estereotipada de culturas, símbolos religiosos o tradiciones.
Estos problemas son los más conocidos y discutidos, pero hay otros de tipo moral igual de relevantes pero que a veces se obvian, como veremos en la siguiente publicación, en la que se tocarán aspectos como la privacidad, el consentimiento, el contenido nocivo y el posible impacto psicológico que estas imágenes digitales por IA pueden producir.
No hay comentarios:
Publicar un comentario