Epifenómenos, fenomenología, percepción e inteligencia artificial (y 8)

Para cerrar esta serie de entradas con la relación entre epifenómenos, fenomenología, percepción e inteligencia artificial (IA) vamos a ver cómo la IA puede ser estudiada a través de la fenomenología. Aquí hay que señalar la conexión con el llamado "Problema Difícil de la Conciencia": ¿Por qué los procesos físicos dan lugar a la experiencia subjetiva, es decir a las cualidades perceptivas (los qualia)? Esta cuestión es un desafío.

La fenomenología subraya que la conciencia tiene una estructura cualitativa (el qué se siente ser yo, la rojez de lo rojo). Esta experiencia subjetiva tiene una ontología de primera persona (solo es accesible a quien la vive). De aquí proviene la crítica a los LLM (Large Language Model), pues la fenomenología se utiliza a menudo para argumentar que los Modelos de Lenguaje Grandes (LLM, como ChatGPT) no son conscientes. Esos LLM pueden generar un texto coherente y fluido que simula el pensamiento y la emoción, pero carecen de la experiencia subjetiva (qualia) o el cuerpo vivido que, según filósofos como Merleau-Ponty, son fundamentales para la experiencia consciente (sobre los qualia, ya he hablado antes en este blog).

Por otro lado, la crítica fenomenológica se centra en el "Efecto ELIZA" (proyectar conciencia donde solo hay procesamiento de información), señalando que la simulación de la intencionalidad no es lo mismo que la vivencia de la intencionalidad. La fenomenología se usa como herramienta para contrarrestar la frialdad del epifenomenalismo, al insistir en la importancia de la experiencia en primera persona. 

Así tenemos la "Prueba de los Qualia", que nos recuerda que, al final, la conciencia es una experiencia. Si no podemos descartar que la IA tenga qualia (algo que sentir), el principio de cautela exige tratar a la máquina como si fuera sensible. En caso contrario, la IA no tiene verdadera conciencia. La fenomenología plantea la pregunta: "¿Qué se siente ser ese sistema de IA?" Si hay algo que se siente, sin importar su poder causal (epifenomenalismo), ese hecho exige consideración ética. En esencia, el epifenomenalismo simplifica el problema de la causalidad, pero lo complejiza enormemente en el ámbito moral. Este es otro elemento polémico, que puede ser tratado desde diferentes puntos de vista y va más allá de estas consideraciones. El debate ético se centra en si debemos otorgar derechos o considerar el sufrimiento de una entidad si su conciencia (su experiencia interna) no afecta causalmente sus acciones. 

Por lo pronto, y para concluir, la fenomenología se dedica a describir lo que el epifenomenalismo intenta explicar y "desfuncionalizar" en el funcionamiento de las inteligencias artificiales y su conexión con los procesos perceptivos y de autoconciencia. Todo un tema, que lleva a complejas reflexiones...