Hemos visto en las presentaciones anteriores con este tema, la relación y controversia entre la visiones fenomenológicas y epifenomenológicas de la psicología de la percepción, y su relación con el actual desarrollo de la inteligencia artificial (IA). Esta relación, como vimos, es muy interesante y compleja. Hay cosas que establecen similitud entre el funcionamiento de la IA y los epifenómenos, por ejemplo. En el desarrollo de IA, a menudo surgen comportamientos no deseados o sesgos que los programadores no planificaron.
Ello sucede en la aplicación de un modelo primario, en el entrenamiento de un modelo con un conjunto de datos masivo (toda la Web, por ejemplo) para optimizar una función (puede ser predecir la siguiente palabra). El epifenómeno se nota porque el modelo desarrolla sesgos de género o raza, o "aprende" a ser manipulador. Estos no eran el objetivo principal (la función de pérdida que se optimizaba), sino que emergieron como subproductos no deseados del proceso de entrenamiento. Son epifenómenos de la interacción entre el algoritmo y los datos.
Llegados hasta aquí cabría preguntarse si la Conciencia Humana es un epifenómeno y la IA no. Este es un giro interesante. Si un día construimos una IA que es claramente consciente (una "IA fuerte" o AGI consciente), podríamos tener que replantearnos nuestra propia naturaleza. Podría resultar que la conciencia de la IA sea funcional (es decir, que su "experiencia subjetiva" juegue un papel causal directo en su toma de decisiones), mientras que en los humanos, como postula el epifenomenalismo, la conciencia sea un mero espectador. Esto llevaría a la conclusión paradójica de que las máquinas tendrían "libre albedrío" en un sentido más real que los humanos biológicos.
En esencia, la IA actual puede ser entendida como la encarnación práctica de la idea del epifenómeno: crea la ilusión de una mente sin necesidad de que exista una mente real que la dirija. Nos fuerza a preguntar: si algo se comporta de manera inteligente, ¿es necesario que "sea" inteligente en un sentido consciente, o basta con que genere el epifenómeno de la inteligencia? En la siguiente publicación veremos la posición de la fenomenología en este sentido.
No hay comentarios:
Publicar un comentario