En la entrada anterior desarrollé brevemente la propuesta de experimento mental del profesor estadounidense, John Searle, llamado El Cuarto o la Habitación China, mediante el cual se trata de rebatir la validez de la prueba de Turing y de la creencia de que el pensamiento es simplemente computación. El Test de Turing evalúa si una máquina puede imitar el comportamiento humano, mientras que el Cuarto Chino cuestiona si esa imitación implica una verdadera comprensión. Mientras Alan Turing se enfoca en los resultados externos, John Searle analiza la naturaleza de los procesos internos.
Ese experimento de 1980 cobra una vigencia enorme con los Modelos de Lenguaje de Gran Escala (LLM) actuales. Cuando una IA moderna redacta un texto fluido o responde una pregunta compleja, lo hace analizando patrones estadísticos y sintácticos entre miles de millones de palabras. Siguiendo el razonamiento de Searle, el modelo opera como el hombre en el Cuarto Chino: ejecuta algoritmos sofisticados sin experimentar ni comprender verdaderamente el significado de lo que comunica.
Ahora bien, con los años han ido apareciendo refutaciones y contra argumentos a esta Habitación China. La llamada "Respuesta del Sistema" (The Systems Reply) es la objeción más popular y debatida contra el experimento de John Searle. Fue planteada originalmente por filósofos e investigadores en IA como Ned Block, Ray Kurzweil y Jerry Fodor. Su premisa central es muy sencilla: Searle comete una falacia de composición al enfocar la atención en el sujeto equivocado.
La objeción concede que el individuo dentro del cuarto no entiende chino. Sin embargo, sostiene que el individuo no es la mente; es solo una parte del procesamiento. La parte no es el todo; el hombre dentro de la habitación equivale a la Unidad Central de Procesamiento (CPU) de una computadora. Una CPU no comprende las instrucciones por sí sola, pero ejecuta las operaciones del programa. Ahora bien, la entidad que comprende no es única. La comprensión del idioma chino no reside en la persona sola, sino en todo el sistema integrado: la persona + el libro de reglas + las cajas de símbolos + la habitación. De aquí se pasa al paralelismo con el cerebro humano: ninguna neurona por separado en el cerebro humano comprende el español o el chino, ni tiene conciencia de sí misma. La conciencia y la comprensión son propiedades emergentes que surgen de la interacción del sistema neuronal completo. Por lo tanto, debe verse todo el sistema y no una parte.
John Searle anticipó esta objeción y respondió con un experimento mental ampliado. Imaginemos que la persona memoriza todo el libro de reglas y todas las cajas de símbolos. Sale de la habitación y opera todo dentro de su propia mente. En este punto, la persona es el sistema entero. Si la persona sigue sin entender chino (solo está haciendo conversiones sintácticas en su memoria), entonces el sistema no entiende chino.
Así las cosas, este debate está muy vigente con las redes neuronales profundas y la IA generativa. Los defensores del Sistema sostienen que un modelo como GPT no debe juzgarse observando una sola suma ponderada o una sola matriz de pesos, sino evaluando la representación vectorial del conocimiento que el sistema completo construye en su espacio latente. La postura pro Searle insiste en que no importa cuán grande o complejo sea el sistema (sea una habitación, una computadora o un supercúmulo de servidores), sumar infinitas operaciones sintácticas jamás generará subjetividad ni conciencia real de las cosas. ¿Quién tiene la razón hoy en día?.
No hay comentarios:
Publicar un comentario