Paul King da una muy buena respuesta aquí, solo tengo que añadir que puede que no sea posible imitar computacionalmente una mente humana, porque la conciencia puede ser impulsada por cualidades estéticas en lugar de lógica matemática. El problema, al que llamo el problema de presentación, es lo que tienen en común varios temas destacados de la ciencia y la filosofía, a saber, la brecha explicativa, el problema difícil, el problema de conexión de símbolos, el problema vinculante y las simetrías del dualismo mente-cuerpo. Subyacente a todo esto está la distinción mapa-territorio; La necesidad de reconocer la diferencia entre presentación y representación.
Debido a que las mentes humanas son fenómenos inusuales porque son presentaciones que se especializan en representación, tienen un punto ciego cuando se trata de examinarse a sí mismas. La mente está ciega a lo no representativo. No ve lo que siente, y no sabe cómo ve. Dado que su pensamiento está diseñado para eliminar la presentación sensorial más directa en favor de representaciones abstractas que generan sentidos, no logra captar el papel de la presencia y la estética en lo que hace. Tiende a un exceso de confianza en lo teórico. La mente da por sentado el realismo mundano, por un lado, pero lo combina con sus propias experiencias como un procesador lógico por el otro. Es un caso de la falacia del instrumento, donde el martillo de simbolismo de la mente ve clavos simbólicos en todas partes. A través de este filtro intelectual, la noción de algoritmos sin cuerpo que de alguna manera generan experiencias subjetivas y cuerpos objetivos (aunque las experiencias o los cuerpos no tendrían una función plausible para entidades puramente matemáticas) se convierte en una solución seductora casi inevitablemente.
Tan atractivo es este apuntalamiento cuantitativo para la cosmología de la mente occidental, que muchas personas (especialmente los entusiastas de la IA fuerte) encuentran fácil ignorar que el carácter de las matemáticas y la computación reflejan precisamente las cualidades opuestas de las que caracterizan la conciencia. Actuar como una máquina, un robot o un autómata no es simplemente un estilo de vida personal alternativo, es el estilo común de todas las personas y todo lo que se evacúa de los sentimientos. Las matemáticas son intrínsecamente amorales, irreales e intratablemente interesadas en sí mismas, una universalidad de representación sin ventanas.
Una computadora no tiene preferencia estética. No hace ninguna diferencia para un programa, ya sea que su salida se muestre en un monitor con millones de colores, o que salga del altavoz, o que se transmita como pulsos electrónicos a través de un cable. Esta es la principal utilidad de computación. Esta es la razón por la que lo digital no está sujeto a restricciones físicas de ubicación. Dado que los programas no se ocupan de la estética, solo podemos utilizar el programa para dar formato a los valores de manera que se corresponda con las expectativas de nuestros órganos sensoriales. Ese formato, por supuesto, es ajeno y arbitrario al programa. Se trata de datos semánticos sin conexión a tierra, variables ficticias.
Algo como el conjunto de Mandelbrot puede parecernos profundamente atractivo cuando se presenta ópticamente como gráficos de colores, pero el mismo conjunto de datos no tiene cualidades interesantes cuando se reproduce como tonos de audio. El programa que genera los datos no tiene ningún deseo de verlos realizados de una forma u otra, no hay curiosidad por verlos como píxeles o voxels. El programa está absolutamente satisfecho con una funcionalidad puramente cuantitativa, con algoritmos que no se corresponden con nada excepto con ellos mismos.
Para que los valores genéricos de un programa puedan interpretarse experimentalmente, primero deben representarse a través de funciones físicas controlables. Debe quedar perfectamente claro que esta recreación no es una ‘traducción’ o una ‘transferencia’ de datos a una máquina, sino que se parece más a una adaptación teatral de un script. El programa funciona porque los mecanismos físicos han sido cuidadosamente seleccionados y fabricados para que coincidan con las especificaciones del programa. El programa en sí es absolutamente impotente en cuanto a manifestarse de alguna manera física o experiencial. El programa es un menú, no una comida. La física proporciona el restaurante y la comida, la subjetividad proporciona los patrones, el chef y el hambre. Las interacciones físicas son interpretadas por el usuario de la máquina, y solo el usuario se preocupa por su aspecto, su gusto, su gusto, etc. Un algoritmo puede comentar sobre lo que se define como ser querido, pero no puede como cualquier cosa en sí, ni puede entender cómo es nada.
Si estoy en lo cierto, todos los fenómenos naturales tienen un rango mecanicista público y un rango animista privado. Un algoritmo cierra la brecha entre los mecanismos de espacio-tiempo orientados al público, pero no tiene acceso a las experiencias estéticas privadas que varían de un tema a otro. Por definición, un algoritmo representa un proceso genéricamente, pero la forma en que se interpreta ese proceso es inherentemente propietaria.