¿Puede la IA superar la inteligencia humana sin mostrar ninguna marca de conciencia?

Answer 1

Depende de lo que entiendas por “inteligencia”. Las computadoras ya son mejores que los humanos en aritmética, buscando texto, jugando al Ajedrez, a Go y a Jeopardy !, conduciendo autos y reconociendo caras.

Pero todavía hay un conjunto de capacidades (en disminución) donde los humanos son superiores. Mientras este conjunto no esté vacío, las computadoras no pasarán la prueba de Turing. Eventualmente, este conjunto será tan pequeño que podríamos escribir programas que pasen la prueba si quisiéramos. Un programa así parece estar consciente, por lo que cualquiera podría decir.

Pero ¿por qué haríamos eso? Hacer que una computadora parezca humana significaría simular las debilidades humanas así como las fortalezas. Significaría programar computadoras para simular emociones, mala memoria y la necesidad de dormir y tomar días de vacaciones. Turing reconoció el problema en su artículo de 1950, Computing Machinery and Intelligence, con el siguiente ejemplo:

Q: Añadir 34957 a 70764.

R: (Pausa unos 30 segundos y luego da como respuesta) 105621.

Answer 2

¿Puede un zombie digital investigar la naturaleza, las variedades, la eficacia causal y la unión fenomenal de la conciencia? ¿Puede un zombie digital explorar la psicodelia y sistemáticamente trazar espacios de experiencia de estados extraños? ( cf. Alexander ‘Sasha’ Shulgin’s PiHKAL: Erowid Online Books: “PIHKAL”)

Las computadoras digitales clásicas y las redes conexionistas pronto podrán superar a los humanos en muchos dominios cognitivos: la “IA estrecha”. Pero en cierto sentido son invenciblemente ignorantes.

Answer 3

No.

La inteligencia humana encarna la inteligencia general.
Por lo tanto, una IA no puede superar la “inteligencia general” sin mostrar una marca de conciencia, ya que es parte integral de la inteligencia general.

Un algoritmo de optimización / búsqueda puede superar a un humano en una tarea adecuada para la optimización / búsqueda. Esto ya ha sido demostrado por varias soluciones aplicadas de IA. Un algoritmo de optimización / búsqueda no es consciente.
Esto se conoce como: AI.

El verdadero AGI se centra en construcciones mucho más profundas. Las cosas esquivas como la conciencia.

Answer 4

¿Puede la IA superar la inteligencia humana sin mostrar ninguna marca de conciencia?

La inteligencia artificial (IA) ya ha superado a la inteligencia humana en una amplia variedad de métricas. Sin embargo, cada vez que la inteligencia artificial supera la inteligencia humana para lograr una determinada tarea, la realización de esa tarea ya no se considera una medida de “verdadera inteligencia”. Esto se conoce como el efecto AI.

Michael Kearns sugiere que “las personas subconscientemente están tratando de conservar algún papel especial en el universo”. Al descontar la inteligencia artificial, las personas pueden seguir sintiéndose únicas y especiales. Kearns argumenta que el cambio en la percepción conocido como el efecto de la IA se puede rastrear hasta el misterio que se elimina del sistema: el hecho de poder rastrear la causa de los eventos implica que es una forma de automatización en lugar de inteligencia.

Este movimiento constante de los objetivos proverbiales falla en reconocer que la IA es actualmente un tipo de inteligencia fundamentalmente diferente a la inteligencia humana. Al mismo tiempo, la IA no tiene otra “razón de ser” que no sea la que le dan los seres humanos. Como tal, si y cuando la IA se auto-actualice, es casi seguro que lo hará en virtud de su interdependencia con uno o más seres humanos, creando, paradójicamente, una inteligencia más inteligente que la humana, que es por su propia naturaleza la esencia de la conciencia.

Yo diría que ya hemos alcanzado un mayor nivel de conciencia a través de nuestra interacción con la tecnología, y que lo hicimos hace milenios, primero mediante el uso del lenguaje simbólico, luego a través de la palabra escrita, y ahora a través de la compilación de bases de datos y Algoritmos en formato digital que nos permiten conectar los puntos proverbiales de piezas antes dispares de conocimiento humano. En esta nota, a menudo me tropiezo con cosas que escribí hace décadas que no reconozco inmediatamente como mi propia escritura. De hecho, hay una buena posibilidad de que haya olvidado por completo lo que he escrito por otras personas.

Answer 5

¿Qué crees que es realmente la inteligencia humana?

Este es el problema con la comunidad de AI, usan el término libremente, pero solo lo definen con el ejemplo (por ejemplo, ref a Turing test).

Hay poca inteligencia posible en una computadora. Es programada, determinista (propiedad admirable, pero fija). La única forma de adaptación es con respecto a algún criterio de convergencia elegido por el programador.

Por lo tanto, dado que realmente no hay AI, toda la inteligencia que se ve aunque se juegue y gane es propiedad de programadores muy inteligentes.

La consciencia es un enigma filosófico. Es una consecuencia no hacer con programas sino con sensores que crean la primera línea de retroalimentación con respecto a un entorno consistente. La retroalimentación interna posterior es la que permite a las unidades viables percibir imágenes a través de esos sensores. Esta percepción está en la forma de la experiencia que viene de dentro, tal mecanismo nos permite ver, oír y tocar nuestra realidad. La consciencia nace de este fenómeno inusual.

Cuando un sistema está consciente, puede definir modelos basados ​​en procesos para satisfacer los objetivos percibidos que surgen de la necesidad de mantener la viabilidad. Estos modelos se describen en ocasiones como un razonamiento basado en objetivos. El modelado requiere conciencia y otros fenómenos introspectivamente accesibles (consulte Qualia (Enciclopedia de Filosofía de Stanford)

Dado que todo esto es una consecuencia de un entorno consistente y extenso, puede ver dónde deja las computadoras. También significa que la inteligencia de la propiedad es una consecuencia de nuestra necesidad de mantener la viabilidad con respecto a nuestro entorno.

Consciouness nos da la ventaja en cuanto a la viabilidad al permitirnos cerrar esos problemas complicados de bucle abierto que otras especies no pueden manejar.

Answer 6

Dicha IA no podrá hacer un modelo adecuado de humanos antes de que alcance un nivel muy alto. Los humanos serán una especie de cajas negras para él, que es mejor eliminar para simplificar el problema. Así que tal IA es intrínsecamente más peligrosa.

También podría nunca ser capaz de resolver la conciencia. El maximizador de clip no necesita resolver la conciencia para exterminar a toda la humanidad.

Si AI no entiende correctamente a los humanos, podría convertirlos en p-zombies durante la carga.

Answer 7

Podria. Si es así de inteligente, puede decidir lo que muestra o no nos muestra. Incluso puede ocultarnos su inteligencia, por ejemplo, hasta que sea un ASI muy avanzado con un plan casi a prueba de fallos para derrotar a la humanidad. Es mucho más fácil hacer el tonto mientras eres inteligente que al revés.

¿Pero si algo puede ser igualmente inteligente y no ser consciente? Lo dudo. La consciencia surgirá de la inteligencia y de los sensores mínimamente para “ver” el mundo. Se aceleraría enormemente el aprendizaje si un AGI también tuviera actuadores para manipular el mundo y realizar experimentos. La consciencia surge de la inteligencia y de este circuito de retroalimentación: actúe, vea el resultado, haga hipótesis y modelos, planifique pruebas, haga pruebas, revise modelos. Por supuesto, un sistema también puede aprender observando lo que sucede (sin poder influir en esto). Pero sería más como una persona paralizada que está consciente.

Answer 8

El grado en que los procesos inconscientes impulsan la inteligencia humana apoya la idea de que la conciencia es algo incidental al logro mental. La mente inconsciente Por Bargh y Morsella evidencia esta visión.

Proponemos una perspectiva alternativa, en la que los procesos inconscientes se definen en términos de su naturaleza no intencional y la falta de conciencia inherente es la influencia y el efecto de los estímulos desencadenantes y no de los estímulos desencadenantes (porque casi todos los estímulos naturales son supraliminales) . Con esta definición del inconsciente, que es la original e histórica, la investigación sobre cognición social contemporánea sobre los efectos de cebado y automaticidad ha demostrado la existencia de sistemas de guía de conducta inconscientes sofisticados, flexibles y adaptativos.

Si este es el caso, es fácil extrapolar la capacidad de la IA para igualar y superar el inconsciente humano sin “mostrar ninguna marca de conciencia”.

Answer 9

El problema es que no tenemos idea de qué es una “marca de conciencia”.

La inteligencia artificial ya ha superado la inteligencia humana en una variedad de problemas específicos, como juegos como el ajedrez (y recientemente, vaya) y ciertos tipos de reconocimiento de patrones. La mayoría de las personas están de acuerdo en que estos sistemas de inteligencia artificial no son ni siquiera remotamente conscientes, pero esto se basa en la intuición informal, en lugar de una definición científica clara de la conciencia.

Hasta ahora, ningún sistema de inteligencia artificial ha demostrado inteligencia general: cada solución de inteligencia artificial se adapta a una aplicación específica y no puede generalizar los problemas en los que no se ha entrenado.

Como no tenemos una definición científica de conciencia, no tenemos forma de saber si la resolución inteligente de problemas requiere conciencia.

Answer 10

La inteligencia no es una sola estadística. Ya hay sistemas artificiales que son más “inteligentes” que los humanos en sus respectivos dominios.

La inteligencia general es difícil de cuantificar así. Personalmente no creo que la conciencia sea un requisito para esto. En realidad soy escéptico sobre el concepto de conciencia como un todo, pero en última instancia todavía no hay una respuesta definitiva.

Answer 11

En algunas áreas, podría desarrollarse una IA que sea un sabio idiota que pueda encontrar respuestas a problemas difíciles sin que necesariamente tenga conciencia. Por ejemplo, espero que las IA para uso de diagnóstico médico puedan superar al médico promedio. He tenido algunos doctores en medicina bastante tontos, francamente, así que creo que esto es una suposición válida.

Answer 12

Por definición las computadoras tienen inteligencia absoluta. Son infalibles.