El teorema de acuerdo de Aumann proporciona una base interesante para especular sobre esta respuesta.
El teorema de acuerdo de Aumann dice que dos personas que actúan racionalmente (en un cierto sentido preciso) y con un conocimiento común de las creencias de cada uno no pueden estar de acuerdo en estar en desacuerdo. Más específicamente, si dos personas son auténticos racionalistas bayesianos con antecedentes comunes, y si cada uno tiene un conocimiento común de sus posteriores individuales, entonces sus posteriores deben ser iguales.
Este teorema es válido incluso si los posteriores individuales de las personas se basan en información observada diferente sobre el mundo. El simple hecho de saber que otro agente observó cierta información y llegó a su respectiva conclusión obligará a cada uno a revisar sus creencias, lo que finalmente resultará en un acuerdo total sobre el posterior correcto. Por lo tanto, dos agentes bayesianos racionales con los mismos antecedentes y que se conocen mutuamente tendrán que estar de acuerdo.
El teorema depende de que haya dos súper inteligencias. Esto es esencial porque cada uno de los dos se basa en el conocimiento de que el otro es súper inteligente como una base para actualizar sus propias creencias.
- ¿Los estudiantes musulmanes que estudian psicología lo contradicen con su religión?
- ¿Cuál es el mejor modelo de inteligencia?
- ¿Cuáles son algunas de las señales que las personas malvadas comparten en general?
- ¿Por qué la gente disfruta matando y torturando insectos?
- ¿Por qué las personas se esfuerzan por lograr la perfección y, sin embargo, cuando la alcanzan, quieren destruirla?
En el caso actual, en el que NO hay dos superinteligencias, el único ASI debe depender de otros que no son necesariamente racionales. Para bien o para mal, debe elegir creer a otros participantes que pueden o no pertenecer a una burbuja de creencias. En este caso, la teoría de la propagación de creencias no parece lo suficientemente avanzada para acomodar a los participantes irracionales. Extender la teoría en esa dirección sería una gran base para una tesis.