¿Qué tan pronto antes de que tengamos un software de auto-mejora que sea consciente de sí mismo?

No estoy seguro de cuándo la inteligencia artificial será finalmente real. O cómo lidiaremos con la idea de crear conciencia fuera de nosotros mismos, pero puedo decir que estoy esperando ese futuro.

Creo que los desarrollos más interesantes en esta dirección son los programas que aprenden con el tiempo después de que se les asignen algunos objetivos. Por ejemplo, hay simulaciones por computadora que están diseñadas para iterar y evolucionar el patrón de caminar erguido. Puedes ver las diferentes generaciones construyendo en habilidad aquí:
Locomoción flexible basada en el músculo para criaturas bípedas

Puede requerir que la inteligencia genérica se codifique como una ley a seguir. Hay una teoría interesante que intenta describir la inteligencia simplemente. A grandes rasgos, la teoría es la siguiente: “La inteligencia es la tendencia a avanzar hacia la futura libertad de movimiento”
Una nueva ecuación para la inteligencia.

También puede requerir un nuevo tipo de procesador que sea capaz de aprender de la misma manera que lo hace nuestro cerebro. Hoy tenemos miles de millones de neuronas disparando en nuestro cerebro, comunicándonos y aprendiendo con unos 20 vatios de energía. Es un sistema asombroso y hermoso, pero casi no entendido. Estas próximas décadas serán un momento emocionante para estar vivo.
Computación cognitiva: chips neurosinápticos.

¡Estás hablando de Inteligencia Artificial! ¡Aunque el nivel de tecnología ficticia (a partir de ahora) del que están hablando podría ser posible en los próximos 20-30 años! Existen diferentes enfoques, pero creo que una vez que descubramos más del cerebro humano, podemos usar esas sinapsis para desarrollar programas futuristas de autoconciencia. ¿A alguien le importa agregar hechos?