En la representación del conocimiento para la inteligencia de la máquina, ¿se anticipa que las máquinas podrían elaborar sus propios ‘conceptos’, o solo trabajar con aquellos a los que se les proporciona en su base de conocimiento?

Answer 1

Ellos podrán, pero necesitamos calificar la declaración. Las máquinas potencialmente podrían desarrollar ‘conceptos’ que se extiendan desde los marcos existentes o al encontrar nuevas relaciones dentro de las webs existentes. Pero lo que es y será difícil para las máquinas será crear nuevos datos, nuevos marcos no asociados de forma remota con los existentes. Por ejemplo, creo que ninguna máquina pronto podrá sacar a Peter Pan o Harry Potter de la nada. Claro, uno podría copiar y modificar, transformar un paradigma existente, pero es probable que sea una creación pálida que no esté bien distanciada. ‘Barry Potter’. Ninguna máquina que haga matemáticas en este momento, como Mathematica, podría tener el concepto de múltiples por sí misma. Se necesita capacidad para manejar el espacio abstracto, y no muchos humanos lo hacen bien.

Las personas en aprendizaje automático que piensan que nos estamos acercando son, creo, víctimas de Dunning-Kroeger, y están demasiado confiadas.

Hablando de resultados espurios, aquí hay un problema a considerar. Los humanos asimilamos los hechos y el conocimiento a medida que experimentamos la vida Sin embargo, nuestras bases de conocimientos crecen a medida que envejecemos. A medida que analizamos cada hecho nuevo, no siempre verificamos ese hecho en contra de cada hecho que ya sabemos, porque esto tomaría demasiado tiempo y ataría nuestra conciencia. El resultado es que a veces tenemos que detenernos y reconsiderar algo que ‘sabemos’ y reexaminar su posición en nuestros marcos. Entonces, los humanos tienen un problema inherente, por lo que no podemos estar seguros de la validez de todo lo que recibimos. Nuestras vidas no son lo suficientemente largas como para comparar cada pieza de conocimiento con todas las otras piezas que hemos aprendido.

Ahora consideremos los problemas que enfrenta una IA que está aprendiendo. Para asegurarse de que todo es válido, tendría que hacer un número exponencial de exámenes. Puedes ver que esto crea una barrera básica contra una ‘supermáquina’, ya que pasaría enormes cantidades de tiempo tratando con el universo del conocimiento. “No me molestes, ¡estoy ocupado en este momento haciendo una verificación cruzada de todos mis conocimientos!”

Mi conjetura es que los sistemas futuros usarán un enfoque distribuido con redes de expertos, cada uno capaz de manejar su dominio que será más manejable, y luego los expertos tendrán que reunirse y llegar a un acuerdo sobre las cosas entre ellos. No habrá un solo cirujano experto en ajedrez cirujano, físico, robot y chef, sino más bien comunidades de AIs agrupadas para producir resultados. Tal vez estos puedan ser capaces de hacer malabares con puntos de vista en colisión y llegar a cosas que son nuevos, nuevos conceptos. Este es un problema en el que he estado trabajando durante algún tiempo.