Una nueva prueba del profesor de SFI, David Wolpert, envía un mensaje de humildad a las supuestas súper inteligencias:no se puede saber todo todo el tiempo.

La prueba comienza formalizando matemáticamente la forma en que un "dispositivo de inferencia, " decir, un científico armado con una supercomputadora, fabuloso equipo experimental, etc., pueden tener conocimiento sobre el estado del universo que los rodea. Si el conocimiento de ese científico se adquiere observando su universo, controlarlo, predecir lo que sucederá a continuación, o inferir lo que sucedió en el pasado, hay una estructura matemática que restringe ese conocimiento. La clave es que el dispositivo de inferencia, sus conocimientos, y la variable física de la que (pueden) saber algo, son todos subsistemas del mismo universo. Ese acoplamiento restringe lo que puede saber el dispositivo. En particular, Wolpert demuestra que siempre hay algo que el dispositivo de inferencia no puede predecir, y algo que no pueden recordar y algo que no pueden observar.

"De alguna manera, este formalismo puede verse como muchas extensiones diferentes de la declaración [de Donald MacKay] de que 'una predicción sobre el futuro del narrador no puede explicar el efecto de que el narrador aprenda esa predicción, '", Explica Wolpert." Quizás la extensión más simple es que, cuando formalizamos [dispositivos de inferencia] matemáticamente, notamos que los mismos resultados de imposibilidad que se aplican a las predicciones del futuro —la preocupación de MacKay— también se aplican a los recuerdos del pasado. El tiempo es una variable arbitraria, no juega ningún papel en términos de los diferentes estados del universo ".

No todo el mundo puede tener razón

¿Qué sucede si no requerimos que un dispositivo de inferencia sepa todo sobre su universo, pero solo que sabe lo más que se podría saber? El marco matemático de Wolpert muestra que no pueden coexistir en ese universo dos dispositivos de inferencia que tengan libre albedrío (definido apropiadamente) y un conocimiento máximo sobre el universo. Puede haber (o no) uno de esos "dispositivos de superinferencia" en algún universo dado, pero no más de uno. Wolpert se refiere en broma a este resultado como "el teorema del monoteísmo, "ya que si bien no prohíbe que haya una deidad en nuestro universo, prohíbe que haya más de uno.

Como ejemplo, supongamos que Bob y Alice son científicos con habilidades computacionales ilimitadas. Es más, supongamos que ambos tienen "libre albedrío, "en el sentido de que la pregunta que Bob se hace a sí mismo no restringe las posibles preguntas que Alice podría hacerse, y viceversa. (Esto resulta ser crucial). Entonces es imposible para Bob predecir (o volver a predecir) lo que Alice piensa en otro momento si también se le pide a Alice que prediga lo que Bob no está pensando en ese momento.

Wolpert compara esta proposición con la paradoja del mentiroso cretense, en el que Epiménides de Knossos, un cretense, famoso dicho "todos los cretenses son mentirosos". Sin embargo, a diferencia de la declaración de Epiménides, que expone el problema de los sistemas que tienen la capacidad de autorreferencia, El razonamiento de Wolpert también se aplica a los dispositivos de inferencia sin esa capacidad.

Además, en el formalismo de Wolpert, el mismo científico, considerado en dos momentos diferentes en el tiempo, son dos dispositivos de inferencia diferentes. Entonces, si bien podría ser que algún dispositivo de inferencia sea un "súper dispositivo de inferencia" en un momento, no podrían serlo más de una vez. Otra vez la lengua en la mejilla, se refiere a esto como el teorema del "deísmo", ya que permite que haya una deidad que sepa más de lo que podría conocerse al principio del universo, pero les prohíbe volver a tener tanto conocimiento.

Debido a que no se basa en teorías específicas de la realidad física como la mecánica cuántica o la relatividad, la nueva prueba presenta un amplio conjunto de límites para explorar la naturaleza del conocimiento científico.

"Ninguno de estos resultados que limitan el conocimiento adquirido por predicción se basa en que haya procesos caóticos en el universo ... no importa cuáles sean las leyes de la física o si Alice es más poderosa computacionalmente que una máquina de Turing, ", dice Wolpert." Todo esto es independiente de eso y tiene un alcance mucho más amplio ".

Esta investigación avanza en muchas direcciones diferentes, desde la lógica epistémica hasta la teoría de las máquinas de Turing. En particular, Wolpert y sus colegas están creando una marco probabilístico que les permitirá explorar no solo los límites del conocimiento absolutamente correcto, pero también lo que sucede cuando no se requiere que los dispositivos de inferencia conozcan con un 100% de precisión.

"¿Y si Epiménides hubiera dicho 'la probabilidad de que un cretense sea un mentiroso es mayor que el x por ciento?'" Pasar de la imposibilidad a la probabilidad podría decirnos si saber una cosa con mayor certeza limita inherentemente la capacidad de saber otra cosa. Según Wolpert, "Estamos obteniendo resultados muy interesantes".