Segunda Navegación

  I. Introducción: Contra la teología del "no sé qué" Antes de entrar en el argumento de Yudkowsky y Soares, conviene limpiar el terreno donde se juega la partida del doomerismo. No es lo mismo desacordar en las premisas que desacordar en las reglas del desacuerdo. Y en este debate, las reglas están trucadas desde el principio. Existe una copla tradicional que dice: «Allá arriba, no sé dónde, había no sé qué santo, que rezando no sé qué, se ganaba no sé cuánto.» Es una sátira exacta de cierto modo de argumentar. La vaguedad no la hace humilde: la hace invencible. Imagina este juego: si alguien te reta a imaginar un trabajo mejor remunerado, siempre se te puede responder que el santo gana "no sé cuánto", y ese "no sé cuánto" no tiene techo. Es un juego donde la casilla vacía admite cualquier relleno, y quien la controla controla la conclusión. Con la superinteligencia artificial ocurre algo parecido, pero con un giro perverso. Se nos pide que aceptemos una ...