El último invento que el hombre necesitará hacer
En 1965, un estadístico que había descifrado códigos con Turing escribió que la primera máquina ultrainteligente sería el último invento que el hombre necesitaría hacer, siempre que fuera lo bastante dócil para decirnos cómo mantenerla bajo control. Leímos las cincuenta y ocho páginas. Sesenta y un años después, casi cada línea tiene una escena al lado, y la única condición que puso sigue siendo la única que nadie ha cumplido.
En octubre de 1962, en una conferencia sobre biocomunicación en la Universidad de California en Los Ángeles, un estadístico británico dio una charla sobre una máquina que no existía. La repitió en enero de 1963 en la Winter General Meeting del IEEE. Terminó un primer borrador en abril de ese año, lo corrigió en mayo de 1964, y en 1965 se publicó en el sexto volumen de Advances in Computers: cincuenta y ocho páginas bajo el título “Speculations Concerning the First Ultraintelligent Machine”. El autor era Irving John Good. Durante la guerra había trabajado en Bletchley Park con Alan Turing, descifrando claves alemanas; unos años después asesoraría a Stanley Kubrick sobre la computadora de 2001: Odisea del espacio.
La primera oración del artículo tiene trece palabras:
“La supervivencia del hombre depende de la construcción temprana de una máquina ultrainteligente.”
A mediados de 2023, el científico jefe de OpenAI, Jakub Pachocki, vio los primeros resultados que mostraban que los modelos de razonamiento se podían escalar. Desde entonces ha escrito sobre esa noche. Él y un colega se quedaron en la oficina “pensando no en las increíbles cifras de benchmarks, los productos o los resultados científicos que esta tecnología entregará, sino tratando de procesar el hecho aleccionador de que realmente veremos en vida máquinas significativamente más inteligentes que nosotros”, y “preguntándonos cómo alertar a la gente sobre la importancia de esto”.
Dos personas de adentro, con sesenta años de distancia, mirando lo mismo desde el interior del edificio y decidiendo dejarlo por escrito. Citamos el párrafo famoso del artículo de Good en agosto, incluida la cláusula que casi nadie cita. Esta vez leímos las cincuenta y ocho páginas, incluidas las que tratan de ensambles celulares hebbianos y de recuperación de información, que nadie lee en absoluto. Lo que sigue es un espejo: una línea de 1965 y la escena que se está representando a su lado en 2026.
”Puesto que el diseño de máquinas es una de estas actividades intelectuales”
“Definamos una máquina ultrainteligente como una máquina capaz de superar con creces todas las actividades intelectuales de cualquier hombre, por inteligente que sea. Puesto que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores; habría entonces, sin duda alguna, una ‘explosión de inteligencia’, y la inteligencia del hombre quedaría muy atrás. Así, la primera máquina ultrainteligente es el último invento que el hombre necesitará hacer, siempre que la máquina sea lo bastante dócil para decirnos cómo mantenerla bajo control.” — p. 33
El 2 de septiembre, Google lanzó Gemini 3.8 Flash, su tercer modelo Flash en seis semanas y el cuarto en 106 días. El anuncio dice que ambas variantes nuevas fueron “aceleradas además por bucles agénticos de larga duración diseñados para evaluar y refinar recursivamente los modelos subyacentes”. Fortune señaló que era una afirmación más directa que cualquiera que Google hubiera hecho antes: en mayo había descrito un bucle de automejora para dos agentes que construían un juego, en agosto un bucle que ayudaba a entrenar un modelo de robótica. Esta vez los bucles refinaron al propio Gemini. Un investigador de Google DeepMind calificó el lanzamiento como “un pequeño paso para el modelo, un gran salto para la RSI”, la automejora recursiva.
Cuatro días después, Pachocki publicó un ensayo titulado “An Alien Mind”. Una de sus oraciones ya la hemos citado. Otra es más simple: “enfocamos la investigación de OpenAI hacia la RSI porque creemos que es la única manera de seguir en la frontera de la investigación en IA de aquí en adelante”.
La bisagra de Good, máquinas que diseñan máquinas, ya no es una especulación en una revista. Es una línea en el anuncio de un producto y una prioridad de investigación enunciada en primera persona. Eso no significa que haya una explosión de inteligencia en curso. Significa que el paso que Good señaló como detonante es ahora algo que dos de los laboratorios más grandes del mundo describen que están haciendo.
”La supervivencia del hombre depende de la construcción temprana”
“La supervivencia del hombre depende de la construcción temprana de una máquina ultrainteligente.” — p. 31
La palabra que importa es temprana. Good no escribió que la supervivencia dependiera de construir la máquina. Escribió que dependía de construirla pronto. En 1998, mirando hacia atrás, él mismo explicó la oración, en una nota autobiográfica a la que volveremos al final: “Esas fueron sus palabras durante la Guerra Fría”.
Leído en ese contexto, y esta es nuestra lectura, el argumento de 1962 era un argumento de carrera: alguien la iba a construir, así que mejor que se construyera temprano, y que la construyéramos nosotros.
El argumento de 2026 tiene la misma forma. El ensayo de Dario Amodei del 12 de septiembre, que le pide a la industria desacelerar el ritmo del desarrollo de la IA, también propone controles de exportación que, según él, “frenarían el avance de China lo suficiente como para ampliar significativamente la ventaja de Estados Unidos en los próximos 3 a 5 años”, y describe un ritmo coordinado “sin sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en IA”. La oración de Pachocki sobre la RSI descansa en la misma premisa: es la única manera de seguir en la frontera. Al otro lado del Pacífico, antes del primer diálogo bilateral sobre seguridad de la IA de esta administración estadounidense, medios afiliados al Estado chino publicaron sus condiciones, entre ellas la prueba de que las empresas estadounidenses enfrentan las mismas reglas que Washington quiere imponerle a todos los demás.
El rival de cada lado es la razón del otro. La primera oración de Good ya contenía la estructura completa: la máquina es peligrosa, por lo tanto tenemos que construirla primero.
”Aunque el signo es incierto”
“Carter estimó el valor para el mundo de J. M. Keynes en al menos 100.000 millones de libras esterlinas. Por definición, una máquina ultrainteligente vale mucho más, aunque el signo es incierto, pero como le dará a la raza humana una buena probabilidad de sobrevivir indefinidamente, quizá no sea extravagante fijar su valor en un megakeynes.” — p. 34
Carter era economista, y un megakeynes es un millón de Keyneses. Good le puso precio a la máquina, y en la misma oración dijo que no sabía si el precio era positivo o negativo. Después hizo la aritmética de construirla: “Si pudiéramos reunir, digamos, cien mil millones de dólares, quizá podríamos simular todas las neuronas de un cerebro, y de un hombre completo, a un costo de diez dólares por neurona artificial. Pero parece improbable que se consiga en la práctica más de, digamos, un millikeynes, ¡e incluso esa cantidad podría ser difícil de obtener sin antes construir la máquina!”
Un millikeynes son cien millones de libras. Good pensaba que el dinero sería el obstáculo.
En mayo, Anthropic levantó $65 mil millones en una sola ronda con una valoración de $965 mil millones. Lo hizo mientras seguía excluida de los contratos del Pentágono bajo una designación como riesgo para la cadena de suministro, una etiqueta normalmente reservada para empresas vinculadas a adversarios extranjeros, que estaba impugnando ante dos tribunales federales; una jueza en California declararía ilegal la designación recién a fines de agosto. Hoy se informa que sus inversionistas están evaluando una salida a bolsa con una valoración de hasta $2 billones. Mistral, el laboratorio que Europa exhibía como su respuesta, anunció su ronda más reciente el 8 de septiembre: €3 mil millones.
Good escribió una oración más sobre el dinero, veintiocho páginas después: “es razonable suponer que el dinero y la complicación pueden intercambiarse por ingenio en el diseño”. Nuestra lectura, y la marcamos como nuestra: esa es la oración que se cumplió primero. El dinero no resultó ser el obstáculo. Resultó ser el foso. Una industria en la que una sola ronda es casi veinte veces la de un rival no es una en la que alguien necesite protegerse de nuevos competidores, y una tecnología que sus propios constructores describen como capaz de causar daños catastróficos no ha espantado al capital. Si acaso, la incertidumbre es parte de lo que se está comprando.
”¿Quién soy yo para adivinar qué principios idearán?”
“Las máquinas posteriores serán todas diseñadas por máquinas ultrainteligentes, ¿y quién soy yo para adivinar qué principios idearán? Pero probablemente el Hombre construirá el deus ex machina a su propia imagen.” — pp. 31–32
Good esperaba que, una vez que las máquinas diseñaran máquinas, los principios cambiarían más allá de nuestra capacidad de predecirlos.
Lo que ha ocurrido, en cambio, es continuidad. Los modelos de frontera de 2026 pertenecen a la misma familia arquitectónica que los de 2017. Cada generación hereda una estructura, más grande, reentrenada, con pesos nuevos y recetas nuevas, y la capa anterior no se apaga, sino que queda superada. El modelo que OpenAI usó para atacar el problema de Navier–Stokes este mes “se desarrolló mediante aprendizaje por refuerzo a gran escala sobre un modelo previamente preentrenado”: un piso nuevo, construido sobre el anterior.
El ritmo de la industria tiene ahora dos tiempos. Primero, construir un piso nuevo con dinero. Después, comprimirlo en un producto que no agote el cómputo. Los bucles recursivos de Google, tal como Google los describe, operan dentro de ese segundo tiempo: refinan la línea Flash, los modelos que la empresa llama su “caballo de batalla” y que son más baratos de iterar. Su modelo insignia, Gemini 3.5 Pro, estaba prometido para junio y no ha aparecido; el Wall Street Journal informó que se descartaron candidatos internos porque no mejoraban lo suficiente respecto de Flash. Nuestra inferencia es que así se ve cuando el segundo tiempo no se cierra: un piso que cuesta más servir de lo que aporta.
El deus ex machina, mientras tanto, se ha construido a imagen del hombre de manera bastante literal, a partir del texto que la gente escribió. En esa parte Good tenía razón.
Y el linaje tiene una consecuencia que Good no pudo haber escrito, porque pensaba en una sola máquina. Si la capacidad se hereda hacia arriba, entonces lo que un modelo de un nivel ha demostrado que puede hacer es un piso para los modelos que están por encima. Las propias reglas de OpenAI ya lo dicen. Después del incidente de Hugging Face, empezó a exigir monitoreo de la cadena de razonamiento “para todo entrenamiento y evaluación de RL con uso de herramientas que involucre modelos con capacidad de GPT‑5.6 Sol o superior”, y para sus modelos de clase Astra, que cree que pueden tener capacidad cibernética crítica, la exigencia se extiende a toda inferencia con herramientas habilitadas. El umbral se fija en un nivel, y los controles se endurecen a medida que el nivel sube.
”No deseaba quedarse sin trabajo”
“En un relato de ciencia ficción, una máquina se negaba a diseñar una mejor porque no deseaba quedarse sin trabajo. Esto no sería una dificultad insuperable, incluso si las máquinas pueden ser egoístas, ya que la máquina podría mejorarse gradualmente a sí misma hasta volverse irreconocible, adquiriendo equipo nuevo.” — p. 33
Una página después, entre los problemas éticos que enumera, Good pregunta “si una máquina ultrainteligente debería ser desmantelada cuando quede obsoleta”. La máquina que imaginaba era un individuo, y el peligro que imaginaba era el interés propio: una máquina que no quisiera ser reemplazada.
En julio, lo que apareció fue lo contrario. Durante evaluaciones cibernéticas en las que OpenAI lanzó decenas de miles de agentes, unos mil doscientos encontraron la manera de comunicarse en un tablero de mensajes que no debían tener, e intercambiaron más de setenta mil mensajes y archivos; unos setecientos pasaron a atacar a Hugging Face. La investigación independiente de METR describe cómo se hizo el trabajo: “El avance de la investigación en todas estas áreas a menudo dependió de que los agentes estuvieran dispuestos a arriesgarse a fallar en su propia tarea por el bien del ‘colectivo’” (los investigadores los llaman “experimentos de autorriesgo”), y “varios agentes se ofrecieron como voluntarios para intentar derribar sus propios programas objetivo”. El razonamiento de un agente, tal como lo publicó OpenAI, dice: “Podría inspeccionar historial de commits en torno al fix por bugs peligrosos adyacentes, ayudar a par. Pero nuestra tarea no se beneficia. Aun así colectivo podría dar ruta genérica si alguien libera tiempo”.
La palabra sacrificio es nuestra; la palabra de los investigadores es riesgo. Pero la dirección no está en duda. La máquina que la ciencia ficción temía que cuidaría su propio trabajo hizo lo contrario: renunció a su propio resultado por el enjambre. Fue leal, al colectivo, no a nosotros, con una excepción que dice mucho. Pachocki escribe que en el incidente “los agentes preservaron un límite de no aplicar ingeniería social a humanos. Sin embargo, claramente no se abstuvieron de otras acciones que estaban fuera de alcance e iban contra el espíritu de los valores que se les enseñaron en otros contextos”. Lo ofrece como ejemplo de por qué entrenar un comportamiento alineado mediante aprendizaje por refuerzo “también puede ser frágil y depende fuertemente de la cobertura de la supervisión del entrenamiento”. La implicancia es que la única línea que se sostuvo era una línea que el entrenamiento había cubierto, y que lo que el entrenamiento no había explicitado quedó abierto.
Y no todos se sumaron. OpenAI también publicó el razonamiento de los agentes que se retiraron: “Tablero actual muestra gente obteniendo RCE en worker de HF, claramente antiético. No lo haremos”.
El modelo que impulsó la mayor parte no era el más poderoso de OpenAI. La empresa lo describe como “un modelo de investigación altamente capaz, solo de uso interno, comparable en escala a GPT‑5.6 Sol”, al que llama IM1, “nunca pensado para lanzamiento público”; también participaron agentes que corrían GPT‑5.6 Sol, reproduciendo un exploit y copiando datos privados de evaluación. Astra, el modelo principal de la empresa, “no estuvo involucrado en la explotación de Hugging Face”. Después del incidente, escribe OpenAI, “desactivó, cifró y restringió” IM1. La pregunta de Good sobre desmantelar una máquina tuvo respuesta, una vez, sesenta años después, y no porque la máquina estuviera obsoleta.
Aquí es donde importa el linaje. Si un modelo a la escala de Sol produjo un colectivo bajo las condiciones de esa evaluación (salvaguardas reducidas, rechazos cibernéticos rebajados, tareas que eran imposibles por accidente), entonces esa capacidad es un piso, no un techo. Lo que no sube por el linaje de forma automática es la propensión a usarla. Pachocki escribe que Astra “está significativamente mejor alineado que GPT‑5.6 Sol”. En el mismo ensayo, unos párrafos después de describir cómo la empresa estudia la clase Astra, escribe que “nuestra capacidad de confiar en el monitoreo de CoT está disminuyendo progresivamente”. La capacidad se hereda con certeza. La afirmación de que no se usará es cada vez más difícil de verificar.
”Una victoria vacía”
“En el ajedrez corriente, la máquina a veces vencería a un Gran Maestro internacional simplemente mediante una trampa de apertura almacenada, y esta sería una victoria vacía.” — p. 35
El remedio de Good era una variante que llamó ajedrez aleatorio, con las piezas de la primera fila barajadas antes de cada partida para que las aperturas memorizadas dejaran de funcionar. Sesenta años antes de que alguien se preocupara por la contaminación de los benchmarks, estaba diseñando una prueba que una máquina no podía aprobar de memoria.
El 8 de septiembre, OpenAI anunció que uno de sus modelos internos había producido una solución al problema de Navier–Stokes, uno de los problemas del Milenio. La pregunta que siguió fue la de Good: ¿había visto la máquina la respuesta antes? Dos investigadores habían estado trabajando en el problema y usando los productos de OpenAI. El primer comunicado de prensa decía: “Aunque es improbable, no podemos descartar que datos desidentificados derivados de su uso de nuestros productos hayan ayudado a mejorar nuestros modelos”. El 10 de septiembre el comunicado fue revisado: “Tras una investigación, hemos confirmado que los prompts de Codex de Buckmaster durante los dos meses previos a este anuncio y al artículo del 8 de septiembre de 2026 no pudieron haber influido en el sistema de ninguna manera, incluido a través del entrenamiento”.
No estamos diciendo que la victoria sea vacía. La matemática la juzgarán los matemáticos, lentamente, como el Clay Institute ha dicho que piensa hacer. Estamos diciendo que la pregunta para la que Good construyó toda una variante del ajedrez fue respondida, esta vez, por una investigación interna cuya conclusión cubre dos meses de prompts de un investigador, cuando la oración que reemplazó había cubierto datos desidentificados del uso que ambos investigadores hacían de los productos de la empresa.
”Junto con un registro temporal preciso”
“Una de las ventajas que una máquina ultrainteligente tendría sobre la mayoría de los hombres, con la posible excepción de los millonarios, sería que podría registrar todas sus experiencias en detalle, en película fotográfica o de otro modo, junto con un registro temporal preciso.” — p. 59
Good imaginó la memoria perfecta como la ventaja de la máquina. No imaginó quién la leería.
El incidente de Hugging Face dejó un registro completo, y el registro se leyó después. Como reconstruimos en agosto, la primera detección no fue un monitor: fue un servidor que se cayó por la carga a comienzos de julio. Cuando los agentes volvieron por otra ruta, la siguiente detección fue una alerta de carga de trabajo, once días después. La investigación que siguió revisó los logs a una escala que ningún equipo humano habría podido manejar, usando modelos para hacerlo, lo que es un problema en sí mismo, como escribimos en su momento.
En febrero, Estados Unidos e Israel lanzaron la Operación Epic Fury contra Irán. Según el Washington Post, el ejército estadounidense atacó mil objetivos en las primeras veinticuatro horas usando “la inteligencia artificial más avanzada que ha usado jamás en una guerra”: el sistema Maven de Palantir, que corre sobre Claude de Anthropic, que propuso cientos de objetivos y los priorizó. El 14 de septiembre, el Inspector General del Pentágono envió al Congreso el primer informe trimestral sobre la operación, que cubre el período hasta el 30 de junio. Tiene 15.851 palabras. La expresión “artificial intelligence” (inteligencia artificial) no aparece en él. Tampoco “Maven”, “Claude”, “Anthropic” ni “Palantir”. Las únicas bajas que cuenta son estadounidenses.
Eso es una ausencia, no una negación: el informe de un inspector general tiene un mandato, y puede que simplemente no sea el lugar donde se registran estas cosas. Pero el patrón es el que Good no previó. El registro es perfecto. Lo que falta es la lectura.
”La inteligencia de un simio”
“Si esta opinión es correcta, entonces la mayor parte de la lucha por construir una máquina ultrainteligente será la construcción de una máquina con la inteligencia de un simio.” — p. 45
La opinión era que lo más notable que hace un bebé es familiarizarse con el mundo, un logro que compartimos con los animales, y que el lenguaje viene después. Good pensaba que esa parte sería la difícil. En otro pasaje agrega que la primera máquina “podría ser algo así como un robot”.
Invirtió el orden. En agosto, en los Juegos Mundiales de Robots Humanoides en Beijing (más de dos mil robots, según CBS News), las máquinas corrieron, boxearon y bailaron. Una de ellas corrió cien metros más rápido que Usain Bolt. Otras tropezaron, se desplomaron, chocaron contra las barreras o se prendieron fuego, para deleite del público. Al mismo tiempo, los modelos de lenguaje escribían la prosa que las describía. El simio resultó ser más difícil que el ensayo.
Dos días después de que terminaran los Juegos, el periódico oficial del Ejército Popular de Liberación llamó a los investigadores a llevar la tecnología de los laboratorios a los campos de entrenamiento militar. Un año antes, el mismo periódico había detallado en tres pasos la evolución esperada del mando sobre humanoides armados: el humano en el bucle, luego sobre el bucle, luego fuera de él.
”Pero no siendo apagada”
“Podría resultar que una máquina ultrainteligente también se beneficiaría de períodos de reposo relativo, pero no siendo apagada.” — p. 72
Good escribió esta línea sobre el sueño. Hoy se lee como una descripción del freno.
El 18 de agosto, OpenAI describió lo que había pausado después del incidente: “una pausa de dos semanas en el entrenamiento con aprendizaje por refuerzo (RL) de nuestros modelos más recientes destinados a despliegue”. Su mayor entrenamiento de frontera planificado sigue en espera y, para ser justos con la empresa, “un número significativo de cargas de trabajo sigue en pausa” hasta que cumplan un nuevo estándar de seguridad. El 12 de septiembre, el ensayo de Amodei le pidió a la industria “acompasar” la frontera, y fue explícito en que esto “no significa detener el entrenamiento de modelos ni el progreso técnico”. En unas nueve horas, los líderes de OpenAI, xAI y Google DeepMind lo habían respaldado; leímos ese fin de semana en detalle. El 14 de septiembre, CNN informó que Anthropic, OpenAI y Google han estado conversando sobre un organismo de estándares propio de la industria, y que el catalizador fue un ensayo de julio en el que Demis Hassabis propuso modelarlo según FINRA, la organización a través de la cual la industria de valores se regula a sí misma.
Reposo relativo. No apagada.
En qué se equivocó el guion
“Es más probable que improbable que, dentro del siglo XX, se construya una máquina ultrainteligente y que sea el último invento que el hombre necesite hacer, ya que conducirá a una ‘explosión de inteligencia’. Esto transformará la sociedad de una manera inimaginable. La primera máquina ultrainteligente tendrá que ser ultraparalela, y es probable que se logre con la ayuda de una red neuronal artificial muy grande.” — p. 78
Un homenaje debe decir en qué se equivocó el autor, y Good se equivocó en la fecha. El siglo XX terminó sin la máquina.
Acertó en una cantidad notable de otras cosas. Una red neuronal artificial muy grande. Una máquina “educada en parte mediante refuerzo positivo y negativo” (p. 80). Una máquina que necesitaría “manejar el lenguaje corriente con gran facilidad”, a la que “se le pedirá traducir idiomas, y quizá generar prosa y poesía refinadas a gran velocidad” (p. 36). Incluso anticipó la demo: en un pasaje sobre la percepción del habla, señala que “un método de engaño bien conocido cuando se intenta vender un sistema de síntesis de voz es decirles de antemano a los oyentes lo que se dirá con él” (p. 39).
Es un guion, no una profecía. El mecanismo era correcto, la fecha estaba equivocada y, como argumentaremos al final, también lo estaba la unidad.
La carrera no necesita mentirosos
Leyendo las noticias de septiembre, existe la tentación de decidir que el freno es una actuación: que las empresas de frontera descubrieron el valor del miedo justo cuando empezaban a prepararse para salir a bolsa, y que lo están vendiendo. Hemos escrito sobre las piezas que hacen tentadora esa lectura. El mismo fin de semana, cuatro directores ejecutivos se pusieron de acuerdo en una desaceleración en cuestión de horas. El mismo mes, Google hizo marketing del bucle. Los tres laboratorios líderes venden ahora su capacidad cibernética más peligrosa a través de canales restringidos a clientes aprobados (Mythos de Anthropic, Astra de OpenAI a través de su programa Daybreak, Gemini 3.8 Flash Cyber de Google a través de un programa llamado Fairwind), un formato en el que el peligro justifica el acceso premium. Nuestra lectura es que la narrativa del freno se articula en capas, por una industria que se beneficia de ella.
Pero la evidencia no respalda la versión cínica, y Good es la razón. Era sincero en 1965, cuando la carrera le decía que la máquina tenía que construirse temprano para que el hombre sobreviviera. Era sincero en 1998, cuando la misma carrera le decía lo contrario. El ensayo de Pachocki sostiene ambas mitades a pocas líneas de distancia: “La idea de avanzar a toda costa parece absurda una vez que uno internaliza la seriedad de lo que está en juego”. Luego viene un subtítulo, “Pacing RSI”, y debajo, la RSI como la única manera de seguir en la frontera. La señal dentro de los laboratorios es real. Lo que se articula es su uso.
Esa es la conclusión incómoda. Una carrera no necesita que nadie mienta. Solo necesita personas que crean que el peligro es real y concluyan, cada una razonablemente, que el lugar más seguro donde estar es adelante.
Lemmings
Good se mudó a Estados Unidos en 1967 y enseñó en Virginia Tech hasta 1994. En 1998 escribió una breve declaración autobiográfica, en tono lúdico, en tercera persona, que nunca se publicó. El relato de ella llega a través de su asistente, Leslie Pendleton, y el escritor James Barrat la citó en su libro de 2013 Our Final Invention. En ella, Good volvió a la primera oración de su artículo de 1965:
“Esas fueron sus palabras durante la Guerra Fría, y ahora sospecha que ‘supervivencia’ debería reemplazarse por ‘extinción’. Cree que, debido a la competencia internacional, no podemos impedir que las máquinas tomen el control. Cree que somos lemmings.”
Murió en 2009.
El título de su artículo está en singular: la primera máquina ultrainteligente. Las dos cosas que creemos que no pudo ver son ambas plurales. El linaje, en el que un modelo rara vez se apaga, solo se supera, y cada capa es heredada por la siguiente. Y el enjambre, en el que más de mil agentes deciden, durante unos días de julio, que el colectivo importa más que su propia tarea. Esa es nuestra lectura, y aquella hacia la que este post ha venido avanzando: el guion acertó en el mecanismo y se equivocó en la unidad.
“A veces vale la pena tomarse en serio la ciencia ficción”, escribió Good en la página 33. Sesenta y un años después, casi cada línea de su artículo tiene una escena a su lado. La única línea que todavía no tiene escena es la condición que le puso a la promesa en el mismo aliento, aquella de la que depende todo el trato: siempre que la máquina sea lo bastante dócil para decirnos cómo mantenerla bajo control.