«Ultraintelligente»: la parola di I. J. Good

Prima che «superintelligenza» entrasse nel lessico della ricerca, l’idea di una macchina più capace dell’uomo aveva già un nome. Lo aveva scelto I. J. Good: «ultraintelligent», ultraintelligente. Questa nota ricostruisce dove compare la parola, che cosa significa nel testo e che cosa ne è rimasto.

Il saggio e la sua data

La parola compare nel titolo stesso del saggio, «Speculations Concerning the First Ultraintelligent Machine». Il testo occupa le pagine 31–88 del volume 6 di Advances in Computers, pubblicato da Academic Press.

1Good, 1965

Metadati Crossref, DOI 10.1016/S0065-2458(08)60418-0. Fonte 1

La data richiede una precisazione. Le bibliografie e la letteratura citano il saggio come del 1965. L’editore Elsevier indica invece per il volume, curato da Franz L. Alt e Morris Rubinoff, la data del 1° gennaio 1966. Questo sito scrive 1965, seguendo l’uso corrente, e segnala in nota la data del volume.

2Elsevier, vol. 6

Scheda Elsevier di Advances in Computers, vol. 6. Fonte 2

La definizione

A pagina 33 Good definisce la macchina ultraintelligente con una frase sola. Il criterio è il confronto con le attività intellettuali umane, prese tutte insieme.

“Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever.”

«Si definisca macchina ultraintelligente una macchina capace di superare di gran lunga tutte le attività intellettuali di qualunque uomo, per quanto abile.»

Tre elementi della frase contano. «Far surpass» indica un distacco netto, non un pareggio. «All the intellectual activities» indica la generalità: la macchina non eccelle in un compito solo, ma in tutti. «Any man however clever» fissa il termine di paragone nel più abile degli esseri umani, non nella media.

Sono gli stessi tre elementi che Nick Bostrom metterà nella sua definizione del 1998: un intelletto molto più intelligente dei migliori cervelli umani in praticamente ogni campo. Cambia la parola, mentre la struttura della definizione resta la stessa.

4Bostrom, 1998

Bostrom, «How Long Before Superintelligence?», 1998. Fonte 4

Dall’ultraintelligenza all’esplosione

Il passo prosegue con un ragionamento in due tempi. Progettare macchine è una delle attività intellettuali umane; quindi una macchina ultraintelligente saprebbe progettare macchine ancora migliori. Ne seguirebbe, scrive Good, una «intelligence explosion» che lascerebbe molto indietro l’intelligenza dell’uomo.

3Quote Investigator su Good

Good, p. 33, nella trascrizione di Quote Investigator. Fonte 3

Da qui la frase successiva: la prima macchina ultraintelligente sarebbe «the last invention that man need ever make», l’ultima invenzione che l’uomo abbia bisogno di fare. Il resto del lavoro inventivo lo farebbero le macchine. Il meccanismo è oggi studiato come esplosione di intelligenza.

La frase però non finisce lì. Good aggiunge una condizione: la macchina deve essere abbastanza docile da dirci come tenerla sotto controllo. In una subordinata compare così quello che la ricerca successiva chiamerà problema del controllo, trattato nella pagina su allineamento e problema del controllo.

La prima frase del saggio

Il saggio si apre con una tesi che oggi può sorprendere: «The survival of man depends on the early construction of an ultraintelligent machine» (La sopravvivenza dell’uomo dipende dalla costruzione, in tempi brevi, di una macchina ultraintelligente). Nel saggio la macchina ultraintelligente è presentata prima di tutto come una necessità; la clausola sul controllo arriva due pagine dopo.

3Quote Investigator su Good

Prima frase del saggio, p. 31. Fonte 3

Da ultraintelligente a superintelligente

Nel 1993 Vernor Vinge riporta per intero il passo di Good nel saggio «The Coming Technological Singularity». Per descrivere lo stesso oggetto, però, Vinge parla di «superhuman intelligence», intelligenza sovrumana.

5Vinge, 1993

Vinge, «The Coming Technological Singularity», 1993. Fonte 5

Nello stesso saggio Vinge usa anche «superintelligence», per esempio per una forma basata sul pensiero rapido che chiama «weak superhumanity». Cinque anni dopo Bostrom dedica una sezione intera alla definizione di «superintelligence».

5Vinge, 1993

Vinge 1993, sito dell’autore. Fonte 5

Nei testi verificati da questa redazione, dopo il 1993 la parola di Good resta legata soprattutto al suo saggio e alle citazioni che ne vengono fatte. Il prefisso «super-» prende il posto di «ultra-», e con esso arriva il termine che dà il nome a questo sito. La successione è ricostruita nella storia del termine.

Che cosa resta dell’idea

L’ipotesi di Good divide ancora i ricercatori. Nella survey di AI Impacts dell’ottobre 2023, con risposte di autori di ricerca sull’IA, la mediana giudica l’argomento dell’esplosione di intelligenza corretto nelle linee generali con una probabilità tra il 41 e il 60%. La stessa mediana compare nelle edizioni del 2016 e del 2022.

6Grace et al., 2024

Grace et al., «Thousands of AI Authors on the Future of AI», tabella 1. Fonte 6

La parola «ultraintelligente» è rimasta legata al saggio di Good, mentre la sua definizione è passata nei testi successivi. Chi oggi parla di superintelligenza usa criteri molto vicini a quelli che Good aveva fissato in una frase.