Situational Awareness, riassunto — e valutato

Cosa sostiene il saggio

Il saggio di 165 pagine di Leopold Aschenbrenner si fonda sull'estrapolazione di tendenze in ordini di grandezza (OOM). La catena di ragionamento: il calcolo continua a crescere, gli algoritmi continuano a migliorare, i modelli vengono “liberati” (strumenti, agenti, ragionamento) — e insieme portano, verso il 2027, a un'IA capace di svolgere il lavoro di un ricercatore di IA. Ciò innesca un'esplosione di intelligenza (2027–29) e la superintelligenza negli anni 2030, con la sicurezza nazionale che subentra tramite un “Progetto” governativo.

Le previsioni chiave

• AGI entro il 2027 — IA al livello di un ricercatore di IA automatizzato
• Esplosione di intelligenza 2027–29 — l'IA automatizza la ricerca sull'IA, comprimendo un decennio in un anno
• Superintelligenza negli anni 2030
• Crescita del calcolo ~0,5 OOM/anno e capex da migliaia di miliardi di dollari
• L'open source svanisce; gli algoritmi proprietari formano un fossato duraturo per gli USA
• Un progetto AGI del governo USA (“Il Progetto”) entro il 2027/28

Il bilancio

Le curve di input su cui Aschenbrenner ha scommesso — calcolo, capex, capacità grezza — hanno in larga parte retto o superato le attese. Il suo errore più grande riguarda la diffusione: l'open source non è svanito. L'affermazione che definisce il saggio, AGI entro il 2027, si risolve nel gennaio 2028.

Domande frequenti

È il saggio del giugno 2024 di Leopold Aschenbrenner, che sostiene che l'AGI sia plausibile entro il 2027, seguita da un'esplosione di intelligenza e dalla superintelligenza negli anni 2030, trainate dalla crescita del calcolo, dai guadagni algoritmici e dall'“unhobbling”.

AGI entro il 2027, un'esplosione di intelligenza nel 2027–29, superintelligenza negli anni 2030, crescita continua del calcolo, capex da migliaia di miliardi di dollari, la scomparsa dell'open source e un progetto AGI del governo statunitense.

In parte. Le previsioni su calcolo, capex e capacità hanno in gran parte retto; la previsione sull'open source è sbagliata; e l'affermazione determinante, AGI nel 2027, resta aperta e si risolve nel gennaio 2028.