Situational Awareness, resumido — e avaliado

O que o ensaio argumenta

O ensaio de 165 páginas de Leopold Aschenbrenner se apoia na extrapolação de tendências em ordens de grandeza (OOM). A cadeia de raciocínio: a computação continua escalando, os algoritmos continuam melhorando, os modelos são “destravados” (ferramentas, agentes, raciocínio) — e a combinação leva, por volta de 2027, a uma IA capaz de fazer o trabalho de um pesquisador de IA. Isso desencadeia uma explosão de inteligência (2027–29) e superinteligência nos anos 2030, com a segurança nacional assumindo o controle por meio de um “Projeto” governamental.

As previsões centrais

• AGI até 2027 — IA no nível de um pesquisador de IA automatizado
• Explosão de inteligência 2027–29 — a IA automatiza a pesquisa em IA, comprimindo uma década em um ano
• Superinteligência nos anos 2030
• Escala de computação ~0,5 OOM/ano e capex de trilhões de dólares
• O código aberto se apaga; algoritmos proprietários formam um fosso duradouro dos EUA
• Um projeto de AGI do governo dos EUA (“O Projeto”) até 2027/28

O balanço

As curvas de entrada nas quais Aschenbrenner apostou — computação, capex, capacidade bruta — em boa parte se sustentaram ou superaram as expectativas. Seu maior erro está na difusão: o código aberto não se apagou. A afirmação que define o ensaio, AGI até 2027, se resolve em janeiro de 2028.

Perguntas frequentes

É o ensaio de junho de 2024 de Leopold Aschenbrenner, que defende que a AGI é plausível até 2027, seguida de uma explosão de inteligência e superinteligência nos anos 2030, impulsionadas pela escala de computação, ganhos algorítmicos e “unhobbling”.

AGI até 2027, uma explosão de inteligência em 2027–29, superinteligência nos anos 2030, escala contínua de computação, capex de trilhões de dólares, o desaparecimento do código aberto e um projeto de AGI do governo dos EUA.

Em parte. Suas previsões de computação, capex e capacidade se sustentaram em boa medida; a previsão sobre código aberto está errada; e a afirmação definidora, AGI em 2027, continua em aberto e se resolve em janeiro de 2028.