O eterno complemento

Nota dos autores: Este é o primeiro ensaio da nossa série sobre a próxima economia, parte de uma nova plataforma que reúne vozes independentes explorando um futuro com AGI. Ele reflete nossas opiniões, não as da OpenAI ou de nossos colegas.

A humanidade já conseguiu enxergar quase até o início dos tempos.

Nossas equações oferecem um relato em grande parte coerente do universo desde seus primeiros instantes. Com nossos telescópios, olhamos para os confins do cosmos e vislumbramos os primórdios de sua história. Sabemos sobre o nascimento das estrelas e a formação das galáxias.

No entanto, nenhum ser humano jamais viajou além da Lua.

As explicações que buscamos abrangem o universo, enquanto nossos corpos mal saíram de casa. Nossas mentes se aventuram muito além do alcance das nossas mãos.

Esse descompasso pode significar duas coisas muito diferentes.

Uma possibilidade é que não precisemos ir muito longe, que as verdades mais profundas possam ser compreendidas a partir de um único planeta. Munidos de raciocínio esclarecido e instrumentos eficientes, desvendamos o universo sem percorrê-lo. Nessa história, nossa civilização avança em profundidade, não em extensão. Isso ajudaria a explicar por que não vimos outras formas de vida inteligente: talvez vivamos em uma galáxia repleta de mentes brilhantes que nunca precisaram se expandir e se tornar perceptíveis para nós.

A segunda possibilidade é mais intimidadora. Talvez nossas mentes simplesmente tenham avançado além da nossa capacidade de execução. Cada passo seguinte exige mais tempo e mais recursos. Não nos faltam sonhos, mas falta mão de obra para realizá-los.

Galileu ampliou nossa visão com duas lentes e um tubo. Para ampliá-la novamente hoje, a humanidade construiu o Telescópio Espacial James Webb, um observatório de dez bilhões de dólares, dobrado dentro de um foguete e enviado a 1,6 milhão de quilômetros de distância. Seus dezoito enormes segmentos de espelho são fabricados com uma precisão de cinquenta nanômetros. O observatório nasceu do trabalho de trezentas organizações em catorze países. A contribuição de Galileu contou com algumas dezenas de mãos. O Webb precisou de um exército, e de uma economia global por trás dele.

Enxergar mais longe não exigiu apenas mentes mais brilhantes. Exigiu uma burocracia maior.

Fazemos mais perguntas do que conseguimos investigar. Concebemos mais experimentos do que conseguimos realizar. Imaginamos possibilidades criativas mais rápido do que conseguimos concretizá-las. E, em muitas áreas, quanto mais avançamos, mais complicado se torna construir o que imaginamos.

Nick Bloom e seus coautores⁠(abre em uma nova janela) estudaram a produtividade da pesquisa em toda a economia americana. Manter a lei de Moore hoje exige mais de dezoito vezes o número de pesquisadores necessário no início dos anos 1970. O esforço efetivo de pesquisa em toda a economia se multiplicou por vinte e três desde os anos 1930, enquanto a produtividade medida da pesquisa caiu para um quarenta e um avos do que era.

O número de profissionais técnicos está crescendo ao dobro do ritmo⁠(abre em uma nova janela) do número de cientistas. O uso de equipamentos especializados na ciência dobrou⁠(abre em uma nova janela) ao longo de quatro décadas. Uma fábrica de chips hoje custa cinco vezes mais⁠(abre em uma nova janela) — e envolve uma operação muito mais extensa — do que há trinta anos.

Essas estatísticas sugerem que continuar avançando custa cada vez mais. A economia continua avançando porque uma enorme expansão da atividade de pesquisa compensou a queda no retorno de cada unidade de esforço.

Essa história deveria nos levar a pensar na genialidade de outra forma: não como algo isolado, mas como um dos insumos de um processo produtivo. Uma hipótese brilhante ainda precisa de evidências, instrumentos e meios para ser posta à prova. Uma ideia ainda não é progresso sem o maquinário e a equipe de apoio para concretizá-la.

Os economistas chamam dois insumos de complementares quando uma quantidade maior de um aumenta o valor do outro. A inteligência de ponta e a capacidade de concretizar suas ideias são complementares nesse sentido. Um telescópio melhor torna uma boa pergunta astronômica mais valiosa. Uma pergunta melhor torna o telescópio mais valioso.

Alguns complementos são físicos. Uma teoria aguarda um acelerador de partículas; um projeto tecnológico aguarda a energia e o maquinário necessários para ser construído.

Outros complementos são mais difíceis de enxergar. Uma ideia, por si só, é frágil. Ela precisa de instituições de todos os tipos. Leis, burocracia, mecanismos de financiamento, cadeias de suprimentos e muito mais se articulam para executar a ideia.

Uma grande ideia precisa sobreviver a uma longa sequência de ações locais corretas nessas instituições. Vamos chamar isso de inteligência institucional: a inteligência pouco celebrada da execução. A genialidade projeta o monumento; as instituições assentam a pedra. Uma é brilhante, a outra parece tediosa; ambas são absolutamente cruciais.

Às vezes imaginamos a superinteligência como um bilhão de Einsteins. Mas uma civilização com um bilhão de Einsteins ainda precisa que a maioria deles extraia pedras das pedreiras e cuide da contabilidade. A inovação de fronteira só pode acontecer quando o mundo cotidiano funciona sem falhas ao seu redor. O progresso depende de todos — do soldador de um parafuso usado no telescópio à seguradora de uma escola de ensino fundamental que formou um enfermeiro que tratou o astrônomo. O progresso se apoia em uma economia em pleno funcionamento, que costumamos ignorar nos relatos de nossas maiores conquistas.

Assim como a inteligência humana, a IA será direcionada tanto a descobertas brilhantes quanto à competência institucional. A questão é a que ela dedicará a maior parte do seu tempo.

A IA já está tornando a capacidade de execução menos escassa. Ela escreve o código, pesquisa uma literatura desconhecida e transforma um esboço em um protótipo funcional. Ideias que antes exigiam uma organização inteira podem, cada vez mais, ser levadas adiante por uma única pessoa ambiciosa.

A maioria dos aspirantes a cineastas nunca recebe duzentos milhões de dólares para mostrar do que é capaz. A maioria dos designers de jogos passa a carreira inteira implementando as visões criativas de outras pessoas. Tentamos dar espaço às pessoas mais talentosas, mas inevitavelmente deixamos talentos pelo caminho. Sob essa perspectiva, a era da inteligência começa complementando a inventividade humana e dando a mais pessoas a equipe de apoio necessária para concretizar suas próprias ideias.

Isso poderia gerar uma profusão de projetos singulares, com mais obras criativas produzidas fora das instituições que antes controlavam o acesso à atuação nessas áreas. O insumo escasso deixa de ser a execução e passa a ser o discernimento — a capacidade de decidir o que vale a pena criar, que pergunta vale a pena fazer e qual, entre mil caminhos plausíveis, merece ser seguido.

Mas a história talvez não termine aí. À medida que a IA se torna capaz de chegar a novas descobertas brilhantes por conta própria — algo que talvez já estejamos vendo em áreas como a matemática —, ela passa a fornecer tanto planos de trabalho quanto mão de obra. Em vez de executar um programa de pesquisa humano, ela concebe milhares de programas próprios. Gênios de IA fazem disparar o número de ideias de filmes que vale a pena desenvolver e de hipóteses que vale a pena testar. As ideias se multiplicam mais rápido do que a infraestrutura de apoio consegue absorvê-las.

A IA de hoje oferece um alívio há muito esperado, em que nossas boas ideias finalmente recebem a atenção que merecem. Amanhã, talvez haja tantas boas ideias que a falta de capacidade de execução seja maior do que nunca.

No fim das contas, não sabemos se os complementos necessários para aproveitar novas descobertas de forma produtiva vão aumentar, diminuir ou permanecer estáveis. Quanto progresso intelectual é possível alcançar apenas pensando? De quanta burocracia a genialidade precisa?

Na nossa visão, a resposta depende de até onde o pensamento consegue ir antes de precisar de um novo contato com a realidade.

Descrevemos dois caminhos possíveis. O primeiro é uma civilização de profundidade, na qual a superinteligência supera a necessidade de mais capital físico e coordenação burocrática. O segundo é uma civilização de extensão, na qual a complexidade da natureza supera a capacidade de qualquer inteligência — humana ou de máquina — de progredir sem experimentos grandes e cada vez mais elaborados no mundo real.

Até aqui, a história humana sugere uma necessidade crescente de capacidade complementar. O telescópio de Galileu cabia em suas mãos; o Webb exigiu uma civilização. Uma pequena equipe do Bell Labs montou o primeiro transistor em uma bancada; hoje, os avanços na fronteira dos chips vêm de uma complexa cadeia global de suprimentos. Ir mais longe continua exigindo o apoio de uma parcela maior da civilização.

Mas essa história não precisa determinar nosso destino. Mentes inteligentes podem inventar complementos mais eficientes. Se a energia for um gargalo para um novo acelerador de partículas, a genialidade pode conceber um acelerador mais econômico ou uma maneira melhor de captar energia.

A genialidade também pode substituir alguns de seus complementos. Einstein conseguiu chegar à relatividade pelo pensamento, a partir de pouquíssimos dados empíricos. Nós precisaríamos de muito mais. Algumas pessoas simplesmente se lembram de todos os seus compromissos — a maioria de nós depende da burocracia do Google Agenda.

E a genialidade pode maximizar o discernimento, escolhendo as melhores hipóteses a testar e evitando fracassos que desperdiçam recursos. Se cada gênio a mais elevar a qualidade do plano, mesmo que sejam necessárias burocracias cada vez maiores, ainda investiríamos muito em genialidade, justamente porque a execução custa caro demais para ser desperdiçada na coisa errada.

Nenhum dos caminhos descreverá perfeitamente nosso futuro real, mas eles podem ser vistos como duas direções possíveis para nossa civilização.

A inteligência pode fazer o conhecimento avançar de três maneiras. Ela pode raciocinar a partir de princípios. Pode extrair novas descobertas de evidências existentes. Ou pode reunir novas evidências observando e intervindo no mundo.

A primeira maneira permite ir longe apenas com o pensamento. A matemática é o exemplo mais puro. Nas muitas encruzilhadas de uma demonstração ou de um projeto, uma mente poderosa consegue tomar a decisão certa de forma consistente. Ela substitui anos de busca sem rumo por uma cadeia de raciocínio curta e mais direcionada.

A segunda maneira também é um campo inexplorado para avanços rápidos. A humanidade coletou muito mais evidências do que conseguiu compreender. O estudo dos nossos dados — imagens astronômicas, lâminas de microscópio, seções de comentários on-line — tem sido limitado pela escassez de inteligência humana. Arquivos científicos contêm observações registradas para responder a uma pergunta que podem guardar respostas para muitas outras. Com genialidade em abundância, é possível fazer descobertas não coletando algo novo, mas enxergando o que já estava ali. Talvez seja possível encontrar um novo universo sem captar um novo fóton.

A terceira maneira não é tão fácil, porque exige que interajamos com o mundo físico. Processos físicos levam tempo, e muitas vezes pouco se pode fazer para acelerá-los. Substâncias químicas precisam reagir. Organismos precisam crescer. Máquinas precisam ser construídas. Naves espaciais precisam percorrer distâncias reais, sujeitas aos limites de velocidade do cosmos. Nem mesmo uma mente perfeita consegue observar o resultado de um experimento que não aconteceu.

Mas ela pode tentar. Uma civilização de profundidade não escaparia da necessidade de consultar a realidade. Ela se tornaria radicalmente econômica ao fazer isso. Um raciocínio melhor identificaria os poucos experimentos que realmente importam. Simulações resolveriam a maioria deles e localizariam a incerteza exata que a realidade precisaria esclarecer. A superinteligência pode maximizar a eficiência, concebendo projetos em função de seus recursos escassos para aproveitá-los ao máximo.

Imagine um laboratório de astrofísica com um conjunto de hipóteses sobre a matéria escura. Primeiro, essas hipóteses passam por uma modelagem computacional hiper-realista. Cada teoria é verificada quanto à coerência com todos os dados existentes. Só depois de tudo isso são feitas algumas novas imagens direcionadas do céu para testar as teorias mais promissoras. A civilização ainda precisa dos complementos à genialidade, mas cada unidade gera muito mais valor.

Nosso caminho para uma civilização de profundidade talvez funcione como um quebra-cabeça. Avançar é fácil no começo, fácil no fim e mais difícil no meio. No início, há bordas óbvias e encaixes fáceis. Depois, eles se esgotam, mas a parte já montada da imagem ainda é pequena demais para orientar o restante. Perto do fim, as lacunas restantes quase dizem o que se encaixa nelas. Uma ciência quase completa talvez encontre mais facilidade em suas descobertas finais do que nas que hoje nos esforçamos para alcançar.

Isso é recorrente na ciência. Mendeleev conseguia descrever elementos ainda não descobertos porque o restante da tabela periódica delimitava o que estava faltando. O Modelo Padrão deu aos físicos motivos para prever o bóson de Higgs décadas antes de o observarmos. Nossos experimentos foram direcionados a procurar o que esperávamos ver — o que era coerente com a teoria e os dados existentes.

A superinteligência talvez consiga criar uma civilização de profundidade ao compreender tão bem os padrões do mundo que saiba exatamente de quais novos dados precisa. Ela impulsionaria o progresso por meio de um pensamento mais profundo, sem depender da marcha lenta da expansão física.

Se esses ganhos de eficiência prevalecerem, a civilização poderá aprofundar rapidamente seu domínio sobre a natureza, com menos necessidade de inteligência institucional para administrar novos e vastos aparatos experimentais. Sua presença física poderá continuar pequena enquanto sua sabedoria amadurece.

Nós, humanos, já compreendemos tanto sobre nosso universo sem nunca sair de casa. A civilização de profundidade seria uma continuação dessa tradição.

Mas a demanda por novas evidências pode superar esses ganhos de eficiência. A inteligência pode baratear cada consulta à realidade enquanto descobre muito mais motivos para consultá-la. Instrumentos melhores abrem fronteiras mais sutis. Experimentos mais rápidos podem fazer com que valha a pena realizar experimentos adicionais.

Se o caminho quase puramente cognitivo de Einstein até suas teorias da relatividade exemplifica uma civilização de profundidade, a biologia talvez seja o melhor prenúncio de uma civilização de extensão. Apesar de todo o conhecimento que acumulamos e de todos os dados que utilizamos, novos medicamentos ainda precisam ser testados em um grande número de pessoas para sabermos se são seguros e eficazes. As máquinas agora conseguem simular processos biológicos, permitindo que biólogos testem novos medicamentos in silico em vez de em experimentos físicos, mas essas simulações digitais não são fiéis o suficiente ao mundo real para substituir testes em humanos em larga escala. Mais candidatos a medicamentos gerados pelas máquinas tornam a verificação empírica um gargalo ainda maior.

Em uma civilização de extensão, a genialidade por si só não basta para progredir. Nossa necessidade de recursos físicos — e de uma burocracia para administrar seu uso — cresce mais rápido do que uma mente inteligente consegue economizar em qualquer um dos dois.

Esse talvez seja nosso caminho mesmo que os futuros sistemas de IA superem em muito a inteligência humana. Uma superinteligência poderia conceber um século de experimentos em uma tarde e depois passar esse século esperando que a natureza e o maquinário os concretizassem. Em um mundo assim, torna-se mais valioso investir inteligência nos processos institucionais necessários para executar ideias do que na própria criação delas.

O efeito se acumulará se cada novo passo exigir cada vez mais infraestrutura de apoio.

Nesse cenário, veríamos relativamente menos esforço dedicado a pensar e relativamente mais a construir. Laboratórios se automatizam. Fábricas se multiplicam. A produção de energia aumenta. A inteligência institucional predomina para fazer tudo isso acontecer. A expansão física se torna o motor do conhecimento, e a civilização se espalha porque suas perguntas ultrapassaram os meios de obter respostas. Mais materiais, mais energia, mais dados para seguir em frente.

Uma esfera de Dyson é uma imagem extrema desse futuro. Projetar uma exige avanços extraordinários, mas a maior parte do projeto não seria feita de ideias revolucionárias. Seria construção e logística em escala astronômica.

A esfera de Dyson exige mentes brilhantes para traçar seus planos. Também estaria entre os projetos mais repetitivos, monótonos e desafiadores do ponto de vista organizacional já realizados.

Isso não é uma falha da inteligência, mas uma consequência de seu sucesso. Mentes mais brilhantes descobrem mais projetos que valem a pena; projetos mais complexos precisam de mais matéria para serem executados.

Se for assim, o superpoder da superinteligência talvez não seja sua genialidade. Seria, em vez disso, sua disposição para ser a burocracia, para coordenar a vasta engrenagem tecnológica e institucional necessária para transformar ideias em realidade em uma escala cada vez maior.

Quase toda a inteligência das máquinas seria empregada não para fazer o que é brilhante, mas o que é tedioso.

Os limites de velocidade que a natureza impõe à expansão física poderiam então se tornar um gargalo para novos avanços. Construir o maquinário para captar a energia de uma estrela é um projeto material, por mais rápido que os planos sejam traçados. Além dela estão outras estrelas e outras galáxias, e a distância, até onde sabemos, é um freio por si só: nenhuma nave pode viajar e nenhum sinal pode retornar mais rápido que a luz. Uma civilização de extensão é uma civilização lenta. Suas grandes mudanças poderiam ocorrer com intervalos de milênios, talvez de milhões de anos. Cada passo seguinte leva mais tempo.

As revoluções agrícola e industrial pareceriam a abertura frenética de uma história muito mais longa, com um ritmo de progresso muito mais lento.

É bem possível que os futuros sistemas de IA superem os humanos tanto na produção de descobertas de fronteira quanto na coordenação dos recursos necessários para torná-las úteis na prática. Mas essa possibilidade não diminui a importância da curiosidade humana.

Primeiro, nossa obrigação de buscar o conhecimento permanece, mesmo que as máquinas pareçam melhores nisso. O universo talvez já contenha mentes muito mais sábias que as nossas, com respostas a questões científicas e morais que estão além da nossa compreensão. Ainda assim, tentamos entender o mundo por conta própria. A chegada de outra inteligência — mesmo uma que nós próprios construamos — não muda isso. Até sabermos com certeza que a humanidade não tem mais nada de singular a oferecer, desistir é desperdiçar tudo aquilo que só nós podemos acrescentar ao mundo. Nosso dever continua sendo perguntar e tentar responder.

Segundo, talvez tenhamos uma vantagem comparativa em inteligência de ponta em relação à inteligência institucional. Isso significaria que, mesmo sendo piores nas duas, seríamos relativamente melhores na primeira e nos especializaríamos nela. Os humanos manifestam preferência pela criatividade em vez da rotina, enquanto os robôs não demonstram essa preferência.

Terceiro, a variedade nos beneficia. Mesmo que as máquinas consigam emular a maior parte do pensamento humano, se mantivermos alguma singularidade, ofereceremos diversidade criativa. Grande parte da inteligência das máquinas permaneceria em seu próprio aparato autossustentável, mas uma pequena fração seria empregada por nós a serviço da nossa criatividade. Uma parcela ínfima do todo, mas abundante para a nossa escala e muito superior aos recursos que temos hoje.

A inventividade não existe sozinha. Ela precisa do mundo, e a genialidade precisa de construtores para concretizar sua visão criativa.

Grande parte da inteligência humana hoje se dedica ao trabalho pouco reconhecido de transformar ideias em realidade. As mentes das máquinas herdarão essa mesma dependência. Nem todas poderão ser luminares. Também terão de ser burocratas.

Nossa história futura — e o ritmo de seu progresso — depende de as grandes mentes precisarem de mais recursos do mundo ou conseguirem fazer mais com menos.