Chamamos nossa espécie de Homo sapiens — o humano sábio. Mas é discutível até que ponto temos feito jus ao nome.
Nos últimos 100 mil anos, nós, sapiens, certamente acumulamos um poder enorme. A mera listagem de todas as nossas descobertas, invenções e conquistas ocuparia muitos volumes. Mas poder não é sabedoria e, depois de 100 mil anos de descobertas, invenções e conquistas, a humanidade se arrastou para uma crise existencial. Estamos à beira da catástrofe ambiental, causada pelo mau uso do nosso próprio poder. Também andamos nos dedicando à criação de novas tecnologias, como a inteligência artificial (IA), que podem escapar de nosso controle e nos escravizar ou nos aniquilar. Mas em vez de a nossa espécie se unir para lidar com esses grandes problemas existenciais, as tensões internacionais estão aumentando, a cooperação global vem se tornando mais difícil, os países estão ampliando seus arsenais de aniquilação total, e não parece impossível que uma nova guerra mundial aconteça.
Se nós, sapiens, somos tão sábios, por que somos tão autodestrutivos?
Num nível mais profundo, embora tenhamos acumulado muita informação a respeito de tudo, de moléculas de DNA a galáxias distantes, toda essa informação não parece nos ter dado uma resposta para as grandes perguntas da vida: quem somos? A que devemos aspirar? O que é uma vida boa e como devemos vivê-la? Apesar da espantosa quantidade de informação à nossa disposição, somos tão suscetíveis à fantasia e à ilusão quanto nossos ancestrais antigos. O nazismo e o stalinismo são apenas dois exemplos recentes da in sanidade de massa que, vez ou outra, engolfa mesmo sociedades modernas. Ninguém contesta que, hoje, os seres humanos têm muito mais informação e poder do que na Idade da Pedra, mas é de duvidar que tenhamos uma compreensão muito melhor de nós mesmos e do nosso papel no universo.
Por que somos tão bons em acumular mais informação e poder, mas muito menos hábeis em adquirir sabedoria? Muitas tradições ao longo da história acreditaram que temos alguma imperfeição fatal em nossa natureza, que desperta a tentação de buscarmos poderes com que não sabemos lidar. O mito grego de Faetonte fala de um jovem que descobre ser filho de Hélio, o deus do sol. Querendo provar sua origem divina, Faetonte pede o privilégio de dirigir a carruagem do sol. Hélio avisa Faetonte que nenhum ser humano é capaz de controlar os cavalos celestes que puxam a carruagem solar. Mas Faetonte insiste, e o deus do sol acaba por ceder. Depois de se alçar orgulhosamente ao céu, Faetonte realmente perde o controle da carruagem. O sol se desvia do curso, queimando toda a vegetação, matando inúmeros seres e ameaçando queimar a própria terra. Zeus intervém e atinge Faetonte com um raio. O humano presunçoso despenca do céu como uma estrela cadente, ele mesmo ardendo em fogo. Os deuses retomam o controle do céu e salvam o mundo.
Dois mil anos depois, quando a Revolução Industrial dava seus primeiros passos e máquinas começavam a substituir os seres humanos em numerosas tarefas, Johann Wolfgang von Goethe publicou um conto moral semelhante, chamado “O aprendiz de feiticeiro”. No poema de Goethe (mais tarde popularizado num desenho animado de Walt Disney, com a gura de Mickey Mouse), um velho feiticeiro deixa sua oficina a cargo de um jovem aprendiz e lhe dá algumas tarefas para cumprir em sua ausência, como ir buscar água no rio. O aprendiz resolve facilitar as coisas para si e, usando um dos sortilégios do feiticeiro, encanta uma vassoura para ir buscar a água em seu lugar. Mas a vassoura fica trazendo água sem parar, ameaçando inundar a oficina, e o aprendiz não sabe como detê-la. Em pânico, ele corta a vassoura encantada ao meio, mas cada metade se transforma em outra vassoura. Agora duas vassouras encantadas estão inundando a oficina com água. Quando o velho feiticeiro volta, o aprendiz pede ajuda: “Os espíritos que conjurei, agora não consigo afastá-los”. Prontamente o feiticeiro rompe o sortilégio e interrompe a inundação. A lição para o aprendiz — e para a humanidade — é clara: nunca conjure poderes que não consegue controlar.
O que nos dizem as fábulas morais do aprendiz e de Faetonte no século XXI? É evidente que nós, humanos, não ouvimos suas advertências. Já rompemos o equilíbrio climático da Terra e conjuramos bilhões de vassouras encantadas, drones, chatbots e outros espíritos algorítmicos que podem escapar a nosso controle e desencadear uma inundação de consequências indesejadas. A tendência de criar coisas poderosas com consequências indesejadas começou não com a invenção da máquina a vapor ou com a IA, e sim com a invenção da religião. Profetas e teólogos conjuravam espíritos poderosos que deveriam trazer amor e alegria, mas acabaram inundando o mundo com sangue.
O conselho dado pelo mito de Faetonte e pelo poema de Goethe não tem utilidade porque a forma pela qual os humanos adquirem poder é interpretada de maneira errada. Nas duas fábulas morais, um só ser humano adquire um poder enorme, mas então ele é corrompido pela arrogância e pela ganância. A conclusão é de que nossa psicologia individual imperfeita nos faz abusar do poder. O que essa análise rudimentar não percebe é que o poder humano nunca é resultado de uma iniciativa individual. O poder sempre brota da cooperação entre muitas pessoas.
Do mesmo modo, não é nossa psicologia individual que nos faz abusar do poder. Afinal, ao lado de ganância, arrogância e crueldade, os seres humanos também são capazes de demonstrar amor, compaixão, humildade e alegria. Sim, é verdade que, entre os piores integrantes de nossa espécie, ganância e crueldade reinam supremas e levam os vilões a abusarem do poder. Mas por que as sociedades humanas escolheram confiar o poder a seus piores membros? Por exemplo, os alemães em 1933 não eram, em sua maioria, psicopatas. Por que então votaram em Hitler?
Nossa tendência de invocar poderes que não sabemos controlar provém não da psicologia individual, e sim dos vários tipos de cooperação de nossa espécie. O principal argumento deste livro é que a humanidade obtém enorme poder construindo grandes redes de cooperação, mas essas redes são construídas de uma forma que predispõe os humanos a usarem o poder de modo pouco sábio. Nosso problema, então, é um problema de rede.
Em termos ainda mais específicos, é um problema de informação. A informação é a cola que une as partes de uma rede. Mas, por dezenas de milhares de anos, os sapiens construíram e mantiveram amplas redes com a invenção e a difusão de ficções, fantasias e ilusões de massa — sobre deuses, sobre vassouras encantadas, sobre a IA e uma infinidade de outras coisas. Embora cada pessoa esteja normalmente interessada em conhecer a verdade sobre si e sobre o mundo, as redes amplas unem os membros e criam ordem baseando-se em ficções e fantasias. Foi assim que chegamos, por exemplo, ao nazismo e ao stalinismo. Eram redes excepcionalmente poderosas, unidas por ideias excepcionalmente ilusórias. Como diz a famosa frase de Orwell, ignorância é força.
O fato de o regime nazista e o regime stalinista se basearem em fantasias cruéis e mentiras deslavadas não os tornava historicamente excepcionais, tampouco predeterminava a queda deles. O nazismo e o stalinismo foram duas das redes humanas mais fortes que já existiram. No final de 1941 e começo de 1942, a vitória na Segunda Guerra Mundial parecia estar ao alcance das potências do Eixo. Stálin acabou surgindo como o vencedor daquela guerra, [1] e nos anos 1950 e 1960 ele e seus herdeiros também tinham uma chance razoável de vencer a Guerra Fria. Chegados os anos 1990, as democracias liberais haviam tomado a dianteira, mas agora isso parece uma vitória temporária. No século XXI, algum novo regime totalitário pode ter êxito onde Hitler e Stálin falharam, criando uma rede onipotente capaz de impedir que as gerações futuras tentem desmascarar suas mentiras e cções. Não devemos supor que as redes ilusórias estão fadadas ao fracasso. Se quisermos impedir que vençam, nós mesmos teremos de arregaçar as mangas.
A NOÇÃO INGÊNUA DA INFORMAÇÃO
É difícil avaliar a força das redes ilusórias devido a um entendimento equivocado mais amplo sobre o modo de operação das grandes redes — ilusórias ou não — de informação. Esse entendimento equivocado está presente em algo que designo como “a noção ingênua de informação”. Enquanto fábulas como o mito de Faetonte e o poema “O aprendiz de feiticeiro” apresentam uma visão claramente pessimista da psicologia humana individual, a noção ingênua de informação dissemina uma visão claramente otimista das redes humanas em larga escala.
A noção ingênua sustenta que, ao reunirem e processarem uma quantidade muito maior de informação do que os indivíduos conseguiriam, as grandes redes alcançam um melhor entendimento da medicina, da física, da economia e de vários outros campos, e com isso elas se tornam não só poderosas, como também sábias. Por exemplo, com informação sobre os agentes patógenos, as empresas farmacêuticas e os serviços de assistência à saúde podem determinar as causas reais de muitas doenças, o que lhes permite desenvolver medicamentos mais e cazes e tomar decisões mais sábias sobre o uso deles. Essa noção pressupõe que, em quantidades su cientes, a informação leva à verdade, e a verdade, por sua vez, leva ao poder e à sabedoria. A ignorância, por outro lado, parece não levar a lugar algum. Embora possam, às vezes, surgir em momentos de crise histórica, as redes ilusórias ou enganosas estão fadadas, no longo prazo, a ser derrotadas por rivais mais lúcidos e honestos. Um serviço de atendimento à saúde que ignora a informação sobre agentes patógenos ou um gigante da indústria farmacêutica que difunde deliberadamente a desinformação será por m superado por concorrentes que fazem um uso mais sábio da informação. Assim, a noção ingênua tem implícito que as redes ilusórias devem ser aberrações e que normalmente é possível confiar que as grandes redes lidarão com o poder de maneira sábia.
Informação →→ Verdade → Sabedoria → Poder
Visão ingênua da informação
Claro que a noção ingênua reconhece que muitas coisas podem dar errado no caminho entre a informação e a verdade. Podemos cometer erros honestos ao reunir e processar a informação. Os vilões, motivados pela ganância ou pelo ódio, podem ocultar fatos importantes ou tentar nos enganar. Assim, a informação às vezes leva ao erro, e não à verdade. Por exemplo, uma informação parcial, uma análise falha ou uma campanha de desinformação podem levar até mesmo os especialistas a identificarem erroneamente a causa real de determinada doença.
No entanto, a noção ingênua supõe que o antídoto para a maioria dos problemas que enfrentamos na coleta e no processamento da informação é coletar e processar quantidades ainda maiores de informação. Embora nunca estejamos totalmente a salvo do erro, mais informação significa, na maioria dos casos, maior precisão. Um único médico querendo identificar a causa de uma epidemia examinando um único paciente tem menor probabilidade de êxito do que milhares de médicos reunindo dados sobre milhões de pacientes. E se os próprios médicos conspirarem para ocultar a verdade, a disponibilização mais ampla da informação médica para o público e para o jornalismo investigativo acabará revelando a fraude. Segundo essa noção, quanto maior a rede de informação, mais próxima da verdade ela deve estar.
Naturalmente, mesmo que analisemos a informação de maneira precisa e descubramos verdades importantes, isso não garante que usaremos com sabedoria as novas capacidades resultantes. A sabedoria costuma ser entendida como “tomar decisões corretas”, mas o significado de “corretas” depende de juízos de valor que variam entre diferentes pessoas, culturas ou ideologias. Os cientistas que descobrem um novo patógeno podem desenvolver uma vacina para proteger as pessoas. Mas se os cientistas — ou seus senhores políticos — acreditam numa ideologia racista que defende que algumas raças são inferiores e devem ser exterminadas, o novo conhecimento médico pode ser usado para desenvolver uma arma biológica que mata milhões.
Mesmo nesse caso, a noção ingênua de informação sustenta que a informação adicional oferece pelo menos uma solução parcial. A noção ingênua pensa que as divergências sobre os valores se revelam, a um exame mais detido, decorrentes da falta de informação ou da desinformação deliberada. De acordo com essa noção, os racistas são pessoas mal-informadas que simplesmente não conhecem os fatos biológicos e históricos. Pensam que “raça” é uma categoria biológica válida e sofreram uma lavagem cerebral por obra de falsas teorias conspiratórias. A solução para o racismo, portanto, é fornecer às pessoas mais fatos biológicos e históricos. Pode levar tempo, mas, num livre mercado de informação, mais cedo ou mais tarde a verdade prevalecerá.
É evidente que a noção ingênua é mais nuançada e elaborada do que é possível explicar em poucos parágrafos, mas seu postulado central é de que a informação é algo essencialmente bom e que, quanto mais informação tivermos, melhor será. Com informação e tempo suficiente, iremos inevitavelmente descobrir a verdade sobre coisas que vão de infecções virais a preconceitos racistas, assim desenvolvendo não só nosso poder, mas também a sabedoria necessária para fazer um bom uso desse poder.
Essa noção ingênua justifica a busca de tecnologias da informação sempre mais poderosas e tem sido a ideologia semioficial da era do computador e da internet. Em junho de 1989, poucos meses antes da queda do Muro de Berlim e da Cortina de Ferro, Ronald Reagan declarou que “o Golias do controle totalitário seria rapidamente derrubado pelo Davi do microchip” e que “o maior dos Grandes Irmãos está cada vez mais impotente contra a tecnologia das comunicações […]. A informação é o oxigênio da era moderna […]. Ela se infiltra pelos muros encimados por arame farpado. Flutua por sobre as fronteiras eletrificadas e com bombas armadilhadas. Brisas de feixes eletrônicos sopram pela Cortina de Ferro como se ela fosse de renda”.[2] Em novembro de 2009, Barack Obama se expressou num espírito similar numa visita a Shanghai, dizendo aos anfitriões chineses: “Tenho convicção na tecnologia e acredito na abertura do fluxo de informação. Penso que, quanto mais livre corre a informação, mais forte a sociedade se torna”.[3]
É frequente que empresários e corporações expressem noções tão edulcoradas como essas sobre a tecnologia da informação. Já em 1858, um editorial do New Englander sobre a invenção do telégrafo declarava: “É impossível que continuem a existir velhos preconceitos e hostilidades, tendo sido criado um tal instrumento para uma troca de ideias entre todas as nações da Terra”.[4] Depois de quase dois séculos e duas guerras mundiais, Mark Zuckerberg disse que o objetivo do Facebook “é ajudar as pessoas a compartilharem mais, de modo a tornar o mundo mais aberto e contribuir para promover o entendimento entre as pessoas”.[5]
Em seu livro de 2024, A singularidade está próxima, o eminente futurologista e empresário Ray Kurzweil examina a história da tecnologia da informação e conclui que “a realidade é que praticamente todos os aspectos da vida estão se tornando cada vez melhores em decorrência do aperfeiçoamento exponencial da tecnologia”. Revendo o grandioso âmbito da história humana, ele cita exemplos como a invenção do prelo para sustentar que a tecnologia da informação tende, por sua própria natureza, a gerar “um círculo virtuoso, promovendo praticamente todos os aspectos do bem-estar humano, incluindo a alfabetização, a educação, a riqueza, o saneamento, a saúde, a democratização e a redução da violência”.[6]
Talvez a formulação mais sucinta da noção ingênua da informação se encontre na declaração do Google, afirmando que sua missão é “organizar a informação do mundo e torná-la universalmente acessível e útil”. A resposta do Google aos alertas de Goethe é que um único aprendiz surrupiando o livro secreto de sortilégios de seu mestre provavelmente causará um desastre, ao passo que, se vários aprendizes tiverem livre acesso à informação do mundo inteiro, eles não só criarão vassouras mágicas de muita utilidade, como também aprenderão a manobrá-las sabiamente.
GOOGLE VERSUS GOETHE
Existem inúmeros casos em que a posse de mais informação de fato permite que os humanos entendam melhor o mundo e usem seu poder com mais sabedoria. Consideremos, por exemplo, a drástica redução na mortalidade infantil. Johann Wolfgang von Goethe era o primogênito de sete filhos, mas somente ele e a irmã Cornelia sobreviveram para além do sétimo aniversário. A doença levou o irmão Hermann Jacob aos seis anos, a irmã Catharina Elisabeth aos quatro, a irmã Johanna Maria aos dois, o irmão Georg Adolf aos oito meses, e um quinto irmão, sem nome, veio ao mundo natimorto. Cornelia então morreu de uma enfermidade aos 26 anos, deixando Johann Wolfgang como o único sobrevivente da família.[7]
Johann Wolfgang von Goethe teve cinco filhos, os quais, à exceção do primogênito — August —, morreram com menos de quinze dias de vida. Muito provavelmente, a causa foi a incompatibilidade entre os grupos sanguíneos de Goethe e da esposa, Christiane, incompatibilidade esta que, depois da primeira gravidez bem-sucedida, levou a mãe a desenvolver anticorpos ao sangue fetal. Essa condição, conhecida como doença de Rhesus, hoje em dia é tratada com tanta eficácia que o índice de mortalidade é inferior a 2%; mas, nos anos 1790, ela tinha um índice médio de mortalidade de 50% e foi uma sentença de morte para os quatro filhos menores de Goethe.[8]
Na família Goethe de modo geral — uma família alemã abastada no final do século XVIII —, o índice de sobrevivência infantil foi de assustadores 25%. Somente três em doze crianças chegaram à idade adulta. Essa tenebrosa estatística não escapava aos padrões. Na época em que Goethe escreveu “O aprendiz de feiticeiro”, em 1797, calcula-se que apenas cerca de 50% das crianças alemãs chegavam aos quinze anos de idade,[9] e o mesmo provavelmente se aplicava à maioria dos outros lugares do mundo.[10] Em 2020, 95,6% das crianças em todo o mundo foram além do 15o aniversário,[11] e na Alemanha essa cifra foi de 99,5%.[12] Esse feito grandioso não teria sido possível sem a coleta, a análise e o compartilhamento de enormes quantidades de dados médicos sobre coisas como os grupos sanguíneos. Nesse caso, portanto, a noção ingênua da informação se provou correta.
Mas a noção ingênua da informação enxerga apenas uma parte do todo, e a história da modernidade não se resumiu apenas à redução da mortalidade infantil. Em gerações recentes, a humanidade tem visto o maior aumento de todos os tempos tanto na quantidade quanto na velocidade de nossa produção de informação. Cada smartphone contém mais informação do que a antiga Biblioteca de Alexandria [13] e permite que seu usuário se conecte instantaneamente a bilhões de outras pessoas no mundo inteiro. Todavia, apesar de toda essa informação circulando a velocidades estonteantes, a humanidade está mais próxima do que nunca da autoaniquilação.
Apesar — ou talvez por causa — de nosso tesouro de dados, continuamos a despejar gases de efeito estufa na atmosfera, a poluir rios e oceanos, a desmatar orestas, a destruir hábitats inteiros, a levar à extinção uma quantidade incontável de espécies e a pôr em risco as bases ecológicas de nossa própria espécie. Também estamos produzindo armas sempre mais poderosas de destruição em massa, de bombas termonucleares a vírus fatais. Não falta informação a nossos governantes sobre tais perigos, mas, em vez de colaborarem para encontrar soluções, eles avançam para uma guerra global.
Uma quantidade ainda maior de informação melhoraria ou pioraria as coisas? Logo saberemos. Inúmeras corporações e governos estão numa corrida para desenvolver a tecnologia de informação mais poderosa da história — a IA. Alguns empresários de ponta, como o investidor americano Marc Andreessen, creem que a IA finalmente resolverá todos os problemas da humanidade. Em 6 de junho de 2023, Andreessen publicou um ensaio chamado “Why Will Save the World” [Por que a IA salvará o mundo], repleto de afirmações audaciosas como “estou aqui para trazer a boa nova: a IA não destruirá o mundo e, na verdade, pode salvá-lo” e “a pode melhorar tudo o que nos importa”. E concluiu: “O desenvolvimento e a proliferação da IA — longe de ser um risco a temer — é uma obrigação moral que temos para com nós mesmos, com nossos filhos e com nosso futuro”.[14]
Ray Kurzweil concorda, argumentando em A singularidade está próxima que “a é a tecnologia principal que nos permitirá enfrentarmos os desafios prementes diante de nós, incluindo vencer doenças, pobreza, degradação ambiental e todas as nossas fraquezas humanas. Temos um imperativo moral de concretizar essa promessa de novas tecnologias”. Kurzweil sabe dos perigos potenciais da tecnologia e os analisa extensamente, mas acredita que é possível mitigá-los com êxito.[15]
Outros são mais céticos. Não só filósofos e cientistas sociais, mas também muitos especialistas de ponta em e grandes empresários, como Yoshua Bengio, Geo rey Hinton, Sam Altman, Elon Musk e Mustafa Suleyman, têm alertado o público de que a pode destruir nossa civilização.[16] Um artigo de 2024 de coautoria de Bengio, Hinton e vários outros especialistas observou que “o avanço irrefreado da pode culminar numa perda da vida e da biosfera em grande escala, e na marginalização ou até extinção da humanidade”.[17] Num levantamento de 2778 pesquisadores da , de 2023, mais de um terço apresentou uma chance de pelo menos 10% de que a avançada leve a consequências tão terríveis como a extinção humana.18 Em 2023, quase trinta governos — incluindo os da China, dos Estados Unidos e do Reino Unido — assinaram a Declaração de Bletchley sobre a , reconhecendo que “há potenciais danos sérios e até catastróficos, deliberados ou involuntários, decorrentes das capacidades mais significativas desses modelos de ”.19 Ao empregarem esses termos apocalípticos, especialistas e governos não têm a intenção de invocar uma imagem hollywoodiana de robôs insurgentes correndo pelas ruas e atirando nas pessoas. Tal cenário é improvável e só desvia a atenção das pessoas dos perigos reais. O alerta dos especialistas se refere a dois outros cenários.
Primeiro, o poder da IA poderia superalimentar conflitos humanos existentes, dividindo a humanidade contra si mesma. Assim como, no século XX, a Cortina de Ferro dividiu as potências rivais na Guerra Fria, no século XXI a Cortina de Silício — feita de chips de silício e códigos de computador, em vez de arame farpado — poderia vir a dividir potências rivais num novo conflito global. Como a corrida armamentista da produzirá armas sempre mais destrutivas, uma mera faísca poderia desencadear uma conflagração cataclísmica.
Segundo, a Cortina de Silício poderia criar uma divisão não entre grupos humanos, mas entre todos os seres humanos e nossos novos senhores da . Onde quer que vivêssemos, poderíamos nos ver enclausurados numa rede de algoritmos insondáveis regendo nossa vida, remodelando nossa política e nossa cultura, e até reprogramando nosso corpo e nossa mente — não mais capazes de compreender as forças que nos controlam e muito menos de detê-las. Se uma rede totalitária do século XXI conseguir conquistar o mundo, ela poderá ser comandada por uma inteligência não humana em lugar de um ditador humano. As pessoas que apontam a China, a Rússia ou os Estados Unidos pós democráticos como principal fonte dos pesadelos totalitários não entendem bem o perigo. Na verdade, chineses, russos, americanos e todos os outros seres humanos estão conjuntamente ameaçados pelo potencial totalitário da inteligência não humana.
Em vista da magnitude do perigo, a IA deveria ser de interesse para todos os seres humanos. Embora nem todos possamos nos tornar especialistas em IA, devemos ter em mente que ela é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si mesma. Todas as invenções humanas anteriores deram poder aos seres humanos porque, por mais poderosa que fosse a nova ferramenta, as decisões sobre seu uso permaneceram em nossas mãos. Facas e bombas não decidem quem vão matar. São ferramentas obtusas, sem a inteligência necessária para processar informação e tomar decisões independentes. A IA, por sua vez, pode processar sozinha a informação e, portanto, substituir os seres humanos em tomadas de decisão. A não é uma ferramenta — é um agente.
Seu domínio da informação também lhe permite gerar novas ideias de forma independente, em campos que vão da música à medicina. Os gramofones tocavam nossa música e os microscópios revelavam os segredos de nossas células, mas os gramofones não eram capazes de compor novas sinfonias, e os microscópios não eram capazes de sintetizar novas drogas. A IA já é capaz de produzir arte e fazer descobertas científicas por conta própria. Nas próximas décadas, provavelmente terá até a capacidade de criar novas formas de vida, seja escrevendo códigos genéticos, seja inventando um código inorgânico que alimenta entidades inorgânicas.
Mesmo agora, no estágio embrionário da revolução da IA, os computadores já tomam decisões a nosso respeito — se nos farão um empréstimo, se nos contratarão para um emprego, se nos mandarão para a prisão. Essa tendência vai apenas aumentar e se acelerar, tornando mais difícil entendermos nossa própria vida. Podemos confiar que algoritmos tomem decisões sábias e criem um mundo melhor? É uma aposta muito maior do que confiar que uma vassoura encantada vá buscar água. E é mais do que apenas a vida humana que estamos apostando. A IA poderia alterar o curso não só da história de nossa espécie, como também da evolução de todas as formas de vida.
O ARMAMENTISMO DA INFORMAÇÃO
Em 2016, publiquei Homo Deus, livro que ressaltava alguns dos perigos que as novas tecnologias da informação apresentam à humanidade. O livro argumentava que o verdadeiro protagonista da história sempre foi a informação, e não o Homo sapiens, e que os cientistas cada vez mais entendem não só a história, mas também a biologia, a política e a economia em termos de fluxos de informação. Animais, Estados e mercados são, todos eles, redes de informação, absorvendo dados do ambiente, tomando decisões e liberando dados de volta. O livro alertava que, apesar de esperarmos que uma melhor tecnologia da informação nos conceda saúde, felicidade e poder, na verdade ela pode nos retirar o poder e destruir nossa saúde física e mental. Homo Deus aventava que, se não tomarmos cuidado, podemos nos dissolver na torrente de informação como um torrão de terra num rio caudaloso, e que, no grande esquema das coisas, a humanidade não passará de uma pequena ondulação no fluxo cósmico de dados.
Desde a publicação de Homo Deus, a velocidade da mudança apenas aumentou e, de fato, o poder tem se transferido dos seres humanos para os algoritmos. Muitos cenários que pareciam de ficção científica em 2016 — algoritmos capazes de criar arte, de se passar por seres humanos, de tomar decisões de vida cruciais a nosso respeito e de saber mais sobre nós do que nós mesmos sabemos — são realidades corriqueiras em 2024.
Muitas outras coisas mudaram desde 2016. A crise ambiental se intensificou, as tensões internacionais se agravaram, uma onda populista abalou até mesmo as mais robustas democracias. O populismo também lançou um desafio radical à noção ingênua da informação. Líderes populistas como Donald Trump e Jair Bolsonaro, movimentos populistas e teorias da conspiração como non e os antivacina sustentam que todas as instituições tradicionais que ganham autoridade dizendo reunir informação e descobrir a verdade estão simplesmente mentindo. Ocupantes de cargos políticos, juízes, médicos, jornalistas da grande imprensa e especialistas acadêmicos são conluios de elite sem qualquer interesse na verdade e deliberadamente difundem desinformação para obter poder e privilégios para si mesmos em detrimento do “povo”. A ascensão de políticos como Trump e de movimentos como o non tem um contexto político específico, próprio das condições dos Estados Unidos no final dos anos 2010. Mas o populismo como uma visão de mundo contra o sistema é muito anterior a Trump e faz parte de diversos outros contextos históricos, atuais e futuros. Em síntese, o populismo vê a informação como uma arma.[20]
Informação →→→ Poder
Visão populista da informação
Em suas versões mais radicais, o populismo postula que não existem verdades objetivas e que cada um tem “sua própria verdade”, que brande para derrotar os rivais. Segundo essa visão de mundo, o poder é a única realidade. Todas as interações sociais são lutas pelo poder, porque a única coisa que interessa aos seres humanos é o poder. A alegação de se interessar por alguma outra coisa — como a verdade ou a justiça — não passa de uma artimanha para ganhar poder. Sempre que o populismo consegue disseminar a noção da informação como uma arma, a própria linguagem se enfraquece. Substantivos como “fatos” e adjetivos como “precisos” e “verdadeiros” se tornam inapreensíveis. Não se considera que tais palavras se refiram a uma realidade objetiva em comum. Em vez disso, qualquer menção a “fatos” ou à “verdade” fatalmente fará com que pelo menos alguns perguntem: “A fatos de quem e à verdade de quem você está se referindo?”.
Essa noção da informação profundamente cética e concentrada no poder não é um fenômeno novo nem foi inventada por pessoas antivacina, terraplanistas, bolsonaristas ou trumpistas. Tais noções foram propagadas bem antes de 2016, inclusive por alguns dos cérebros mais brilhantes da humanidade.[21] Na segunda metade do século XX, por exemplo, intelectuais da esquerda radical, como Michel Foucault e Edward Said, afirmavam que instituições científicas como as clínicas e as universidades não buscam verdades objetivas e atemporais, mas pelo contrário usam o poder para determinar o que vale como verdade, a serviço das elites capitalistas e colonialistas. Essas críticas radicais às vezes chegavam a defender que os “fatos científicos” não passam de um “discurso” capitalista ou colonialista, e que os indivíduos no poder nunca podem estar realmente interessados na verdade, e nunca se pode confiar que reconhecerão e corrigirão seus próprios erros.[22]
Essa linha específica de pensamento da esquerda radical remonta a Karl Marx, que afirmava, em meados do século XIX, que o poder é a única realidade, que a informação é uma arma e que as elites que dizem estar servindo à verdade e à justiça estão, de fato, defendendo estreitos privilégios de classe. Nas palavras do Manifesto comunista de 1848:
A história de todas as sociedades existentes até hoje é a história das lutas de classe. O homem livre e o escravo, o patrício e o plebeu, o senhor e o servo, o mestre e o oficial de guilda, em suma, o opressor e o oprimido estiveram em constante oposição entre si, travando uma luta ininterrupta, ora oculta, ora aberta.
Essa interpretação binária da história tem implícito que toda interação humana é uma luta de poder entre opressores e oprimidos. Assim, sempre que alguém diz alguma coisa, a pergunta a fazer não é “O que está sendo dito? É verdade?”, mas, sim, “Quem está dizendo isso? Aos privilégios de quem isso serve?”.
Claro que é improvável que populistas de direita como Trump e Bolsonaro tenham lido Marx ou Foucault; aliás, eles se apresentam como ferrenhos antimarxistas. Também se diferenciam muito dos marxistas nas políticas que sugerem para campos como a tributação e a previdência social. Mas sua noção básica da sociedade e da informação é surpreendentemente marxista, vendo todas as interações humanas como uma luta de poder entre opressores e oprimidos. Trump, por exemplo, em seu discurso de posse em 2017, declarou que “um pequeno grupo na capital de nossa nação colhe as recompensas do governo enquanto o povo arca com os custos”.[23] Tal retórica é um elemento central do populismo, que o cientista político Cas Mudde descreve como uma “ideologia que considera a sociedade separada, em última análise, em dois grupos homogêneos e antagônicos, ‘o povo puro’ versus ‘a elite corrupta’”.[24] Assim como os marxistas sustentavam que os meios de comunicação operam como porta-vozes da classe capitalista e que instituições científicas como as universidades difundem a desinformação a m de perpetuar o controle capitalista, da mesma forma os populistas acusam essas mesmas instituições de trabalharem para promover os interesses das “elites corruptas” às custas do “povo”.
Os atuais populistas também sofrem da mesma incoerência que, em gerações anteriores, afetava os movimentos radicais contra o sistema. Se a única realidade é o poder e se a informação é apenas uma arma, o que isso significa em relação aos próprios populistas? Estão eles também interessados apenas no poder, e estão eles também mentindo para nós a m de ganhar poder?
Os populistas tentam se livrar desse problema de duas formas diferentes. Alguns movimentos populistas alegam seguir os ideais da ciência moderna e as tradições do empirismo cético. Dizem que, de fato, você nunca deve confiar em qualquer instituição ou gura de autoridade — inclusive os políticos e partidos autointitulados populistas. Em vez disso, você deve “fazer sua própria pesquisa” e confiar apenas no que é capaz de observar por si só.[25] Essa posição empirista radical traz implícito que, embora nunca se possa confiar em instituições de larga escala como partidos políticos, tribunais, jornais e universidades, os indivíduos que se esforçarem ainda podem encontrar por si mesmos a verdade.
Essa abordagem pode parecer científica e exercer apelo aos indivíduos de espírito independente, mas não explica como as comunidades humanas podem colaborar para montar sistemas de assistência à saúde ou aprovar regulamentações ambientais, que requerem uma organização institucional de grande escala. Um único indivíduo será capaz de fazer todas as pesquisas necessárias para decidir se está havendo um aquecimento global e o que fazer a esse respeito? Como uma única pessoa iria coletar dados climáticos do mundo inteiro, sem falar em como iria obter registros confiáveis dos séculos passados? Confiar apenas em “minha própria pesquisa” pode parecer algo muito científico, mas, na prática, consiste em crer que não existe uma verdade objetiva. [...] a ciência é um empreendimento institucional colaborativo, e não uma busca individual.
Uma outra solução populista é abandonar o ideal científico moderno de encontrar a verdade por meio da “pesquisa” e voltar a se basear na revelação divina ou no misticismo. Religiões tradicionais como o cristianismo, o islamismo e o hinduísmo costumam caracterizar os seres humanos como criaturas inconfiáveis e sedentas de poder que só podem ter acesso à verdade graças à intervenção de uma inteligência divina. Nos anos 2010 e começo dos 2020, partidos populistas do Brasil à Turquia, dos Estados Unidos à Índia, têm se alinhado a essas religiões tradicionais. Expressam uma dúvida radical em relação às instituições modernas enquanto declaram plena fé nas antigas escrituras. Os populistas dizem que os artigos que lemos no New York Times ou na Science não passam de estratagemas elitistas para ganhar poder, mas o que lemos na Bíblia, no Alcorão ou nos Vedas é verdade absoluta.[26]
Uma variação desse tema conclama as pessoas a deporem fé em líderes carismáticos como Trump e Bolsonaro, que são representados por seus apoiadores como mensageiros de Deus [27] ou dotados de um elo místico com “o povo”. Enquanto os políticos comuns mentem ao povo para ganhar poder, o líder carismático é o porta-voz infalível do povo, que desmascara todas as mentiras.[28] Um dos paradoxos recorrentes do populismo é que ele começa nos alertando de que todas as elites humanas são movidas por uma perigosa sede de poder, mas muitas vezes acaba confiando todo o poder a um único indivíduo ambicioso.
[...] os populistas estão minando a confiança em instituições de grande escala e na cooperação internacional no mesmo momento em que a humanidade se vê perante os desafios existenciais da catástrofe ambiental, da guerra global e da tecnologia fora de controle. Em vez de confiarem em instituições humanas complexas, os populistas nos dão o mesmo conselho do mito de Faetonte e de “O aprendiz de feiticeiro”: “Confie em Deus ou no grande feiticeiro que intervirá e corrigirá tudo”. Se seguirmos esse conselho, é possível que nos encontraremos, no curto prazo, sob o domínio da pior espécie dos indivíduos humanos ávidos pelo poder e, no longo prazo, sob o domínio dos novos senhores da IA. Ou talvez não nos encontremos em lugar algum, a Terra tornando-se inóspita para a vida humana.
Se não quisermos entregar o poder a um líder carismático ou a uma inescrutável IA, primeiro precisamos obter um entendimento melhor do que é a informação, como ela ajuda a construir redes humanas e como se relaciona com a verdade e o poder. Os populistas têm razão em desconfiar da noção ingênua da informação, mas estão errados em pensar que o poder é a única realidade e que a informação é sempre uma arma. A informação não é a matéria-prima da verdade, tampouco uma mera arma. Há entre esses dois extremos espaço suficiente para uma visão mais nuançada e esperançosa das redes humanas de informação e de nossa capacidade de utilizar o poder com sabedoria.
Notas
1. Sean McMeekin, Stalin’s War: A New History of World War II. Nova York: Basic Books, 2021.
2. “Reagan Urges ‘Risk’ on Gorbachev: Soviet Leader May Be Only Hope for Change, He Says”.Los Angeles Times, 13 jun. 1989. Disponível em: <latimes.com/archives/la-xpm-1989-06-13-mn-2 300-story.html>. Acesso em: 23 abr. 2024.
3. Casa Branca, “Remarks by President Barack Obama at Town Hall Meeting with FutureChinese Leaders”. Secretaria de Imprensa, 16 nov. 2009. Disponível em: <obamawhitehouse. archi ves.gov/the-press-o ce/remarks-president-barack-obama-town-hall-meeting-with-futurechines e-leaders>. Acesso em: 23 abr. 2024.
4. Citado em Evgeny Morozov, e Net Delusion: e Dark Side of Internet Freedom. Nova York: Public A airs, 2012.
5. Citado em Christian Fuchs, “An Alternative View of Privacy on Facebook”. Information, v. 2, n. 1, pp. 140-65, 2011.
6. Ray Kurzweil, e Singularity Is Nearer: When We Merge with AI. Londres: e Bodley Head, 2024, pp. 121-3 [Ed. bras.: A singularidade está próxima: Quando os humanos transcendem a biologia. Trad. de Ana Goldberger. São Paulo: Iluminuras, 2018].
7. Sigrid Damm, Cornelia Goethe. Berlim: Insel, 1988, pp. 17-8; Dagmar von Gersdor , Goethes Mutter. Stuttgart: Hermann Bohlaus Nachfolger Weimar, 2004; Johann Wolfgang von Goethe, Goethes Leben von Tag zu Tag: Eine dokumentarische Chronik. v. 1. Dusseldorf: Artemis,
1982, pp. 1:1749-75.
8. Stephan Oswald, Im Schatten des Vaters. August von Goethe. Munique: C. H. Beck, 2023; Rainer Holm-Hadulla, Goethe’s Path to Creativity: A Psycho-biography of the Eminent Politician,
Scientist, and Poet. Nova York: Routledge, 2018; Lisbet Koerner, “Goethe’s Botany: Lessons of a Feminine Science”. History of Science Society, v. 84, n. 3, pp. 470-95, 1993; Alvin Zipursky, Vinod K. Bhutani e Isaac Odame, “Rhesus Disease: A Global Prevention Strategy”. Lancet Child and
Adolescent Health, v. 2, n. 7, pp. 536-42, 2018; John Queenan, “Overview: e Fetus as a Patient: e Origin of the Specialty”. In: Institute of Medicine. Fetal Research and Applications: A Con-
ference Summary. Washington: National Academies Press, 1994. Disponível em: <ncbi.nlm.nih.go v/books/NBK231999/>. Acesso em: 4 jan. 2024.
9. John Knodel, “Two and a Half Centuries of Demographic History in a Bavarian Village”.Population Studies, v. 24, n. 3, pp. 353-76, 1970.
10. Saloni Dattani et al., “Child and Infant Mortality”. Our World in Data, 2023. Disponívelem: <ourworldindata.org/child-mortality#mortality-in-the-past-around-half-died-as-children>.
Acesso em: 3 jan. 2024.
11. Ibid.
12. Organização das Nações Unidas ( ), “Most Recent Stillbirth, Child, and Adolescent Mortality Estimates”. Inter-agency Group for Child Mortality Estimation, [s.d.]. Disponível em: <childmortality.org/data/Germany>. Acesso em: 3 jan. 2024.
13. Segundo uma estimativa, a Biblioteca de Alexandria continha cerca de 100 bilhões de bitsde informação, ou 12,5 gigabytes. Ver Douglas S. Robertson, “ e Information Revolution” (Communication Research, v. 17, n. 2, pp. 235-54, 1990). Em 2020, o celular Android médio tinha capacidade de cerca de 96 gigabytes. Ver Brady Wang, “Average Smartphone Flash Capacity Crossed 100 in 2020” (Counterpoint Research, 30 mar. 2021. Disponível em: <counter pointresearch.com/average-smartphone-nand- ash-capacity-crossed-100gb-2020/>. Acesso em: 23 abr. 2024).
14. Marc Andreessen, “Why Will Save the World”. Andreessen Horowitz, 6 jun. 2023. Disponível em: <a16z.com/ai-will-save-the-world/>. Acesso em: 23 abr. 2024.
15. Ray Kurzweil, e Singularity Is Nearer: When We Merge with AI. Londres: e Bodley Head, 2024, p. 285.
16. Andy McKenzie, “Transcript of Sam Altman’s Interview Touching on Safety”. Less Wrong, 20 jan. 2023. Disponível em: <lesswrong.com/posts/PTzsEQXkC g9A6AS/transcript of-sam-altm an-s-interview-touching-on-ai-safety>. Acesso em: 23 abr. 2024; Ian Hogarth, “We Must Slow Down the Race to God-Like ”. Financial Times, 13 abr. 2023; Future of Life Insti tute, “Pause Giant Experiments: An Open Letter”. 22 mar. 2023. Disponível em: <futureo ife.org/open-lett er/pause-giant-ai-experiments/>. Acesso em: 23 abr. 2024; Cade Metz, “‘ e God father of ’ Quits Google and Warns of Danger”. e New York Times, 1 maio 2023; Mustafa Suleyman e Michael Bhaskar, e Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma. Nova York: Crown, 2023 [Ed. bras.: A próxima onda: Inteligência arti cial, poder e o maior dilema do século XXI. Trad. de Alessandra Bonrruquer. Rio de Janeiro: Record, 2023]; Walter Isaacson, Elon Musk. Londres: Simon & Schuster, 2023 [Ed. bras.: Elon Musk. Trad. de Rosiane Correia de Freitas. Rio de Janeiro: Intrínseca, 2023].
17. Yoshua Bengio et al., “Managing Extreme Risks Amid Rapid Progress”, Science (maio 2024).
18. Katja Grace et al., “ ousands of Authors on the Future of ”. Pré-impressão, submetido em 2024. Disponível em: <https://arxiv.org/abs/2401.02843>. Acesso em: 4 maio 2024.
19. Gov. , “ e Bletchley Declaration by Countries Attending the Safety Summit, 1-2 November 2023”, 1 nov. 2023. Disponível em: <www.gov.uk/government/publications/aisafetysu mmit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-theai-saf ety-summit-1-2-november-2023>. Acesso em: 23 abr. 2024.
20. Jan-Werner Müller, What Is Populism?. Filadél a: University of Pennsylvania Press, 2016.
21. Na República de Platão, Trasímaco, Glauco e Adimanto argumentam que todos — e mais notadamente políticos, juízes e servidores públicos — se preocupam apenas com seus próprios privilégios e dissimulam e mentem com eles em vista. Desa am Sócrates a refutar as a rmações de que “a aparência prevalece sobre a verdade” e “a justiça não é senão o interesse do mais forte”. Posições semelhantes foram debatidas e, por vezes, apoiadas no clássico hindu Arthashastra; nos escritos de pensadores legalistas da China antiga, como Han Fei e Shang Yang; e na obra de pensadores europeus no início da era moderna, como Maquiavel e Hobbes. Ver Roger Boesche, e First Great Political Realist: Kautilya and His “Arthashastra” (Lanham: Lexington Books, 2002); Shang Yang, e Book of Lord Shang: Apologetics of State Power in Early China (trad. de
Yuri Pines. Nova York: Columbia University Press, 2017); Zhengyuan Fu, China’s Le galists: e Earliest Totalitarians and eir Art of Ruling (Nova York: Routledge, 2015).
22. Ulises A. Mejias e Nick Couldry, Data Grab: e New Colonialism of Big Tech and How to Fight Back. Londres: Ebury, 2024; Michel Foucault, e Birth of the Clinic: An Archaeology of
Medical Perception. Nova York: Vintage Books, 1975 [Ed. bras.: O nascimento da clínica. Trad. de Roberto Machado. São Paulo: Forense Universitária, 1977]; id., e History of Sexuality. Nova York: Vintage Books, 1990 [Ed. bras.: História da sexualidade. Trad. de Maria ereza da Costa Albuquerque e J. A. Guilhon Albuquerque. Rio de Janeiro: Graal, 1988]; Edward W. Said, Orientalism. Nova York: Vintage Books, 1994 [Ed. bras.: Orientalismo. Trad. de Rosaura Eichenberg. São Paulo: Companhia de Bolso, 2007]; Aníbal Quijano, “Coloniality and Modernity/Rationality”. Cultural Studies, v. 21, n. 2/3, pp. 168-78, 2007; Sylvia Wynter, “Unsettling the Coloniality of Being-Power-Truth-Freedom Toward the Human, A er Man, Its Overrepresentation — an Argument”. New Centennial Review, v. 3, n. 3, p. 257-337, 2003. Para uma discussão em profundidade, ver Francis Fukuyama, Liberalism and Its Discontents (Londres: Pro le Books, 2022) [Ed. bras.: Liberalismo e seus descendentes. São Geraldo: Dom Quixote, 2022].
23. Donald J. Trump, Discurso de posse. e American Presidency Project, 20 jan. 2017. Disponível em: <presidency.ucsb.edu/node/320188>. Acesso em: 23 abr. 2024.
24. Cas Mudde, “ e Populist Zeitgeist”. Government and Opposition, v. 39, n. 3, pp. 541-63, 2004.
25. Sedona Chinn e Ariel Hasell, “Support for ‘Doing Your Own Research’ Is Associated withCovid-19 Misperceptions and Scienti c Mistrust”. Misinformation Review, 12 jun. 2023. Disponível em: <misinforeview.hks.harvard.edu/article/support-for-doing-your-own-research-is -associated-with-covid-19-misperceptions-and-scienti c-mistrust/>. Acesso em: 23 abr. 2024.
26. Ver, por exemplo, Celebrate Truth (canal), “God’s Enclosed Flat Earth Investigation: FullDocumentary [ ]” (YouTube, 2h01min51, 29 set. 2015. Disponível em: <youtube.com/watch?v =J6CPrGHpmMs>. Acesso em: 23 abr. 2024), citado em Carlos Diaz Ruiz e Tomas Nil sson, “Disinformation and Echo Chambers: How Disinformation Circulates on Social Media rough Identity-Driven Controversies” (Journal of Public Policy and Marketing, v. 42, n. 1, pp. 18-35, 2023).
27. Ver, por exemplo, David Klepper, “Trump Arrest Prompts Jesus Comparisons: ‘SpiritualWarfare’” (Associated Press, 6 abr. 2023. Disponível em: <apnews.com/artigo/donald-trump-arrai gnment-jesus-christ-conspiracy-theory-670c45bd71b3466dcd6e8e188badcd1d>. Acesso em: 23 abr. 2024); Katy Watson, “Brazil Election: ‘We’ll Vote for Bolsonaro Because He Is God’”. BBC, 28 set. 2022. Disponível em: <bbc.com/news/world-latin-america-62929581>. Acesso em: 23 abr. 2024.
28. Oliver Hahl, Minjae Kim e Ezra W. Zuckerman Sivan, “ e Authentic Appeal of the Lying Demagogue: Proclaiming the Deeper Truth about Political Illegitimacy”. American Sociological Review, v. 83, n. 1, pp. 1-33, 2018.
(Tradução de Berilo Vargas e Denise Bottman)
(Ilustração: Google dream starry night)
