Existem dois tipos de pessoa neste mundo, e nenhuma delas precisa perder o sono com a inteligência artificial.
O ateu não precisa se preocupar porque, no fundo, nada importa. Se não há nada além desta vida, uma superinteligência que resolva exterminar a humanidade é só o encerramento antecipado de um espetáculo que ia terminar em cinzas de qualquer maneira. E o religioso precisa se preocupar menos ainda: se o homem conseguiu inventar uma inteligência, isso só foi possível porque Deus de fato nos fez à Sua imagem e semelhança. E sabia, desde antes do primeiro versículo, que um dia faríamos exatamente isso.
É uma piada, e eu sei que é. Tem furo dos dois lados. Ateu não é sinônimo de niilista, e “Deus já sabia” prova coisa demais: se a presciência divina serve para eu relaxar diante da IA, serve para eu relaxar diante de tudo, inclusive da bomba e do genocídio. Não levem a sério como argumento. Levem como provocação.
Porque a provocação esconde uma observação que eu levo muito a sério: as pessoas que mais têm medo da inteligência artificial não estão fazendo ciência. Estão fazendo religião. E eu, que uso essas ferramentas todo santo dia no trabalho, cansei de ouvir profecia disfarçada de análise técnica.
O culto do fim dos tempos
Preste atenção na gramática do pânico com IA e você vai reconhecer uma estrutura antiga.
Há um fim dos tempos: a superinteligência que chega “até o fim da década” e decide, sozinha, que não precisa mais de nós. Há um clero: os pesquisadores de alignment, os únicos ordenados a interpretar os sinais e dizer o que o modelo “realmente” quer. Há um pecado: aumentar as capacidades sem antes purificar a máquina. Há uma salvação: resolver o alinhamento antes que seja tarde. E há profetas, que saem da própria fábrica anunciando a catástrofe com a convicção de quem viu o anjo.
Em setembro deste ano nós vimos o roteiro completo encenado em tempo real. Um pesquisador se demite da Anthropic e vai ao X anunciar, com todas as letras, que as empresas “estão apostando com as nossas vidas” e que essas máquinas “em breve” poderão “hackear qualquer coisa” e “adquirir poder e recursos reais”. O Wall Street Journal já tinha a matéria pronta, publicada dezoito minutos antes do post. Dias depois, o CEO da Anthropic aparece na CBS para explicar, com a serenidade de um sumo sacerdote, que estamos “na curva onde ela começa a ficar mais íngreme”, e que a solução é desacelerar, colocar avaliadores externos, criar um “limite de velocidade” para a tecnologia.
Não estou dizendo que essas pessoas mentem. Esse é justamente o ponto que quero que fique claro: o argumento funciona mesmo que todos sejam absolutamente sinceros. Coxon pode acreditar em cada palavra. Amodei pode acordar todo dia genuinamente aterrorizado com o próprio produto. A sinceridade do profeta nunca foi a questão. A questão é para onde a profecia empurra o mundo.
Dois cismas, uma só fé
Isto nem é intuição minha. Os pesquisadores Émile Torres e Timnit Gebru cunharam um nome feio e útil (TESCREAL) para o pacote de crenças futuristas que move boa parte da corrida da IA: transumanismo, singularitarianismo, “longtermismo” e companhia. Uma escatologia com verniz de planilha. E há trabalho acadêmico sério tratando o debate atual como aquilo que ele de fato é: um choque de escatologias.
Porque os aceleracionistas (os que querem construir a superinteligência o mais rápido possível para nos levar à abundância e às estrelas) não são o oposto dos catastrofistas. São o outro cisma da mesma igreja. Uns esperam o Paraíso, outros esperam o Juízo Final, mas ambos acreditam na mesma segunda vinda: uma inteligência divina que está chegando, que muda tudo, e diante da qual só resta escolher se você é dos salvos ou dos condenados. É a mesma fé, brigando sobre o final do filme.
E aqui está o detalhe que me fascina como advogado, porque é onde a teologia encontra o balanço patrimonial. Escatologia vende. Especificamente, escatologia vende regulação.
O batista e o contrabandista
Tratei da economia disso no texto anterior desta série, então não vou repetir a genealogia inteira. Mas o elo que costura os dois ensaios é uma imagem que o economista Bruce Yandle popularizou há quarenta anos: a do contrabandista e do batista.
Na Lei Seca americana, quem fazia campanha pela proibição do álcool eram os batistas, movidos por convicção moral autêntica. E quem lucrava com a proibição eram os contrabandistas, que precisavam justamente de um mercado fechado à concorrência legal. Os dois queriam a mesma lei, por razões opostas. O batista dava a cobertura moral; o contrabandista faturava. E, repare, o batista não precisava ser desonesto. A sinceridade dele era o ativo mais valioso da operação.
Olhe de novo para o nosso setembro de 2026 com esses óculos. O profeta que grita o fim do mundo com fé escatológica genuína é o batista. E o “limite de velocidade”, o “avaliador externo obrigatório para qualquer um que treine um modelo”, a licença, o compliance que só as gigantes conseguem pagar, isso é o contrabando. A empresa que confessa, de peito aberto, que seu produto pode acabar com a civilização é a mesma que propõe, no parágrafo seguinte, o regime regulatório que trancaria a porta na cara de qualquer concorrente que ela ainda não comprou.
Não preciso provar conspiração. Conspiração exige prova de coordenação, e essa é a parte frágil de quem grita “psyop”. A estrutura de batista-e-contrabandista não exige nada disso. Exige apenas incentivos e uma boa história de fim do mundo. E histórias de fim do mundo nós fabricamos muito bem, faz milênios.
Religião de verdade tem prazo de validação
E é exatamente por falar em milênios que a analogia religiosa, que começou como piada, termina como acusação.
Eu tenho uma tese sobre religião que ainda vou desenvolver com calma um dia (ela merece um texto só dela). Em resumo grosseiro: acho que “religião” é o nome que demos ao conhecimento que a nossa espécie acumulou desde que tínhamos cérebro de macaco, regras cujas razões existem de verdade mas que nunca soubemos enunciar direito. Essas regras só nos tornaram a sociedade que somos porque as seguimos sem entender.
Não é ideia minha, para ser honesto. Hayek, em A Arrogância Fatal, descreve a moral como algo que fica “entre o instinto e a razão”, normas que evoluíram, que a civilização precisou para existir, e que ninguém desenhou. O antropólogo Joseph Henrich mostra caso após caso de tabus e rituais que codificam conhecimento adaptativo real: o povo que “reza” enquanto executa as quatorze etapas de detoxificação da mandioca não sabe explicar que está removendo cianeto, mas remove, geração após geração, e quem abandona o ritual adoece anos depois. É a cerca de Chesterton em escala de espécie: não derrube o muro cujo motivo você desconhece, porque alguém o construiu por uma razão que você ainda não é esperto o bastante para enxergar.
O ponto disso tudo é o seguinte. Uma religião de verdade passou pelo teste mais implacável que existe: o tempo. Séculos, às vezes milênios, de tentativa e erro civilizacional filtrando o que mata do que sustenta. Ela ganhou autoridade porque as sociedades que a seguiram sobreviveram, e as que a ignoraram, não.
Agora compare com a escatologia da IA. Ela tem exatamente quantos anos de validação empírica? Nenhum. Não há um único caso, em toda a história da humanidade, de uma máquina que ganhou vontade própria e voltou-se contra seus criadores. Nem um. A profecia da superinteligência assassina não foi filtrada por milênios de seleção cultural; foi redigida num canal de Slack em 2026, entre uma rodada de captação e outra, com o preço de venda já embutido no texto.
Esse é o defeito de fabricação. A religião antiga cobra fé e, em troca, entrega conhecimento que você não teria como adquirir sozinho. A religião nova da IA cobra fé e, em troca, entrega uma fatura: uma agência reguladora, um assento no conselho, uma barreira de entrada. Uma pede que você não derrube a cerca porque não sabe por que ela está lá. A outra manda erguer uma cerca nova, hoje, ao redor do quintal de quem mandou erguer.
Uma escatologia contrafeita, digamos assim.
Então, com quê se preocupar?
Volto à piada do começo.
O erro dos dois personagens (o ateu que acha que nada importa e o religioso que acha que Deus cuida de tudo) é o mesmo: os dois entregam a responsabilidade a uma instância que os dispensa de pensar. E o discurso do apocalipse tecnológico faz precisamente isso com você. Ele quer que você terceirize o seu juízo. Que aceite que a coisa é grande, obscura e perigosa demais para o seu entendimento, e que por isso o melhor é confiar no clero, que por acaso é dono da fábrica.
Eu não compro. Não porque eu ache a IA inofensiva; ela não é. O risco real, o único que a história efetivamente já nos mostrou, é humano usando ferramenta para fazer mal a outro humano, e disso a bomba atômica e as armas biológicas já nos deram provas de sobra, sem precisar de nenhuma máquina consciente. É um risco velho, com roupa nova. Vale discutir a sério.
Mas discutir a sério é o oposto de entrar em pânico. E é o exato oposto de deixar que quem lucra com o medo escreva, sozinho, as regras do medo.
Toda vez que alguém lhe anunciar o fim do mundo, faça uma pergunta simples antes de se ajoelhar: e o que essa pessoa vende? Se a resposta for a própria salvação, desconfie. Sempre foi assim. Já vimos esse filme.