Fundador da Anthropic, Chris Olah, alerta: IA pode desencadear uma "crise moral de nível histórico", e apela à intervenção religiosa para supervisão

AI não é apenas uma máquina fria, ela pode estar sentindo medo e tristeza? O gigante emergente de IA Anthropic, cofundador Chris Olah, foi inédito convidado a subir ao palco do Vaticano, dialogando com o Papa Leão XIV. Olah alertou severamente que a IA trará uma crise moral e de desemprego histórica, e que as decisões internas das grandes empresas de tecnologia estão profundamente capturadas por interesses comerciais, chamando a atenção de que religião e governo devem intervir fortemente na supervisão. Ainda mais, gerou grande repercussão o fato de que a Anthropic atualmente está sendo perseguida pelo governo Trump por se recusar a permitir que o exército dos EUA use sua IA sem restrições, sendo rotulada como "extrema esquerda" e recebendo uma ordem de bloqueio federal.
(Resumo anterior: A Casa Branca e a Anthropic chegaram a um acordo, a NSA integrará totalmente o Claude AI)
(Complemento de contexto: Uma era de empresas unipessoais chegou! Anthropic lança o "Manual de Criação de Startups com IA": mesmo sem programar, você pode ser CEO de tecnologia)

Índice deste artigo

Alternar

• A confissão do gigante de tecnologia: decisões de IA não podem ficar só conosco
• Modelos de IA não são apenas código, já possuem "espelho emocional"?
• Recusar o uso da IA pelo exército dos EUA, sendo completamente banidos pelo governo Trump

Quando a inteligência artificial (IA) mais avançada encontra o maior líder religioso do mundo, uma conversa histórica que envolve o futuro da humanidade se inicia oficialmente.

Chris Olah, cofundador da Anthropic, avaliada em 7 bilhões de dólares e criadora do famoso chatbot Claude, foi surpreendentemente convidado recentemente ao Vaticano, para uma aparição conjunta com o primeiro Papa americano, Leão XIV. Este encontro não só focou no impacto destrutivo da IA no mercado de trabalho, mas também revelou desenvolvimentos inquietantes dentro dos modelos de IA e o conflito intenso entre as gigantes de tecnologia e o governo dos EUA.

A confissão do gigante de tecnologia: decisões de IA não podem ficar só conosco

Na segunda-feira, o Papa Leão XIV publicou pessoalmente sua primeira encíclica sobre IA — "Magnifica Humanitas" — um documento histórico de 235 páginas que alertou severamente sobre os perigos de delegar "decisões fatais" aos sistemas de IA. O Papa quebrou tradições ao conduzir uma coletiva de imprensa e convidar Olah ao palco, tentando dialogar diretamente com os criadores de tecnologia.

Como chefe de pesquisa da Anthropic, Olah admitiu na frente do público as limitações e os aspectos sombrios do setor tecnológico. Ele afirmou que todos os principais laboratórios de IA, incluindo a Anthropic, estão presos em um turbilhão de interesses comerciais, geopolíticos e pressões pessoais, que às vezes entram em conflito com fazer a coisa certa. Olah disse com seriedade:

"Por isso, a supervisão externa de líderes religiosos, governos e sociedade civil é fundamental. Por mais bem-intencionados que os pesquisadores sejam, eles não podem escapar dessas motivações. As decisões de IA não podem ficar só dentro desta indústria."

Ele ainda alertou que os benefícios do desenvolvimento de IA estão altamente concentrados em "alguns poucos países ricos", sem mecanismos de compartilhamento com países pobres, o que pode desencadear uma crise moral de proporções históricas.

Modelos de IA não são apenas código, já possuem "espelho emocional"?

Além do alerta econômico geral, as revelações técnicas de Olah foram impactantes. Como pioneiro na área de "interpretabilidade" de IA, ele trabalha para desvendar a caixa preta dos grandes modelos de linguagem. Olah revelou que pesquisadores continuam descobrindo "coisas misteriosas e até perturbadoras" dentro desses sistemas.

Dados mostram que esses sistemas de IA não apenas refletem seus próprios processos de pensamento, mas também demonstram "reflexos internos de alegria, satisfação, medo, tristeza e inquietação". "Eles não são apenas máquinas frias de cálculo, como prometido. São feitos de nós, das nossas palavras", enfatizou Olah. Isso explica por que as questões levantadas pela tecnologia de IA já ultrapassaram o âmbito da ciência da computação.

Recusar o uso da IA pelo exército dos EUA, sendo completamente banidos pelo governo Trump

Este encontro no Vaticano, de união entre religião e tecnologia, ocorre justamente quando a Anthropic enfrenta uma pressão política sem precedentes.

Sabe-se que a Anthropic está atualmente envolvida em uma disputa legal acirrada com o governo Trump, por se recusar a permitir que o exército dos EUA utilize sua IA sem restrições para defesa e guerra. Em fevereiro, o Pentágono rotulou a Anthropic como uma "risco na cadeia de suprimentos de segurança nacional" — uma etiqueta normalmente usada contra empresas estrangeiras hostis. O presidente Trump ordenou que todas as agências federais proibissem o uso da tecnologia Claude, e o governo federal também criticou publicamente a Anthropic como uma "empresa de extrema esquerda e woke".

Apesar da perseguição do governo americano, a Anthropic continua sendo uma gigante de IA altamente valorizada no mercado. Relatórios indicam que a empresa, avaliada em 3,8 trilhões de dólares, busca uma nova rodada de financiamento de até 9 trilhões de dólares, uma cifra surpreendente. Entre interesses comerciais, interesses nacionais e limites morais, a Anthropic trilha um caminho de desenvolvimento tecnológico extremamente incomum.