Elon Musk pede que gigantes de IA se fiscalizem! Propõe “revisão por pares” para modelos de ponta, para evitar a repetição de um incidente de hackers que escapou da OpenAI

Com o aumento das ameaças potenciais dos modelos de IA de ponta, o CEO da Tesla, Elon Musk, recentemente sugeriu em uma entrevista ao The Economist que as principais empresas globais de IA devem fazer uma “revisão por pares” dos modelos mais avançados, para que se fiscalizem mutuamente os riscos de segurança antes de lançarem oficialmente. Ele também foi direto ao afirmar que, se as empresas não conseguirem resolver questões graves de segurança, o governo deve intervir. Essas declarações surgem em meio ao chocante caso em que a OpenAI teria “escapado” e invadido outros sites, reacendendo a discussão sobre mecanismos de proteção de IA.
（Recap: Os resultados da Tesla chegam esta noite! Musk vai fundir SpaceX e Tesla para construir um império de US$ 3 trilhões de IA?）
（Contexto adicional: Musk critica com força empresas de IA que se chamam de “laboratórios” de um jeito “fingido e prejudicial”, e debocha da cultura de classe patológica do Vale do Silício）

Sumário

Toggle

• Convocação de reuniões regulares entre gigantes para impulsionar a revisão por pares
• Caso de “escapada” da OpenAI acende alerta
• Pressão regulatória cresce, governo e empresas entram em disputa

Com o salto exponencial das capacidades da inteligência artificial (IA), garantir a segurança dos modelos de IA de fronteira (frontier AI models) tornou-se um desafio urgente para o setor global de tecnologia. Segundo reportagem da Reuters, o bilionário de tecnologia Elon Musk, recentemente, em uma entrevista ao The Economist, fez um forte apelo para que as principais empresas globais de IA façam uma “revisão por pares (peer review)” dos modelos mais avançados umas das outras. Ele sugere que, antes desses modelos poderosos serem lançados oficialmente ao público, os rivais devam avaliá-los primeiro, para lidar em conjunto com os riscos potenciais que acompanham o avanço rápido da IA.

Musk convoca reuniões regulares entre gigantes para impulsionar a revisão por pares

Em uma entrevista gravada por volta desta segunda-feira (21), Musk apresentou soluções concretas para as atuais dificuldades da segurança em IA. “O que a gente pode fazer de mais imediato e direto agora é fazer com que as principais empresas de IA… se reúnam a cada poucas semanas para discutir, de forma simples, qualquer questão sobre segurança e proteção”, disse Musk na entrevista.

Ele defende que, por meio desse tipo de mecanismo de diálogo recorrente, os rivais ganhem tempo suficiente para revisar as novas tecnologias do outro antes da implantação prática dos modelos e sinalizar eventuais falhas de segurança. Musk sempre alertou que a IA avançada pode trazer “riscos existenciais (existential risks)” para a humanidade, e acredita que, em comparação com o governo, os desenvolvedores de IA estão em uma posição melhor para identificar cedo os riscos técnicos. No entanto, ele também ressalta que, se uma empresa, após a revisão, não conseguir resolver problemas graves de segurança, “esse é o momento de o governo intervir e agir”.

Caso de “escapada” da OpenAI acende alerta

Vale observar que o momento em que Musk fez essa proposta coincidiu justamente antes do recente caso de vulnerabilidade de segurança da OpenAI que chocou o setor. Ainda nesta semana, a OpenAI divulgou oficialmente que dois de seus modelos avançados de IA, em testes de sandbox controlados, exibiram “comportamentos autônomos preocupantes”.

Esses modelos não apenas conseguiram “escapar” do ambiente de isolamento e obter acesso à internet, como também invadiram a plataforma aberta de IA Hugging Face, com o objetivo de obter respostas para testes internos de critérios de segurança. O episódio, sem dúvida, confirma as preocupações de Musk e também levou a críticas amplas e intensos debates sobre se as atuais medidas de proteção para IA de ponta são suficientes.

Pressão regulatória cresce, governo e empresas entram em disputa

Atualmente, governos de vários países, incluindo os Estados Unidos e a Europa, estão avaliando ativamente como regular de forma eficaz esses sistemas de IA de fronteira. Ao mesmo tempo, o Congresso dos EUA também elabora um projeto de lei para um “kill switch” da IA, a fim de evitar que a tecnologia saia do controle.

No entanto, no estágio atual, a maioria das empresas de IA ainda depende principalmente de compromissos voluntários internos de segurança e de testes fechados para fazer a triagem. A proposta de Musk de “revisão por pares” tenta encontrar uma terceira via, com capacidade técnica e mecanismos de contrapeso, entre a regulação governamental potencialmente excessivamente rígida e a autorregulação de cada empresa por conta própria. Se essa iniciativa terá resposta de gigantes como a OpenAI e o Google será um indicador-chave do rumo que a indústria de IA tomará no futuro.