O debate sobre segurança que acendeu quando os denunciantes internos alertaram na semana passada de que a IA mais avançada representa uma ameaça existencial à humanidade deve vir com um aviso de saúde: entre os efeitos colaterais está o tontura por movimento brusco. Foi apenas há sete dias que entusiastas da IA brincavam alegremente com o novo modelo GPT-6 Astra da OpenAI, que foi comercializado em parte como uma ferramenta de estilo de vida para ajudar as pessoas a reservar quadras de tênis, gerenciar empresas de moda e fazer pedidos de comida.
Ata quarta-feira, a IA de ponta começou a parecer muito menos atraente quando o pesquisador da Anthropic em processo de demissão, Jacob Coxon, alertou que 'as pessoas que constroem a IA acreditam sinceramente que ela poderá nos matar todos até o final desta década'. Sim, ele estava falando sobre inteligência artificial superinteligente – uma versão ainda inexistente da tecnologia que supera os humanos na maioria dos domínios –, mas seus comentários e o coro de especialistas que ecoaram suas palavras abalaram muitos nervos.
Outro movimento brusco ocorreu quando a Anthropic revelou que havia encontrado usuários contornando controles para usar seus modelos existentes 'de maneiras que poderiam apoiar o desenvolvimento de armas biológicas' – pense em vírus novos transmitidos por mosquitos ou aves. Tudo isso foi suficiente para fazer legisladores em Londres e Washington exigirem freios e proibições sobre os tipos mais perigosos de desenvolvimento de IA.
E então, neste fim de semana, outra virada brusca na forma de um plano de três pontos do chefe da Anthropic, Dario Amodei, para 'regular a fronteira'. Não importa que seus próprios funcionários tenham semeado o pânico nas margens apenas alguns dias antes: Amodei estava aqui para nos salvar dos medos de um Armagedom da IA, mas não antes de seu próprio alerta picante de que a taxa acelerada de capacidades significava que uma enxurrada de agentes de IA 'poderia ser capaz de assumir todo o internet' em seis a 12 meses. Céticos duvidaram dessa afirmação, mas foi suficiente para alguns declararem que era um momento 'código vermelho'.
Em sinais de que uma desaceleração coordenada pode não ser apenas conversa, algumas das ideias precaucionais de Amodei rapidamente atraíram apoio de seus rivais – Sam Altman na OpenAI e Elon Musk na SpaceX. Talvez houvesse motivos para ter esperança após uma semana turbulenta: pelo menos as empresas de IA estavam falando sobre uma desaceleração antes que alguém fosse seriamente ferido.
Em suma, Amodei propôs três medidas. Primeiro, cada empresa de IA dos EUA concede acesso contínuo a avaliadores de terceiros incorporados para verificar o cumprimento dos compromissos de segurança, relatar incidentes e garantir que novos modelos de IA não estejam desalinhados. Até agora, tais órgãos de fiscalização só foram convocados a pedido das empresas ou receberam acesso limitado aos sistemas para investigar quando as coisas dão errado. Na ausência de qualquer regulador independente em nível governamental, isso é um começo.
Segundo, ele quer que todas as empresas em países democráticos que desenvolvem modelos de IA de fronteira estabeleçam padrões de segurança comuns, bem como limites à taxa de progresso da IA não supervisionada.
Terceiro, as potências democráticas de IA do mundo coordenariam com autocracias – notadamente a China – para controlar a corrida. Este é provavelmente o passo mais difícil. Amodei sugeriu que um primeiro passo poderia ser um acordo restrito proibindo usos obviamente perigosos da IA, como para a produção de armas biológicas. O encontro de Donald Trump com Xi Jinping em Washington DC em 24 de setembro testará as perspectivas de qualquer coordenação sino-americana.
Um problema político imediato é que Donald Trump parece relutante em admitir quaisquer medos relacionados à IA. O plano de Amodei exige ação do governo dos EUA e Trump disse na semana passada que não tinha preocupações sobre a IA levar à extinção humana. Ele insistiu ainda mais no domingo, dizendo que as pessoas estavam 'levando adiante coisas que não vão acontecer'. Perder para a China parece ser uma maior preocupação no cálculo de Trump sobre IA.
"Não há amanhã se a China vencer nisso," disse Scott Bessent, secretário do tesouro dos EUA, na semana passada. "Se eles nos superarem em IA, então nada mais importará."
Pessoas próximas de Trump também se perguntam por que Amodei e os demais líderes da IA não avançam sozinhos no desenvolvimento da IA.
"A maneira mais fácil de não construir superinteligência é você concordar em não construí-la," disse David Sacks em resposta ao blog de Amodei. Sacks é co-presidente do conselho de consultores de Trump sobre ciência e tecnologia.
pule a promoção da newsletter
Newsletter gratuita | Todos os dias úteis
Inscreva-se no Business Today
Prepare-se para o dia de trabalho – indicaremos todas as notícias e análises de negócios que você precisa todas as manhãs
"Exigir seu quadro regulatório preferencial como preço disso parecerá chantagem ao público e ao sistema político," disse ele a Amodei.
Outra crítica à chamada de Amodei para o "pacing" do progresso da IA, permitindo que medidas de segurança e guardrails acompanhem, veio do Prof Stuart Russell, um dos principais especialistas em IA do mundo. Amodei propôs uma desaceleração para liberar tempo para avanços nos sistemas que mantenham as IAs alinhadas aos interesses humanos. Mas Russell disse que isso era 'completamente ao contrário'.
'Não basta definir apenas uma taxa de progresso mais lenta para as capacidades e depois esperar que isso forneça tempo suficiente para garantir a segurança', disse ele. 'Definimos os requisitos de segurança e o progresso adicional ocorre apenas quando eles são atendidos.', Imagine se uma empresa farmacêutica dissesse: 'Vamos lançar um novo medicamento contra o câncer todos os anos, e esperamos que isso forneça tempo suficiente para que algumas ensaios clínicos sejam concluídos e para que os resultados sejam bons.''
Especialistas em IA que não trabalham nos grandes laboratórios também estavam céticos quanto a um plano para uma estrutura regulatória global para IA elaborado pelo líder da empresa de IA mais valiosa do mundo.
'Muito pouco, muito tarde', disse David Krueger, professor de IA, ativista pela segurança e ex-diretor fundador do Instituto de Segurança de IA do governo do Reino Unido. Ele acrescentou: 'Precisamos de uma moratória imediata, indefinida e internacional sobre o desenvolvimento de IA de fronteira.'
