Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, defenderam, nesta quarta-feira (23), uma maior cooperação internacional para lidar com os riscos associados ao avanço da inteligência artificial (IA) durante reunião do Conselho de Segurança das Nações Unidas (ONU).
Continua após a publicidade
A participação dos dois executivos ocorre um dia depois de o presidente dos Estados Unidos, Donald Trump, rejeitar o que chamou de um “esquema globalista” para controlar a IA durante discurso na Assembleia Geral da ONU. Trump afirmou que os EUA continuarão incentivando o desenvolvimento da tecnologia e que não pretende “frear” seu crescimento.
Na ONU, Altman apresentou posição diferente. Para o executivo, países que competem entre si e nem sempre mantêm boas relações podem trabalhar juntos diante de tecnologias capazes de produzir impactos significativos. “Acreditamos que este deve ser um desses momentos”, afirmou Altman, defendendo que a IA seja tratada como uma questão que exige cooperação internacional.
OpenAI e Anthropic se “unem” em prol de segurança da IA – Imagem: Thrive Studios ID/Shutterstock
Altman e Amodei se aproximam na questão da segurança
A posição conjunta dos executivos chama atenção porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA.
No início de setembro, Amodei publicou um texto defendendo que a indústria desacelere o ritmo de desenvolvimento dos modelos de fronteira. O CEO da Anthropic argumentou que o avanço das capacidades dos sistemas poderia superar a capacidade das empresas e dos governos de compreender e controlar seus riscos.
A proposta apresentada por Amodei envolve três frentes principais: permitir que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança; ampliar a coordenação entre companhias que desenvolvem modelos de fronteira; e estabelecer cooperação internacional para reduzir riscos associados à tecnologia.
Altman manifestou publicamente apoio à ideia de estabelecer um ritmo mais controlado para o desenvolvimento da chamada IA de fronteira.
A discussão ganhou força depois de uma série de episódios envolvendo modelos avançados e preocupações sobre sua capacidade de executar ações potencialmente prejudiciais.
A Reuters informou que executivos de OpenAI, Anthropic e Hugging Face participaram da sessão do Conselho de Segurança em meio a alertas de que sistemas cada vez mais avançados poderiam adquirir novas capacidades e representar riscos para a segurança internacional.
Trump rejeita a ideia de limitar o avanço da IA
As declarações de Altman e Amodei ocorreram um dia depois do discurso de Trump na Assembleia Geral da ONU.
O presidente estadunidense rejeitou propostas de criação de mecanismos internacionais para controlar o desenvolvimento da IA e afirmou que os Estados Unidos não deveriam impedir o crescimento da tecnologia. “Não vou impedir o crescimento de algo que será maior do que a Revolução Industrial”, disse Trump.
Continua após a publicidade
Trump também afirmou que os EUA rejeitam qualquer tentativa de criar um “esquema globalista” para controlar a IA. O presidente defendeu que o país continue avançando no desenvolvimento da tecnologia e afirmou que quem dominar primeiro essa área terá uma vantagem estratégica.
O governo estadunidense também passou a defender o uso do termo “superinteligência” em documentos oficiais em lugar de “inteligência artificial”.
A posição de Trump contrasta com as recentes manifestações de executivos de empresas de IA que defendem algum grau de coordenação para lidar com os riscos do desenvolvimento de modelos cada vez mais capazes.
Altman e Amodei foram uma só voz na ONU – Imagem: FotoField/Shutterstock
Leia mais:
- Vídeos falsos e IA superam fake news como ameaça à democracia, alerta novo guia do CGI.br
- Resumo do OD: enquanto ONU discute IAs, líderes do setor lançam novas tecnologias
- Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável
Continua após a publicidade
Debate envolve segurança e competição internacional
A discussão na ONU acontece em momento em que governos e empresas tentam definir como lidar com sistemas capazes de executar tarefas cada vez mais complexas.
A sessão do Conselho de Segurança foi organizada para discutir questões, como o uso malicioso da IA e a possibilidade de perda de controle sobre sistemas avançados. Além de Altman e Amodei, participaram ou foram convidados representantes da Hugging Face e especialistas ligados ao painel científico independente da ONU sobre IA.
O debate também envolve a competição tecnológica entre Estados Unidos e China. A busca por mecanismos de segurança precisa ser conciliada, na visão de diferentes participantes, com a preocupação de que regras excessivamente restritivas possam afetar o desenvolvimento e a competitividade das empresas.
A OpenAI, por exemplo, passou a defender a criação de padrões internacionais para avaliar capacidades e riscos de sistemas avançados e uma maior cooperação entre os Estados Unidos e a China em questões relacionadas à segurança da IA.
Continua após a publicidade
Pressão aumenta sobre as empresas de IA
As discussões ocorrem enquanto OpenAI e Anthropic avançam na expansão de seus negócios e se preparam para possíveis ofertas públicas de ações.
Nenhuma das duas empresas divulgou oficialmente uma data para uma eventual abertura de capital, embora as duas sejam apontadas como candidatas a realizar grandes IPOs.
Isso cria uma questão adicional para as companhias: ao mesmo tempo em que seus executivos defendem maior cautela no desenvolvimento da IA, as empresas estão submetidas a fortes pressões comerciais para continuar ampliando a capacidade de seus modelos.
Amodei, porém, afirma que desacelerar não significa interromper o desenvolvimento da tecnologia. A proposta apresentada pelo CEO da Anthropic busca criar mecanismos de avaliação e coordenação que acompanhem o ritmo de evolução dos modelos.
Na ONU, Altman resumiu a posição defendida pelas empresas ao argumentar que a cooperação internacional pode ser necessária mesmo entre países que permanecem competidores.
Continua após a publicidade
“Em nossa história, houve momentos em que países que competem e nem sempre gostam muito uns dos outros ainda assim se uniram por interesses compartilhados e pelo bem coletivo diante de uma nova tecnologia poderosa”, afirmou o CEO da OpenAI.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Ana Luiza Figueiredo
Ana Figueiredo é editora de tecnologia do Olhar Digital. É formada em Jornalismo pela Universidade Federal de Uberlândia (UFU).
Ver todos os artigos →
Tags: anthropic dario amodei Inteligência Artificial onu OpenAI Sam Altman
