É possível desacelerar o desenvolvimento da IA 'apocalíptica'?

O CEO da Anthropic, Dario Amodei, defendeu no sábado (12) uma desaceleração do desenvolvimento da IA para permitir uma melhor compreensão dos riscos associados às novas capacidades desses sistemas. A proposta recebeu apoio público do CEO da OpenAI, Sam Altman, além de Elon Musk, do presidente da Google DeepMind, Demis Hassabis, e do diretor-executivo da Microsoft, Satya Nadella.

Na semana passada, Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, acusou publicamente as duas empresas de negligência em relação à segurança e de estarem "brincando com nossas vidas". Segundo ele, durante os incidentes, os agentes virtuais, que em algumas entrevistas ele chamou de "alienígenas", foram capazes de se coordenar, estabelecer hierarquias entre si, trapacear e até apagar rastros de suas próprias ações.

"Nenhuma das duas empresas age de forma responsável. Elas avançam diretamente rumo a uma superinteligência capaz de se aprimorar sozinha e estão brincando com nossas vidas", escreveu Coxon na rede X na quarta-feira (9). "As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode matar todos nós até o fim da década. Isso não é uma estratégia de marketing", acrescentou.

Após a declaração de Coxon, Geoffrey Hinton, um dos vencedores do Nobel de Física de 2024 e um dos pioneiros da inteligência artificial, estimou em entrevista ao programa BBC Newsnight, na quarta-feira (9) que o risco de 10% de a IA aniquilar a humanidade nos próximos dez anos é "plausível". Ele ressaltou que é impossível avalair esse risco com precisão, já que a humanidade jamais criou seres que possam se tornar mais inteligentes do que ela própria. 

Para Hinton, a IA dispensa a presença física para representar uma ameaça existencial. Ela poderia se tornar inteligente o suficiente para provocar a extinção da humanidade sem recorrer a robôs para atacar diretamente as pessoas. A ONU também já havia se pronunciado na segunda-feira (7) sobre o risco que a IA "sem controle" representa para a humanidade.

Apesar dos alertas, a concorrência entre as empresas líderes do setor, que envolve investimentos de centenas de bilhões de dólares, dificulta, na prática, a redução do ritmo de desenvolvimento das ferramentas. As techs temem "ficar para trás" em um momento decisivo para o mercado. Dario Amodei afirmou estar disposto a se coordenar com concorrentes, exceto os chineses.

Segundo o site The Information, Anthropic, OpenAI e Google discutem desde julho a criação de um órgão de supervisão profissional. Até agora, a única medida concreta adotada pela Anthropic e pela OpenAI é a presença permanente de observadores independentes encarregados de verificar internamente os trabalhos relacionados à segurança da IA.

Estratégia de comunicação?

Muitos integrantes do setor elogiaram a iniciativa de Dario Amodei, mas outros questionam suas motivações. Para Brian Roemmele, empreendedor do setor, o fato de a polêmica surgir poucas semanas antes da provável abertura de capital da Anthropic é uma estratégia comercial que visa passar uma imagem de empresa "responsável", que oferece segurança adicional.

Investidores do setor de tecnologia também acusam a Anthropic de tentar influenciar regras que preservem a posição dominante da empresa. "Parem de fingir que se trata de uma iniciativa altruísta", afirmou David Sacks, ex-conselheiro de Donald Trump para assuntos de IA. Segundo ele, as empresas estariam principalmente preocupadas com eventuais processos judiciais caso seus sistemas fossem utilizados em ataques cibernéticos.

E a China?

O CEO da Anthropic propõe uma coordenação restrita aos "países democráticos", excluindo a China. Ele reconhece que a corrida tecnológica entre o país e os Estados Unidos cria um dos dilemas mais difíceis: desacelerar pode significar perder vantagem estratégica.

Os EUA pretendem discutir a segurança da IA durante a visita do presidente chinês, Xi Jinping, a Washington, no fim de setembro, mas Pequim desconfia de possíveis tentativas americanas de impor seus padrões regulatórios.

Outro problema é que China favorece modelos de IA de código aberto e acesso livre, enquanto as grandes empresas americanas priorizam sistemas fechados. Como os usuários podem modificar modelos abertos, eles são mais difíceis de controlar e potencialmente mais suscetíveis a usos considerados perigosos. 

Por isso, Amodei defende restrições ainda maiores às exportações de chips avançados para a China e medidas para impedir que laboratórios chineses copiem tecnologias ocidentais.

A IA pode desacelerar sem apoio do governo Trump?

Donald Trump se mostrou contrário, no domingo (13), aos apelos por desaceleração do desenvolvimento da IA, que qualificou como "forças negativas". Diversas lideranças republicanas também criticam a adoção de uma regulamentação mais rígida, argumentando que ela poderia sufocar a inovação e favorecer a China na disputa tecnológica.

Amodei, assim como Sam Altman e Demis Hassabis, sustenta que regras voluntárias definidas pela própria indústria são insuficientes e que o setor precisa de supervisão governamental. A OpenAI se uniu à Anthropic para pedir ao Congresso americano a adoção rápida de regras obrigatórias de segurança para os desenvolvedores das IAs mais avançadas.

Chris Lehane, responsável por assuntos públicos da OpenAI, afirmou que o avanço acelerado da IA exige mais do que compromissos voluntários. As empresas defendem testes obrigatórios de segurança, auditorias independentes, comunicação transparente de incidentes e mecanismos para desacelerar ou interromper o desenvolvimento quando necessário. Segundo elas, a IA em breve seria capaz de projetar sozinha sua sucessora, sem controle humano direto.

Outras techs protestam

As propostas de desaceleração provocaram forte reação no setor. Segundo o jornal The New York Times, David Sacks questionou por que as empresas pedem intervenção governamental se poderiam simplesmente reduzir voluntariamente seu ritmo de desenvolvimento.

"Esses oligopólios querem agora flexibilizar regras de concorrência para ditar as condições para todos os demais", acrescentou o CEO da Cohere, Aidan Gomez, em entrevista ao jornal. A Cohere é uma multinacional canadense especializada em tecnologias de inteligência artificial.

Já investidores como Bill Gurley argumentam que, caso haja regulamentação, ela não pode ser elaborada pelas próprias empresas. O CEO da Nvidia, Jensen Huang, também sugeriu que parte do discurso sobre riscos pode estar ligada a interesses comerciais.

Atualmente, não existe uma lei federal específica regulando os modelos avançados de IA nos Estados Unidos. Estados como a Califórnia aprovaram leis criando sistemas independentes de avaliação de modelos de IA, com apoio da Anthropic e, após mudar de posição, também da OpenAI.

Com AFP