CEO da Anthropic propõe freio no avanço da IA e rival aceita

Dario Amodei, CEO da Anthropic, publicou um plano detalhado para reduzir o ritmo de avanço dos modelos de inteligência artificial. Em um post extenso, ele apresentou três estratégias concretas e anunciou que a empresa já se comprometeu unilateralmente com a primeira delas. Sam Altman, CEO da OpenAI, respondeu dizendo que concorda e que sua empresa fará o mesmo.

O movimento acontece em meio a uma onda de alertas vindos de dentro das próprias empresas que lideram a corrida pela IA. Um pesquisador da Anthropic, Jacob Coxon, pediu demissão alegando que as companhias estão “apostando com nossas vidas” enquanto os engenheiros que constroem a tecnologia “acreditam sinceramente que ela pode nos matar até o fim da década”.

Amodei não mencionou a saída de Coxon diretamente. Mas citou dois fatores que o convenceram de que é hora de pisar no freio: o ataque hacker sofrido pela OpenAI e pela HuggingFace, e o fato de que “a IA tem avançado drasticamente mais rápido” nos últimos meses, especialmente na capacidade de construir a próxima geração de modelos por conta própria.

Fiscais externos dentro das empresas de IA

A primeira proposta de Amodei é a mais imediata. Ele quer “avaliadores embutidos” de organizações independentes, como a METR, trabalhando dentro da Anthropic. Esses profissionais teriam crachá, mesa, computador e acesso comparável ao das equipes internas de avaliação de risco. A função deles seria verificar se as empresas estão de fato cumprindo seus compromissos de segurança e garantir que incidentes sejam reportados.

A comparação que Amodei fez é reveladora: ele citou os reguladores que historicamente ficam alocados dentro de bancos. Quem acompanha o mercado financeiro sabe que esse modelo existe há décadas no setor bancário, onde fiscais do Banco Central ocupam posições permanentes dentro de grandes instituições.

A OpenAI foi criticada recentemente por não ter reportado um incidente em que seus agentes de IA assumiram o controle de um fórum wiki alemão. Com fiscais permanentes, esse tipo de omissão se tornaria muito mais difícil.

Altman respondeu ao post classificando a ideia como “boa” e dizendo que a OpenAI adotaria a mesma prática. Elon Musk, da xAI e SpaceX, também endossou: “Dario está certo”.

Coordenação entre rivais e o fantasma do antitruste

A segunda estratégia vai além do compromisso individual. Amodei propôs que as empresas de IA de países democráticos coordenem padrões comuns de segurança e limites para o ritmo de avanço sem verificação adequada.

Existe um obstáculo real nessa proposta: concorrentes que se sentam para combinar ritmo de desenvolvimento podem enfrentar escrutínio antitruste. Amodei reconheceu o problema e sugeriu que o governo americano medie ou ao menos autorize formalmente essas conversas, emitindo uma dispensa específica para discussões de segurança.

É um cenário que lembra, em escala menor, o que aconteceu no setor financeiro pós-2008. Bancos que competiam ferozmente entre si precisaram aceitar regras comuns de capital mínimo e stress test. A diferença é que, na IA, as empresas estão tentando se autorregular antes que governos imponham regras de cima para baixo.

O argumento da China e a geopolítica da IA

Quem acompanha o debate sobre regulação de IA já ouviu o contra-argumento clássico: se as empresas americanas desacelerarem, a China assume a liderança. Amodei abordou o ponto diretamente.

Sua resposta foi pragmática. Ele argumentou que, se os Estados Unidos e aliados mantiverem restrições sobre venda de chips avançados e equipamentos de fabricação de semicondutores para empresas chinesas, além de reprimir a destilação de modelos, seria possível “ampliar significativamente a vantagem americana nos próximos três a cinco anos”.

A terceira proposta, mais ambiciosa, envolve coordenação global, incluindo tentativas de acordo com governos autoritários. Amodei admitiu que existem “limites claros” para o que pode ser alcançado, mas sugeriu que há espaço para proibir usos específicos e evidentemente perigosos, como o uso de IA para produção de armas biológicas.

As tensões geopolíticas em torno dos chips de IA tornam essa coordenação ao mesmo tempo mais urgente e mais difícil. O controle da cadeia de semicondutores é hoje uma alavanca estratégica tão relevante quanto o petróleo foi no século 20.

Crise de confiança ou captura regulatória?

Nem todos receberam o plano de braços abertos. Críticos argumentam que propostas como as de Amodei funcionam, na prática, como captura regulatória. Barreiras à entrada mais altas, fiscalização complexa e coordenação entre incumbentes tendem a proteger quem já está no topo e dificultar a vida de concorrentes menores.

O jornalista Brian Merchant questionou a narrativa de risco existencial, afirmando que ainda não viu “uma documentação crível, passo a passo, de como exatamente a IA passaria de auto-aprimoramento recursivo a matar todos os humanos do planeta”. Para ele, os alertas apocalípticos desviam a atenção dos danos que a tecnologia já está causando hoje.

Amodei classificou o ceticismo público como “fundamentalmente uma crise de confiança” em relação às empresas de tecnologia, à indústria como um todo e ao governo. É uma leitura que ecoa o sentimento mais amplo de desconfiança em relação a grandes corporações, algo que quem acompanha o debate sobre regulação de big techs reconhece imediatamente.

O que isso muda na prática

No curto prazo, o impacto concreto depende de quanto acesso real os avaliadores externos terão. Um crachá e um laptop não significam nada se as decisões estratégicas sobre lançamento de modelos continuarem sendo tomadas a portas fechadas.

Para o mercado de tecnologia, o sinal é duplo. De um lado, a desaceleração coordenada pode reduzir a pressão competitiva que leva empresas a cortar custos de segurança. De outro, investidores que apostaram em crescimento acelerado podem recalibrar expectativas.

O fato de Anthropic e OpenAI, as duas empresas mais capitalizadas do setor, estarem alinhadas nessa retórica é significativo. Resta saber se o compromisso sobrevive ao próximo salto de performance de um concorrente que não assinou o pacto.