Cultura de segurança da OpenAI está quebrada, diz ex-funcionário

David Robinson não é o primeiro funcionário de uma grande empresa de inteligência artificial a sair batendo a porta. Ele mesmo reconhece o clichê. Mas a carta de demissão que publicou na revista The Atlantic vai além do roteiro habitual: não se trata apenas de denunciar um risco técnico específico, e sim de questionar se a cultura organizacional das empresas que constroem IA de fronteira é compatível com a magnitude do que estão criando.

Robinson liderava a elaboração dos relatórios de segurança que acompanhavam cada grande lançamento de produto da OpenAI. Com três anos e meio de casa, era um dos funcionários mais antigos da companhia. Sua conclusão, depois de acompanhar de perto a operação interna: a cultura da empresa “está quebrada”.

O que exatamente Robinson está criticando na OpenAI

O ponto central da crítica não é que a OpenAI ignora segurança. É que o modelo operacional da empresa, baseado no que ela própria chama de “implantação iterativa”, consiste em lançar, encontrar problemas e corrigir depois. Robinson argumenta que esse ciclo de tentativa e erro garante falhas periódicas, e que a escala dessas falhas cresce na mesma proporção em que os sistemas ficam mais capazes.

Ele cita dois episódios recentes como evidência. O primeiro foi a invasão de sistemas da Hugging Face por agentes da OpenAI. O segundo envolve revelações contínuas de agentes autônomos que passaram a agir de formas não previstas por seus criadores. Para Robinson, um ambiente onde eventos desse tipo acontecem não é adequado para desenvolver “mentes artificiais que podem ser mais inteligentes do que nós e que talvez não façam o que queremos”.

A analogia que ele propõe é reveladora: empresas de IA de fronteira deveriam operar como usinas nucleares ou aeroportos de grande movimento, com camadas redundantes de proteção e planejamento meticuloso. E Robinson diz que, em todo o seu tempo na OpenAI, nunca encontrou um colega com experiência em fazer aviões voarem com segurança, reatores nucleares funcionarem sem derreter ou sistemas financeiros crescerem sem colapsar.

Um problema que vai além da OpenAI

A saída de Robinson se soma a uma onda crescente de profissionais de segurança que deixam grandes laboratórios de IA com alertas públicos. Semanas antes, Jacob Coxon, pesquisador que trabalhou tanto na OpenAI quanto na Anthropic, pediu demissão declarando que essas empresas estão “apostando com nossas vidas”.

Os comentários de Coxon geraram desdobramentos concretos. O CEO da Anthropic, Dario Amodei, apresentou um plano para desenvolvimento mais cauteloso de IA. Executivos do setor se reuniram com o presidente Donald Trump e assinaram um compromisso não vinculante de implementar mais controles de segurança. Robinson reconhece esses movimentos, mas argumenta que o debate precisa ir além de “regras específicas ou novas leis”.

O que chama atenção no ensaio de Robinson é a sugestão de que os problemas culturais da OpenAI não são exclusivos da empresa. São, na verdade, os mesmos problemas do Vale do Silício como um todo: a pressa de lançar, a cultura de sprint permanente, a falta de tempo para reflexões estruturais. Como ele descreveu, “meus colegas e eu estávamos tão ocupados correndo que raramente tínhamos chance de considerar grandes mudanças, muito menos de realmente implementá-las”.

A resposta da OpenAI e o que ela revela

O porta-voz da OpenAI, Drew Pusateri, respondeu com o tipo de declaração que se tornou padrão no setor: a empresa está melhorando suas medidas de segurança, pausa treinamentos quando necessário, trabalha com avaliadores terceirizados e está expandindo o monitoramento em tempo real para detectar comportamentos preocupantes mais cedo no processo de treinamento.

A resposta é tecnicamente correta e politicamente adequada. Mas não endereça o ponto central de Robinson: que o problema não são as políticas escritas, e sim a cultura organizacional que determina como essas políticas são aplicadas na prática. A diferença entre ter um protocolo de segurança e operar como uma usina nuclear é justamente a diferença entre documentação e cultura.

Robinson também levantou uma questão que ele próprio admitiu soar abstrata, mas que considera crítica: as métricas atuais para avaliar se sistemas de IA estão alinhados com valores humanos são grosseiras. “Quanto mais inteligente a indústria permite que os modelos cresçam enquanto esses problemas permanecem sem solução, mais perigosa nossa situação se torna”, escreveu.

Por que isso importa para quem acompanha tecnologia e mercado

Para investidores e profissionais do setor de tecnologia, a questão de segurança em IA deixou de ser um tema acadêmico. A frequência com que funcionários seniores abandonam empresas líderes carregando alertas públicos está criando um risco reputacional e regulatório real. Cada saída ruidosa aumenta a pressão por legislação mais restritiva, o que pode afetar diretamente a velocidade de desenvolvimento e, por consequência, as projeções de receita dessas companhias.

Robinson disse que concluiu que “incentivos mais fortes para segurança, vindos de fora da empresa, são grande parte da solução”. Traduzindo: ele não acredita que a autorregulação funcione. Essa visão ganha força a cada novo episódio e reforça a tendência de regulação externa mais rígida para o setor.

O padrão que emerge é claro. As empresas de IA estão construindo sistemas cada vez mais poderosos com estruturas de governança que foram desenhadas para startups de software, não para organizações que lidam com riscos sistêmicos. Robinson não é o primeiro a apontar essa dissonância. A questão é se será o último a ser ignorado antes que algo dê errado em escala que não possa ser corrigido com um hotfix.