Buterin critica IA na governança cripto após falhas e jailbreaks
Vitalik Buterin alerta que usar IA na governança cripto é arriscado. Jailbreaks podem manipular decisões e expor dados, tornando inadequado delegar funções críticas a modelos. O uso deve ser assistivo, com supervisão humana e controles rígidos.
Cofundador do Ethereum diz que modelos vulneráveis a jailbreaks não devem assumir decisões críticas em DAOs e protocolos.
Vitalik Buterin acendeu o alerta sobre o uso de inteligência artificial para conduzir a governança de projetos cripto. Segundo ele, delegar decisões de alto impacto a modelos de IA é arriscado, sobretudo após casos recentes indicarem que atualizações podem ser exploradas por jailbreaks capazes de induzir vazamento de dados privados.
O risco dos jailbreaks na tomada de decisão
Jailbreaks são técnicas que contornam salvaguardas de modelos de linguagem, levando-os a executar instruções que deveriam bloquear. Em um contexto de governança, isso abre espaço para manipulação de votos, exposição de informações sensíveis, execução indevida de propostas e captura de processos por agentes mal-intencionados. Mesmo sistemas com filtros, fine-tuning e checagens podem ser induzidos a comportamentos inesperados.
Impacto sobre DAOs e protocolos
DAOs e protocolos que cogitam automatizar curadoria, moderação, análise de propostas ou alocação de tesouraria com IA enfrentam um vetor adicional de ataque. Um modelo comprometido pode favorecer propostas, enviesar recomendações e quebrar confidencialidade, com efeitos irreversíveis em sistemas on-chain. A superfície de ataque cresce quando a IA opera com acesso ampliado a dados e chaves de execução.
Caminho prudente: IA assistiva, não decisória
O recado é adotar IA como ferramenta auxiliar, mantendo verificação humana, limites de escopo e trilhas de auditoria. Antes de qualquer automação crítica, é essencial realizar testes de estresse, auditorias independentes, avaliações de segurança focadas em prompt injection e políticas de minimização de dados. Em última instância, decisões sensíveis devem permanecer sob governança humana, com controles de multisig e quóruns robustos.
Para um ecossistema que preza por transparência e imutabilidade, a dependência de modelos suscetíveis a jailbreaks introduz um grau de incerteza incompatível com a segurança esperada de infraestruturas financeiras descentralizadas.
