Google pede desculpas por inserir “diversidade” em prompts de imagens sobre soldados nazistas

Nesta quinta-feira (22), o Google anunciou a pausa de sua funcionalidade de geração de imagens por inteligência artificial, Gemini. O movimente se deu após identificar “inexatidões” em imagens históricas, ou basicamente gerar soldados nazistas negros, asiáticos e de outras etnias.

Nesse sentido, usuários nas redes sociais haviam reclamado que a ferramenta de IA gerava imagens de figuras históricas de modo impreciso. Além do primeiro exemplo, os Pais Fundadores dos EUA como pessoas de cor, considerando isso impreciso.

O Google, em uma postagem no X na quarta-feira, declarou que a funcionalidade de IA pode “gerar uma ampla gama de pessoas. E isso geralmente é algo bom, pois pessoas ao redor do mundo a utilizam.”

No entanto, admitiu que a funcionalidade estava “errando o alvo aqui”, acrescentando que a empresa está “trabalhando para melhorar imediatamente esses tipos de representações.”

Google vai pausar funcionalidade

Em uma declaração atualizada na quinta-feira, o Google informou que pausará a funcionalidade do Gemini de gerar imagens de pessoas e lançará uma versão “melhorada” em breve.

A ferramenta de geração de imagens foi lançada no início de fevereiro por meio do Gemini, anteriormente conhecido como Bard. Ela enfrenta desafios em um momento em que o Google tenta alcançar a OpenAI, apoiada pela Microsoft.

Enquanto o Google enfrenta problemas com a criação de imagens do Gemini, a OpenAI lançou na semana passada o Sora, seu novo modelo de IA generativa capaz de produzir vídeo a partir de prompts de texto dos usuários.

Jack Krawczyk, diretor sênior de produto para o Gemini no Google, disse na quarta-feira que as capacidades de geração de imagem da empresa refletem a “base de usuários global” da empresa e que leva “a representação e o viés a sério.”

“Continuaremos a fazer isso para prompts abertos (imagens de uma pessoa passeando com um cachorro são universais!)”, disse Krawczyk em uma postagem no X. “Contextos históricos têm mais nuances e vamos ajustar ainda mais para acomodar isso.”

O Google lançou o Gemini, seu modelo de IA mais avançado, no final de 2023. Neste mês, também renomeou o Bard, seu concorrente do ChatGPT, para Gemini. Além disso, lançou um serviço de assinatura para uma versão mais poderosa do modelo de IA.