Equipe de IA da Google leva bronca de CEO. “Inaceitável”

Nesta terça-feira (28) à noite, Sundar Pichai, CEO do Google, abordou os erros de inteligência artificial da empresa em um memorando. Os erros, anteriormente noticiados pelo BlockTrends, resultaram na retirada temporária do recurso de geração de imagens Gemini para testes adicionais.

Pichai descreveu os problemas como “problemáticos” e afirmou que “ofenderam nossos usuários e demonstraram viés”, de acordo com o memorando. A notícia sobre a bronca do CEO foi inicialmente reportada pelo Semafor.

Erro ‘bobo’

O Google havia introduzido o gerador de imagens mais cedo neste mês por meio do Gemini, o principal grupo de modelos de IA da Google. A ferramenta permite que os usuários insiram comandos para criar uma imagem.

Faça parte da Comunidade Exclusiva PRO do BlockTrends.APP e lucre em cripto com relatórios semanais, análises diárias, carteiras recomendadas e lives.

Na semana passada, os usuários descobriram imprecisões históricas que se tornaram virais online, e a empresa retirou o recurso, planejando relançá-lo nas próximas semanas. Na realidade, a IA de imagens da Google somente gerava figuras históricas com “um pouquinho” mais de diversidade no prompt. A ferramenta inclusive representou soldados nazistas de cor de pele negra.

“Sei que algumas de suas respostas ofenderam nossos usuários e demonstraram viés — para ser claro, isso é completamente inaceitável e erramos”, disse Pichai. “Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que a expectativa para nós é alta.”

Além disso, o memorando de Pichai mencionou que as equipes têm trabalhado incansavelmente para resolver esses problemas. Ademais, acrescentou que a empresa vai implementar um conjunto claro de ações e mudanças estruturais, além de “processos de lançamento aprimorados” na IA da Google.

“Sempre buscamos fornecer informações úteis, precisas e imparciais em nossos produtos”, escreveu Pichai no memorando. “É por isso que as pessoas confiam neles. Esse deve ser nosso enfoque para todos os nossos produtos, incluindo nossos produtos emergentes de IA.”

Confira o memorando completo do CEO da Google:

“Quero abordar os problemas recentes com respostas problemáticas de texto e imagem no aplicativo Gemini (anteriormente Bard). Eu sei que algumas de suas respostas ofenderam nossos usuários e mostraram preconceito – para ser claro, isso é completamente inaceitável e erramos.

Nossas equipes têm trabalhado 24 horas por dia para resolver esses problemas. Já estamos vendo uma melhoria substancial em uma ampla variedade de solicitações. Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que a fasquia é elevada para nós e iremos mantê-la durante o tempo que for necessário. E revisaremos o que aconteceu e garantiremos que consertaremos em grande escala.

A nossa missão de organizar a informação mundial e torná-la universalmente acessível e útil é sacrossanta.

Sempre procuramos fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Esta deve ser a nossa abordagem para todos os nossos produtos, incluindo os nossos produtos emergentes de IA.

Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, avaliações robustas e equipes vermelhas, além de recomendações técnicas. Estamos analisando tudo isso e faremos as alterações necessárias.

Mesmo enquanto aprendemos com o que deu errado aqui, também devemos aproveitar os anúncios técnicos e de produtos que fizemos em IA nas últimas semanas. Isso inclui alguns avanços fundamentais em nossos modelos subjacentes, por exemplo. nossa descoberta de 1 milhão de janelas de longo contexto e nossos modelos abertos, ambos bem recebidos.

Sabemos o que é necessário para criar excelentes produtos que são utilizados e apreciados por milhares de milhões de pessoas e empresas e, com a nossa infraestrutura e experiência em investigação, temos um trampolim incrível para a onda da IA. Vamos nos concentrar no que é mais importante: criar produtos úteis que mereçam a confiança de nossos usuários.”

Potencialize sua jornada cripto na OKX. Junte-se a 60 milhões de usuários e acesse bots de trading de alto rendimento. Acesse: okx.com