IA do Google recomenda que grávidas fumem e dieta de uma pedra por dia
A nova ferramenta de IA do Google é integrada ao mecanismo de busca, e responde aos usuários baseado em páginas da internet.
A inteligência artificial (IA) do Google viralizou na internet nos últimos dias. Contudo, não foi por um bom motivo. Na realidade, a IA do Google está alucinando em diversas respostas, e já até recomendou que grávidas fumem de 2 a 3 cigarros por dia.
A nova ferramenta de IA do Google é integrada ao mecanismo de busca, e responde aos usuários baseado em páginas da internet. Contudo, por algum motivo, a base de dados não tem o melhor dos filtros. Algumas respostas estão ganhando a internet.
Entre elas, a IA do Google afirma que é normal que baratas entrem dentro de pênis humano durante a noite, e que o órgão masculino servir como moradia dos bichinhos é algo mais do que natural. Não somente, a IA do Google afirma que em um ano cerca de 5 a 10 baratas moram dentro dos homens.
Portanto, além de alucinar nas respostas, a IA do Google elabora a loucura e tenta argumentar sobre o tema. Em outro exemplo, um usuário pergunta sobre fumar durante a gravidez.
A resposta da IA é objetiva. Segundo a IA do Google, os médicos recomendam que grávidas fumem de dois a três cigarros ao dia. Ademais, em outro exemplo a IA recomenda uma dieta de uma pedra por dia.
Google diz estar trabalhando nisso
O curioso é que, nos dias que as respostas absurdas viralizaram na internet, o Google anunciou estar trabalhando em uma espécie de punição para seu modelo de linguagem que evitaria justamente as alucinações.
Portanto, em postagem no Blog, a empresa reconhece que a confiabilidade na implantação de IAs no mundo real pode passar por problemas pela questão da “alucinação”. As alucinações ocorrem quando alguns modelos de linguagem geram informações plausíveis, mas não factuais.
“As alucinações tendem a ocorrer com mais frequência quando os LLMs são questionados com perguntas abertas que exigem basear-se em amplo conhecimento mundial. Isto representa riscos em domínios que exigem elevada precisão factual, como reportagens noticiosas e conteúdos educativos”, afirma o próprio Google.
