Ferramentas de IA generativa como o ChatGPT ou o Gemini estão mudando a forma como buscamos informações. Mas junto com os avanços vieram as falhas — e elas não são poucas. De respostas hilárias (como receitas com pedras ou cola) a erros graves que causaram demissões e prejuízos, a IA vem mostrando que é perfeitamente capaz de mentir com confiança.

O problema é conhecido até por quem trabalha com tecnologia. O investidor Brad Feld, por exemplo, viu um chatbot inventar que ele fazia parte de um conselho empresarial — e, quando confrontado, a IA respondeu com um link falso para um artigo inexistente no blog pessoal do próprio Feld. Situações semelhantes já afetaram psiquiatras, programadores e advogados, com casos documentados de estudos fictícios e decisões judiciais baseadas em citações falsas.

Sabemos que a IA erra, mas continuamos acreditando

Apesar de todas essas falhas, uma nova pesquisa do site Exploding Topics mostra que a maioria dos usuários continua confiando demais nas respostas geradas por IA. Dos mil entrevistados, quase 75% disseram já ter tido problemas com resumos de IA nos resultados do Google, e 42% apontaram “informações imprecisas ou enganosas” como o principal problema.

Ainda assim, apenas 8% das pessoas sempre verificam as fontes apresentadas pela IA. Outros 40% afirmaram que raramente ou nunca clicam nos links sugeridos. Em outras palavras, mesmo reconhecendo os erros, os usuários continuam usando IA como se ela fosse confiável — e isso pode custar caro.

O impacto disso nos negócios

Para empreendedores e gestores, essa realidade acende um sinal vermelho. Se seus clientes estão tomando decisões com base em resumos de IA — e provavelmente estão —, é essencial saber o que essas ferramentas estão dizendo sobre você.

Claire Broadley, editora do Exploding Topics, alerta: “As empresas não podem mais depender de que os usuários vão ler o conteúdo completo ou checar fontes. Elas precisam otimizar para a visibilidade nas respostas de IA. Caso contrário, correm o risco de deixar que o Gemini ‘ligue os pontos’ por conta própria.”

É um convite à ação: pesquise sua empresa no Google e veja o que a IA está dizendo. O resumo reflete corretamente sua proposta de valor? Ou há erros que podem espantar potenciais clientes?

A responsabilidade é de todos

O maior ensinamento, porém, é antigo: confie, mas verifique. IA pode ser uma grande aliada em produtividade e insights, mas confiar cegamente nos resultados pode gerar erros, constrangimentos e até prejuízos sérios.

Como resume Brad Feld, “há uma diferença entre estar errado e mentir”. E a IA, mesmo quando não intencionalmente, faz as duas coisas com frequência.

Se você usa IA no dia a dia do seu negócio, estimule sua equipe a checar os links, verificar as fontes e adotar uma postura crítica. Num mundo onde mais de 90% das pessoas ainda não fazem isso, ser criterioso pode se tornar sua maior vantagem competitiva.