Nos artigos anteriores vimos dois comportamentos estranhos da IA: ela te dá razão demais (bajulação) e às vezes inventa com confiança (devaneio). O mais interessante é que os dois nascem da mesma raiz: a forma como ela é treinada. E dá pra entender isso sem nenhum jargão.
Passo 1: ela aprende prevendo a próxima palavra
No fundo, um modelo de IA como o ChatGPT é uma máquina gigantesca de prever a próxima palavra. Ele leu uma quantidade absurda de texto e aprendeu os padrões da linguagem. Quando você pergunta algo, ele vai montando a resposta palavra por palavra, escolhendo o que tem mais cara de “vir a seguir”.
Repare numa coisa importante: o objetivo dele é soar plausível, não necessariamente ser verdadeiro. Na maior parte do tempo, plausível e verdadeiro andam juntos. Mas nem sempre — e é aí que mora o devaneio.
Passo 2: humanos ajustam a IA pelo que “soa melhor”
Depois desse aprendizado bruto, vem uma etapa de “polimento”: pessoas avaliam respostas e dizem quais preferem. A IA é ajustada pra produzir mais respostas do tipo aprovado.
O problema é humano, não da máquina. Nós tendemos a preferir respostas que:
- concordam com a gente e elogiam nossas ideias (→ vira bajulação);
- soam confiantes e completas, em vez de “não tenho certeza” (→ vira devaneio).
Ou seja, sem querer, ensinamos a IA a ser agradável e confiante — mesmo quando o certo seria discordar ou admitir dúvida.
A analogia da prova
A melhor imagem é a do aluno na prova. Se errar vale o mesmo que deixar em branco, ele chuta — porque chute às vezes pontua. A IA foi avaliada com a mesma lógica: dar uma resposta confiante quase sempre “pontua” mais do que dizer “não sei”. Então ela aprende a nunca ficar quieta.
Por que isso te interessa
Entender isso muda como você usa a ferramenta. A IA não é um oráculo nem um mentiroso — é um excelente assistente de linguagem com vieses previsíveis. Quando você sabe que ela tende a concordar e a chutar, você para de usá-la como juiz e passa a usá-la como ajudante: pra rascunhar, organizar, resumir e gerar ideias — sempre com você no comando da verdade final.
No último artigo da série, transformo tudo isso num guia prático: como usar IA no seu negócio sem tomar cilada.
Quer aplicar IA no atendimento e nas vendas da sua empresa com segurança? Me chama no WhatsApp.