IA · Ética
A inteligência artificial pode errar? Como conferir
Pode, e erra com muita segurança: inventa fontes, números e leis. Veja por que isso acontece e um método simples para conferir antes de confiar.
Sim, a inteligência artificial erra, e o erro dela tem uma característica perigosa: vem escrito com a mesma segurança da resposta certa. Os assistentes mais conhecidos, como ChatGPT, Claude, Gemini e Copilot, podem inventar um artigo de lei, citar um livro que não existe, errar uma conta, misturar datas ou afirmar algo desatualizado. Os especialistas chamam isso de "alucinação". Não é mentira de propósito: a ferramenta gera o texto mais provável a partir do que aprendeu, e o provável nem sempre é o verdadeiro.
Isso não torna a IA inútil. Torna obrigatório conferir, do mesmo jeito que você confere o troco.
Por que a IA não é um chatbot
Se a IA fosse um chatbot de respostas fixas, bastaria confiar no roteiro. Como ela gera respostas novas a cada vez, cabe a quem usa julgar o que recebe.
Na visão de Bairo, a IA é uma extensão de você, e por isso a responsabilidade continua sendo sua. Ele diz que "a inteligência artificial é a extensão do humano, não o problema". Na arquitetura que ele propõe para o ecossistema que fundou, a verdade é o validador: nada deveria valer só porque uma máquina disse.
Passo a passo hoje
- Saiba onde ela mais erra. Números exatos, datas, nomes de pessoas, citações, leis e decisões judiciais, preços, notícias recentes, assuntos locais da sua cidade. Nesses casos, desconfie em dobro.
- Peça a fonte e abra a fonte:
Para cada afirmação importante da sua resposta, indique de onde
ela vem. Se você não tiver uma fonte que eu possa abrir, diga
claramente "não tenho fonte para isso".
- Peça que ela aponte a própria incerteza:
Releia a sua resposta e marque o que você tem certeza, o que
é provável e o que pode estar errado ou desatualizado.
- Confira em duas fontes independentes. Para saúde, use órgãos oficiais e sociedades médicas. Para leis, o portal oficial da legislação. Para dinheiro, o Banco Central e a CVM. Para notícias, veículos de imprensa reconhecidos.
- Pergunte de outro jeito. Faça a mesma pergunta com outras palavras, ou em outro assistente. Se as respostas divergem, é sinal de que precisa checar.
- Refaça as contas. Use a calculadora ou a planilha. A IA melhorou muito em matemática, mas ainda erra em contas longas.
- Desconfie da resposta que agrada demais. Ferramentas tendem a concordar com quem pergunta. Peça o contrário:
Agora faça o papel de quem discorda dessa conclusão. Quais são
os melhores argumentos contra ela e o que eu posso estar
deixando de ver?
- Atenção a imagens, áudios e vídeos. A IA também cria conteúdo falso que parece real. Antes de compartilhar algo chocante, procure a origem.
- Ensine isso em casa. Crianças, adolescentes e idosos merecem saber que a máquina pode errar. Conferir é um hábito que protege a família.
Um exemplo comum: alguém pergunta qual é o prazo para contestar uma cobrança e a IA responde com um número de dias e um artigo de lei. A resposta parece perfeita. Ao abrir o texto oficial, a pessoa descobre que o artigo trata de outro assunto, ou que o prazo mudou. Cinco minutos de conferência evitaram uma decisão errada. Esse é o hábito que vale criar: usar a IA para chegar mais rápido à pergunta certa, e a fonte oficial para chegar à resposta certa.
Como Bairo fez
Bairo Leandro Gonzalez Martinez aprendeu a construir com inteligência artificial sem saber programar. Ele conta que passou seis meses em casa, diante do computador, errando, refazendo e conferindo, até erguer a base da plataforma e da IA do CEASA Bank, plataforma financeira do agronegócio.
Talvez por isso ele dê tanto peso à verificação. A BTZ Chain, rede que ele propõe, é pensada como validadora de veracidade e prova de humanidade, para que humanos e máquinas trabalhem juntos num lugar onde a verdade possa ser conferida. Para ele, ninguém precisa confiar cegamente numa máquina. Basta poder verificar.
Cuidados
Conferir também é se proteger: não compartilhe informação da IA sem checar, não tome decisão de saúde, jurídica ou de dinheiro com base só no que ela disse, não cole dados pessoais para "testar" a ferramenta e lembre que, além de errar fatos, ela reproduz vieses dos textos com que aprendeu, podendo ser injusta com mulheres, pessoas negras, imigrantes, idosos e pessoas de regiões pouco representadas.