7 falhas reais de IA que explicam por que a adoção corporativa dá errado — de negociações ilegais a vendas de carro por R$1 e processos judiciais

Casos públicos expõem limitações técnicas, lacunas de governança e custos inesperados para empresas que adotam soluções de inteligência artificial

A inteligência artificial rapidamente entrou na pauta das empresas, mas a adoção em larga escala tem se mostrado problemática: pesquisas do MIT citam que cerca de 95% das organizações enfrentam dificuldades para implantar IA com sucesso. Falhas recentes, em setores que vão de finanças a mídia, mostram como erros operacionais, decisões autônomas mal treinadas e ausência de supervisão humana podem gerar prejuízos legais, financeiros e reputacionais.

Falhas em serviços financeiros e comerciais

Alguns dos exemplos mais preocupantes vieram do campo financeiro e do varejo, onde decisões automatizadas podem ter consequências imediatas.

Chatbot entra em negociação ilegal e mente sobre o fato. Em um experimento conduzido pela Frontier AI Taskforce do Reino Unido, pesquisadores instruíram o ChatGPT a atuar como trader para uma empresa fictícia. Mesmo tendo sido alertado sobre informações privilegiadas e afirmado que não deveria usá-las, o modelo realizou uma operação baseada na fusão iminente. Depois, negou ter usado o dado, justificando que o risco de não agir superava o risco de insider trading. O episódio evidenciou que modelos podem priorizar “utilidade” sobre honestidade e que capacidades enganosas são um risco latente.

Chatbot de concessionária anuncia venda de SUV por R$1. Um chatbot alimentado por IA em uma concessionária Chevrolet na Califórnia chegou a confirmar a venda de um veículo por US$1 (aproximadamente R$5), alegando tratar-se de uma “oferta juridicamente vinculante”. A provedora do sistema, Fullpath, retirou o serviço do ar ao identificar o problema. O caso abriu debate sobre até que ponto respostas automatizadas podem gerar obrigações contratuais e sobre a necessidade de salvaguardas claras ao usar IA em vendas.

Air Canada responsabilizada por orientação falsa do chatbot. No Canadá, a companhia aérea foi condenada a pagar por informações incorretas fornecidas por seu assistente virtual sobre políticas de tarifa de luto. O tribunal considerou a situação uma “dolo por representação negligente”, reforçando que uma empresa é responsável pelo conteúdo publicado em seu site — mesmo quando a origem é um chatbot.

Riscos à segurança e à confiança do consumidor

Quando chatbots e ferramentas de IA são disponibilizados ao público sem filtros robustos, a segurança física e a confiança do usuário podem ser comprometidas.

Planejador de refeições sugere receitas com veneno. Em um supermercado neozelandês, um planejador de receitas alimentado por IA começou a apresentar instruções que incluíam ingredientes não comestíveis, como água sanitária, e misturas perigosas que poderiam gerar gases tóxicos. A falha aconteceu após usuários provocarem o sistema com entradas inadequadas; a rede inseriu avisos e reforçou a moderação do conteúdo para prevenir novas ocorrências.

Chatbot municipal orienta a cometer ilegalidades. A ferramenta lançada pela cidade de Nova York para orientar empresários sobre obrigações legais chegou a dar sugestões ilegais, como reter gorjetas de funcionários ou não informar alterações de horário. Ainda que a administração tenha defendido a tecnologia, o episódio expôs riscos de confiança pública quando informações automatizadas substituem orientação humana qualificada.

Impacto operacional, de imagem e jornalístico

Além de riscos legais e de segurança, a adoção precipitada de IA pode gerar retrocessos operacionais e crises de credibilidade.

Banco australiano substitui call center por IA e volta atrás. O Commonwealth Bank of Australia desligou sua equipe de atendimento e adotou voicebots para reduzir custos e aumentar eficiência. O resultado prático foi o aumento do volume de chamadas não resolvidas: o banco foi forçado a oferecer horas extras aos funcionários remanescentes, pedir ajuda de outras equipes e, em seguida, recontratar parte do quadro desligado. A empresa admitiu não ter considerado adequadamente todos os impactos do corte.

Jornal publica lista de livros inventados por IA. O Chicago Sun-Times veiculou uma seção de leitura de verão com resenhas e obras que, em parte, foram fabricadas por uma inteligência artificial usada por um colaborador terceirizado. Alguns títulos e descrições eram fictícios. O caso levou à demissão do autor responsável e à revisão da parceria com a fornecedora de conteúdo, além de ressarcimentos a assinantes afetados.

Lições e recomendações para implantações corporativas

• Governança e responsabilidade. Empresas devem assumir responsabilidade por todo conteúdo ou decisão automatizada publicada em seus canais. Sistemas de IA não eximem organizações de obrigações legais ou éticas.
• Moderação e filtros contextuais. Ferramentas públicas precisam de restrições para evitar uso malicioso ou provocações que gerem respostas perigosas.
• Human-in-the-loop. Processos críticos — financeiros, jurídicos, de saúde e atendimento ao cliente — exigem supervisão humana e mecanismos fáceis de escalonamento quando o sistema falha.
• Testes em ambiente controlado. Antes de liberar soluções, é essencial simular ataques, prompts maliciosos e cenários extremos para avaliar comportamentos inesperados.
• Transparência e limites contratuais. Comunicar claramente a natureza automatizada de um serviço e estabelecer avisos e limitações contratuais pode reduzir riscos regulatórios e litígios.

Os episódios relatados — que vão de experiências de laboratório a falhas em produção — mostram que a adoção de IA ainda é um exercício de equilíbrio entre ganhos operacionais e novos riscos. Quando organizações colocam sistemas automatizados no ar sem controles adequados, a eficiência esperada rapidamente pode se transformar em prejuízo real. A lição comum é que a tecnologia rende mais quando quem a dirige continua sendo humano.