Há semanas uma notícia discreta mudou a forma como bancos e plataformas lidam com fraudes: uma empresa de defesa contra golpes está treinando sua IA com relatos reais de vítimas e com orientação de profissionais de saúde mental. A ideia é simples e desconfortável: golpes não são só códigos, são explorações de vulnerabilidades emocionais.
Isso não é experimento acadêmico. O esforço combina padrões comportamentais extraídos de casos de fraude com conhecimentos clínicos para identificar quando alguém está sendo manipulado — antes da perda financeira. É uma mudança de perspectiva: em vez de olhar apenas para sinais técnicos (IP, transações, dispositivos), os sistemas passam a detectar sinais psicológicos de coerção, isolamento ou urgência induzida.
Do ponto de vista prático, há dois riscos e duas oportunidades. Riscos: 1) confiança excessiva em modelos que podem errar em contextos culturais diversos; 2) privacidade e consentimento ao usar relatos sensíveis no treinamento. Oportunidades: 1) respostas mais humanas que interrompem o ciclo de abuso antes da perda; 2) triagem que conecta vítimas a apoio psicológico, reduzindo danos a longo prazo.
Em produto e vida, a lição é direta: tecnologia sem empatia replica o erro que tenta corrigir. Sistemas que aprendem só com logs melhoram detecção técnica; sistemas que aprendem também com histórias humanas reduzem danos reais. Projetar segurança é desenhar redes que protegem carteiras e dignidade.
Se você trabalha com risco, produto ou segurança, a provocação é esta: estamos medindo apenas o que é barato de quantificar ou aquilo que realmente importa para uma vida? A próxima geração de defesa contra fraudes exigirá engenheiros que entendam comportamento, e terapeutas que entendam dados.
Fontes: https://finovate.com/charm-security-and-give-an-hour-combine-ai-with-mental-health-expertise-to-fight-scams/ https://smashingmagazine.com/2025/09/psychology-trust-ai-guide-measuring-designing-user-confidence/
Você confia mais em algoritmos que venham de logs ou em sistemas que aprendam com histórias humanas? Como seu time incorpora empatia nas decisões técnicas?