A inteligência artificial (IA) está remodelando rapidamente o cenário da prevenção de fraudes, criando novas oportunidades de defesa e novas avenidas para o engano.
Em toda a indústria, a IA se tornou uma faca de dois gumes. Por um lado, permite uma detecção de fraude mais sofisticada, mas, por outro, está sendo armada pelos atores de ameaças para explorar controles, criar identidades sintéticas e lançar ataques hiper-realistas.
A prevenção de fraudes é vital em setores que lidam com altos volumes de transações sensíveis e identidades digitais. Nos serviços financeiros, por exemplo, não se trata apenas de proteger o capital – a conformidade regulatória e a confiança do cliente estão em jogo.
A fraude já mudou de um risco para um desafio comercial principal – com 58 % dos principais tomadores de decisão em grandes empresas do Reino Unido agora vendo -o como uma “ameaça séria”, de acordo com uma pesquisa realizada em 2024.
Chefe de Ciência de Dados na SAS.
A ascensão das ameaças sintéticas
A fraude sintética refere-se a ataques que alavancam dados fabricados, conteúdo gerado pela IA ou identidades digitais manipuladas. Esses não são novos conceitos, mas a capacidade e a acessibilidade de generativos As ferramentas de IA reduziram drasticamente a barreira à entrada.
Uma grande ameaça é a criação de identidades sintéticas, que são combinações de informações reais e fictícias usadas para abrir contas, ignorar os cheques de Know-Your-Customer (KYC) ou de acesso.
DeepFakes também está sendo usado para se passar por executivos durante chamadas de vídeo ou em tentativas de phishing. Um exemplo recente envolveu atacantes usando a IA para imitar a voz de um CEO e autorizar uma transferência fraudulenta. Essas táticas são difíceis de detectar em ambientes digitais em movimento rápido, sem métodos avançados de verificação em tempo real.
Silos de dados apenas exacerbam o problema. Em muitas organizações de tecnologia, diferentes departamentos dependem de ferramentas ou plataformas desconectadas. Uma equipe pode usar a IA para autenticação, enquanto outra ainda depende de sistemas herdados, e são esses pontos cegos que são facilmente explorados por fraude acionada por IA.
Ai como defesa
Embora a IA permita a fraude, também oferece ferramentas poderosas para a defesa se implementadas estrategicamente. No seu melhor, a IA pode processar vastos volumes de Dados em tempo real, detecte padrões suspeitos e adapte -se à medida que as ameaças evoluem. Mas isso depende de integração, governança e supervisão eficazes.
Uma fraqueza comum está em sistemas fragmentados. Os esforços de prevenção de fraudes geralmente operam em silos durante a conformidade, a segurança cibernética e as equipes de clientes. Para construir a verdadeira resiliência, as organizações devem alinhar estratégias de IA entre os departamentos. Lagos de dados compartilhados, ou APIs seguras, podem permitir modelos integrados com uma visão holística do comportamento do usuário.
Os dados sintéticos, frequentemente associados à fraude, também podem desempenhar um papel na defesa. As organizações podem usar dados realistas e anonimizados para simular cenários de fraude rara e treinar modelos sem comprometer a privacidade do cliente. Essa abordagem ajuda a testar as defesas contra casos de borda não encontrados nos dados históricos.
Os sistemas de fraude também devem ser adaptativos. Regras estáticas e modelos raramente atualizados não podem acompanhar o ritmo com fraude movida a IA-os sistemas de aprendizado em tempo real e continuamente são essenciais. Muitas empresas estão adotando biometria comportamental, onde a IA monitora como os usuários interagem com dispositivos, como digitar ritmo ou movimento do mouse, para detectar anomalias, mesmo quando as credenciais parecem válidas.
A explicação é outra pedra angular do uso responsável da IA e é essencial entender por que um sistema sinalizou ou bloqueou a atividade. As estruturas explicáveis da IA (XAI) ajudam a tomar decisões de forma transparente, apoiando a confiança e a conformidade regulatória, garantindo que a IA não seja apenas eficaz, mas também responsável.
Colaboração da indústria
A fraude aprimorada não respeita as fronteiras organizacionais e, como resultado, a indústria cruzada A colaboração está se tornando cada vez mais importante. Enquanto setores como serviços financeiros há muito se beneficiam de estruturas de compartilhamento de informações como o ISACS, iniciativas semelhantes estão surgindo no ecossistema de tecnologia mais amplo.
Os provedores de nuvem estão começando a compartilhar indicadores de credenciais comprometidas ou atividades maliciosas coordenadas com os clientes. Os fornecedores de SaaS e cibersegurança também estão formando consórcios e iniciativas de pesquisa conjunta para acelerar a detecção e melhorar os tempos de resposta.
Apesar de seu poder, a IA não é uma bala de prata e organizações que dependem apenas do risco de automação que perdem técnicas sutis ou novas de fraude. Estratégias eficazes de fraude devem incluir auditorias regulares de modelos, testes de cenário e exercícios de equipes vermelhas (onde hackers éticos conduzem ataques cibernéticos simulados em uma organização para testar a eficácia da segurança cibernética).
Analistas humanos trazem conhecimento e julgamento do domínio que podem refinar o desempenho do modelo. As equipes de treinamento para trabalhar ao lado da IA são essenciais para a construção de resiliência sintética, combinando uma visão humana com a velocidade e a escala da máquina.
A resiliência é um sistema, não um recurso
À medida que a IA transforma as ferramentas de fraude e os métodos de prevenção, as organizações devem redefinir a resiliência. Não se trata mais de ferramentas isoladas, mas de criar um ecossistema de defesa conectado, adaptável e explicável.
Para muitas organizações, isso significa integrar a IA nas unidades de negócios, adotar dados sintéticos, priorizar a explicação e incorporar a melhoria contínua nos modelos de fraude. Embora os serviços financeiros possam ter pioneiro muitas dessas práticas, a indústria de tecnologia mais ampla agora enfrenta o mesmo nível de sofisticação em fraude e deve responder de acordo.
Nesta nova era, a resiliência sintética não é um objetivo final estático, mas uma capacidade de ser constantemente cultivada. Aqueles que obtêm sucesso não apenas defenderão seus negócios de maneira mais eficaz, mas também ajudarão a definir o futuro da confiança digital segura e habilitada.
Listamos as melhores soluções de gerenciamento de identidade.
Este artigo foi produzido como parte do canal especialista da TechRadarPro, onde apresentamos as melhores e mais brilhantes mentes do setor de tecnologia hoje. As opiniões expressas aqui são as do autor e não são necessariamente as do TechRadarpro ou do Future Plc. Se você estiver interessado em contribuir, descubra mais aqui:
Fique conectado