- A Meta AI estava atribuindo identificadores exclusivos a instruções e respostas
- Os servidores não estavam verificando quem tinha direitos de acesso a esses identificadores
- A vulnerabilidade foi fixada no final de janeiro de 2025
Um bug que poderia ter exposto as instruções do usuário e as respostas de IA na plataforma de inteligência artificial da Meta foi corrigida.
O bug surgiu da maneira como a Meta AI atribuiu identificadores a ambos os avisos e respostas.
Como se vê, quando um usuário conectado tenta editar seu prompt anterior para obter uma resposta diferente, a Meta atribui a ambos um identificador exclusivo. Ao alterar esse número, os servidores da Meta retornariam as consultas e os resultados de outra pessoa.
Sem abuso até agora
O bug foi descoberto por um pesquisador de segurança e fundador da AppSecure, Sandeep Hodkasia, no final de dezembro de 2024. Ele relatou a Meta, que empregou uma correção em 24 de janeiro de 2025 e pagou uma recompensa de US $ 10.000 por seus problemas.
Hodkasia disse que os números imediatos que os servidores da Meta estavam gerando eram fáceis de adivinhar, mas aparentemente – nenhum ator de ameaça pensou nisso antes de ser abordado.
Isso basicamente significa que os servidores da Meta não estavam verificando duas vezes se o usuário tivesse autorização adequada para visualizar o conteúdo.
Isso é claramente problemático de várias maneiras, o mais óbvio é que muitas pessoas compartilham informações confidenciais com chatbots hoje em dia.
Documentos de negócios, contratos e relatórios, informações pessoais, tudo isso é carregado para os LLMs todos os dias e, em muitos casos – as pessoas estão usando Ferramentas de IA como psicoterapeutascompartilhar detalhes íntimos da vida e revelações privadas.
Essas informações podem ser abusadas, entre outras coisas, em ataques de phishing altamente personalizados, que podem levar à implantação do Infotealer, roubo de identidade ou até ransomware.
Por exemplo, se um ator de ameaças souber que uma pessoa estava solicitando a IA para soluções VPN baratas, poderia enviar um e-mail oferecendo um ótimo produto econômico, que nada mais é do que um backdoor.
Via TechCrunch
Fique conectado