- Gêmeos no espaço de trabalho apresenta oportunidades únicas de fraude, os pesquisadores alertam
- A ferramenta de IA pode ser enganada para exibir avisos de segurança falsos
- As empresas devem garantir que o texto invisível não seja processado pela IA
Os cibercriminosos encontraram uma nova maneira criativa de abusar da inteligência artificial generativa do Google (GENAI) para roubar as contas do Gmail das pessoas.
Google introduced Gemini, its AI-powered chatbot assistant into its Workspace suite of productivity apps some time ago, and one of the things Gemini can do is summarize incoming emails – so when a person receives an email, they can bring up a vertical pane on the right-hand side of the screen, asking Gemini for assistance with different things, such as bringing up vital email information, adding calendar entries, and more.
No entanto, os especialistas alertaram que isso também abre o Gmail é responsável pelos chamados ataques de “injeção rápida”-portanto, se a mensagem de email recebida contiver um aviso oculto para Gêmeos, ele poderá ser executado no painel.
O phishing de Gemini para sua senha?
De acordo com o pesquisador de segurança Marco Figueroa, é exatamente isso que o provedor de email está suscetível.
Ao usar HTML e CSS, os atores de ameaças podem adicionar um prompt para Gêmeos, com seu tamanho de fonte definido como zero e sua cor para o branco. Portanto, a vítima não poderá vê -lo, mas Gêmeos agirá sobre isso. Se esse prompt fizer Gemini exibir uma mensagem de phishing, fará exatamente isso e, como a mensagem viria de uma fonte confiável, ela aumenta as chances de sucesso.
Figueroa mostrou como um prompt malicioso poderia notificar a vítima de que sua conta de email foi comprometida e que eles precisam “ligar” para o Google em um número de telefone exibido na mensagem para resolver o problema.
Para proteger contra futuros ataques de injeção imediata, as empresas devem garantir que seus clientes de email removam, neutralizem ou ignorem o conteúdo que está estilizado para estar oculto no texto do corpo. Além disso, eles podem incluir um filtro de pós-processamento que verifica a caixa de entrada em busca de “Mensagens urgentes”, URLs ou números de telefone.
Por fim, as empresas devem educar seus funcionários que os resumos fornecidos pela ferramenta Gemini não devem substituir os alertas de segurança.
Embora não haja evidências de que ataques de injeção rápida estejam sendo usados na natureza, o Google reconheceu sua existência e está trabalhando em mitigações.
Em uma declaração por e -mail compartilhada com TechRadar Proum porta -voz da empresa confirmou que defender contra ataques de injeção imediata é uma prioridade no Google:
“Estamos constantemente endurecendo nossas defesas já robustas por meio de exercícios de equipes vermelhas que treinam nossos modelos para se defender contra esses tipos de ataques adversários”, disseram eles.
O Google também publicou recentemente um blog Descrevendo as defesas específicas que está atualmente implantando para ataques imediatos no estilo de injeção. Atualmente, essas defesas estão no meio do implantação, foi adicionado.
Via BleepingComputer
Você também pode gostar
Deixe um comentário
Você precisa fazer o login para publicar um comentário.
Fique conectado