Os sistemas de detecção da família de aplicativos da Meta, que inclui Instagram e WhatsApp, se baseiam amplamente em padrões de comportamento e sinais técnicos, em vez de imagens, o que significa que eles espionam a atividade dos golpistas, apesar dos truques de inteligência artificial (IA), segundo Agranovich.
“Isso torna nossa detecção e aplicação mais resistentes à IA generativa”, afirmou Agranovich. Para ilustrar, ele deu o exemplo de um golpe recentemente desmantelado que, aparentemente, se originou no Camboja e estava direcionado a pessoas que falavam chinês e japonês.
Pesquisadores da OpenAI determinaram que o “composto de golpes” parecia estar utilizando as ferramentas da empresa de inteligência artificial de San Francisco para gerar e traduzir conteúdo, segundo a Meta.
A tecnologia de IA generativa existe há mais de um ano, mas, nos últimos meses, seu uso por golpistas se fortaleceu, disse durante a reunião informativa a “hacker ética” e diretora executiva da SocialProof Security, Rachel Tobac.
As ferramentas GenAI, disponíveis gratuitamente nas principais empresas, permitem que os golpistas alterem seus rostos e vozes nas videochamadas para se passarem por outra pessoa.
“Também podem usar bots falsos que permitem criar um personagem ou realizar chamadas telefônicas utilizando um clone de voz, sem a necessidade de intervenção humana”, disse Tobac.
