Deepfake em tempo real, a nova fronteira da fraude de IA

Mudar o rosto, a cor da pele, voz e muito mais durante uma chamada de vídeo ao vivo, com o mínimo esforço e graças à inteligência artificial. É o fenômeno de Deepfake em tempo real, um golpe que também engana sistemas de verificação e pode afetar a todos, não apenas os gestores de grandes empresas empresas ou figuras públicas como Donald Trump e Taylor Swift. “Com a tecnologia de metamorfose você pode mudar seu rosto e sua voz, eles são operações sofisticadas de engenharia social que são muito mais eficazes do golpe que vem com uma mensagem à qual somos mais “Preparem-se”, explica à ANSA Marco Ramilli, que trabalha há alguns meses IdentifAI fundada. A startup italiana graças a uma tecnologia definido como 'degenerativo' reconhece produtos falsificados da inteligência artificial generativa. Em poucos anos, o fenômeno deepfake em geral cresceu exponencialmente. De acordo com dados combinados do Resemble.AI e do AI Banco de dados de incidentes de 2017 a 2022 houve 22 incidentes registrar. Em 2023, esse número quase dobrou para 42, em Em 2024, os acidentes aumentaram 257%, para 150. E 179 já ocorreram no primeiro trimestre de 2025 acidentes, superando em 19% o total de 2024. “No campo da fraude este ano, a Inteligência Artificial representa 5%, enquanto no ano passado era de 0,3% - acrescenta Ramilli - Acreditamos que em quatro anos subirá para 60-70% das fraudes. Estamos sujeitos a muitos estímulos multimídia, você precisa ter cuidado e se equipar com ferramentas que eles processam imagens e vídeos para tentar entender, caso contrário, perderemos a confiança no digital."