O avanço do deepfake pode moldar a opinião pública, alerta especialista

A tecnologia deepfake, que permite a criação de conteúdo audiovisual falso de alta qualidade, está sendo cada vez mais utilizada para enganar e desacreditar, levantando sérias preocupações sobre a integridade dos processos eleitorais. Uma análise da Check Point Software revela a expansão da disponibilidade de serviços deepfake no Darknet e no Telegram, diminuindo um aumento significativo no desenvolvimento e na distribuição dessas ferramentas. Com preços acessíveis e uma ampla gama de recursos, os deepfakes estão se tornando uma ameaça cada vez mais real para a transparência eleitoral. Leia mais: Nova Hampshire investiga chamadas de IA que se passam por Biden O uso predominante da clonagem de voz demonstra a eficácia dessas técnicas na disseminação de desinformação, como evidenciado por incidentes recentes nos Estados Unidos. A regulamentação de deepfakes levanta preocupações sobre a confiança pública nos processos democráticos e a necessidade urgente de medidas preventivas. Em entrevista ao IT Forum, Fernando de Falchi, gerente de Engenharia de Segurança da Check Point Software Brasil, explica que essa interferência nas eleições pelo cibercrime e pelos executivos também movimentará a oferta e procurará os serviços que estão disponíveis na Deep Web, que oferecerão. , entre outros recursos, vídeos falsos que utilizam imagens de pessoas e em diferentes locais. “Há ainda mensagens de voz que estão disponíveis, praticamente, uma clonagem de voz. Um dos usos em deepfake, por exemplo, seria imitar uma pessoa alvo de um áudio falso reagindo a uma pergunta sobre algum tema polêmico.” Em janeiro deste ano foi distribuída uma chamada automática na qual se ouvia a voz falsa de Joe Biden, atual presidente dos Estados Unidos e novamente candidato às eleições, incitando os moradores de New Hampshire a não votarem. Os Estados Unidos proibiram as chamadas automáticas geradas por IA, refletindo as preocupações crescentes sobre a manipulação digital e o seu impacto na opinião pública. Para além das eleições, Falchi afirma que a sofisticação da tecnologia também pode contribuir com crimes de estelionato e ‘falsos sequestros’, já que vídeos ultrarrealistas de pessoas podem ser feitos em minutos com o auxílio da Inteligência Artificial. Outro problema apontado pelo gerente é que as pessoas já postam o que recebem sem antes de fazer uma avaliação do que está vendendo, lendo ou ouvindo. É sabido que, depois de algo ser publicado, é praticamente impossível apagar esses vídeos e outras mensagens na Internet. “Esse prejuízo à imagem de uma pessoa pode ser muito prejudicial e bem complexo para uma pessoa alvo se desvencilhar”, diz Falchi. Por isso, o especialista reforça as dicas básicas para se atentar, como verificar a origem do conteúdo, de onde a pessoa recebe suas mensagens, quem está enviando as mensagens. “Ou seja, deve-se verificar a origem, quem está enviando, verificar os dados do que foi dito, se há veículos de comunicação comentando ou noticiando o assunto abordado no vídeo, na mensagem e no áudio. Às vezes você pode receber um vídeo que parece ser real, mas ninguém está comentando o assunto ou notícia abordada nele. Precisa verificar, não confiar e, principalmente, não passar para frente, não contribuir para a disseminação de fake news, deepfakes e golpes”, alerta. Em relação aos impactos dos deepfakes, Falchi alertou para o potencial de uso malicioso, incluindo golpes de phishing e manipulação de informações. Ele destacou a preocupação com a possível aplicação dessas tecnologias em ataques de ransomware e na disseminação de malwares, evidenciando a necessidade de vigilância e proteção por parte das empresas e usuários. “Tudo isso é semelhante ao cenário dos golpes, que se utilizam de phishing e engenharia social ao enviarem esses vídeos e áudios. É preciso muita atenção, como disse antes, para não cair em golpes. Os cibercriminosos se utilizarão do momento de um grande evento como as eleições para distribuir deepfakes, desinformação e conteúdo falso para roubar credenciais, identidade e outros dados, bem como obter lucro financeiro e realizar ataques de ransomware com esse conteúdo. Pois, o ransomware é outro ponto a ser explorado pelo cibercrime com mensagens de voz e vídeo de deepfake”, finaliza. Siga o IT Forum no LinkedIn e fique por dentro de todas as novidades!