Fraudes/golpes virtuais e cibercrimes estão sendo cada vez mais aplicados com a ajuda da Inteligência Artificial (I.A). Um meio muito utilizado nestas ações criminosas são as deepfakes, que é a utilização da IA na manipulação de vídeos e áudios imitando imagens e voz, e criando conteúdos falsos ou distorcendo conteúdos verdadeiros.
Como exemplo de deepfakes podemos citar, entre outros:
- a criação de vídeos e áudios falsos que têm como consequência golpes financeiros em empresas e pessoas físicas;
- desinformação e fake News;
- divulgação de vídeos e imagens pornográficas por vingança.
Vamos tecer algumas considerações acerca destes exemplos.
A INTELIGÊNCIA ARTIFICIAL – IA
Um conceito básico do que é IA deve ser dito, para contextualizar. IA é um ramo da ciência da computação que desenvolve dispositivos capazes de simular a capacidade humana de raciocínio, percepção, tomada de decisões e resolução de problemas.
Poderíamos abordar a IA por horas, tendo em vista ser um tema extremamente complexo e de importância crucial nos dias de hoje e principalmente no futuro. Acredita-se que o mundo será dominado pela IA.
Para demonstrar a importância do assunto, é relevante citar uma frase do Elon Musk sobre IA:
“Precisamos ser super cuidadosos com Inteligência Artificial. Potencialmente mais perigoso que armas nucleares.”
Feita esta breve introdução, passemos a tratar resumidamente de como os golpes virtuais utilizam a IA por meio das deepfakes.
DEEPFAKES
A tecnologia da IA vem trazendo muitos benefícios à humanidade, desde cirurgias feitas por robôs na medicina até os simples mecanismos de pesquisa do Google.
Todavia, juntamente com todos os benefícios, também há diversos malefícios no uso da IA quando é utilizada para fins ilícitos.
Relembrando o conceito dito anteriormente, deepfakes é a utilização da IA na manipulação de vídeos e áudios imitando imagens e voz e criando conteúdos falsos ou distorcendo conteúdos verdadeiros.
Usuários da internet estão vulneráveis, podendo ser alvos de fraudadores que têm se especializado em ataques de engenharia social, ludibriando internautas, manipulando-os para acessar links maléficos ou fornecer dados confidenciais.
- Vídeos e áudios falsos
Sabe aquele velho golpe de ligação telefônica pedindo dinheiro com uma voz no fundo gritando “mãe”, “vó”? Pois é, em que pese algumas pessoas ainda serem vítimas deste antigo golpe em sua forma amadora, acredita-se que ele já não engana muita gente. Será?
Com a IA tem havido muitos casos de clonagem de voz, e pessoas esclarecidas e antenadas estão sendo vítimas frequentes do fraudador que utiliza desta tecnologia.
A comunicação por áudio no whatsapp é quase uma regra atualmente, e aquele áudio enviado pelo seu amigo ou parente, com a voz real deles, pode lhe causar muitos prejuízos.
Da mesma forma ocorre com vídeos manipulados pela tecnologia de AI, nos quais a vítima acredita estar interagindo com alguém conhecido e, na verdade, por trás de toda a situação, está o fraudador.
Imagine o estrago que pode causar um vídeo falso, retratando pessoas conhecidas que na realidade nunca fizeram a referida gravação? Ou vídeo de pessoas desconhecidas que se revestem de um nome importante por trás de uma empresa renomada ou até uma entidade pública.
Um exemplo real, divulgado publicamente, relatou o golpe sofrido por uma empresa de energia do Reino Unido. O fraudador falsificou a voz de CEO da empresa, conduzindo outro executivo a transferir 220 mil euros (mais de 1 milhão de reais). O golpista fez uso de voz sintetizada pela IA.
Infelizmente estamos todos sujeitos e expostos a cair em um golpe desta natureza.
- Desinformação e Fake News,
Sob o ponto de vista de fraudes virtuais, a tecnologia deepfake, neste aspecto, objetiva a manipulação da mídia (influenciar a opinião pública) utilizando a IA na produção de fotos, vídeos e áudios falsos, quase no mesmo sentido abordado acima.
São criados perfis falsos que priorizam conteúdos polêmicos e sensacionalistas por algoritmos de recomendação. A partir daí, com a divulgação e compartilhamento em massa, a falsa notícia é disseminada.
Os recursos tecnológicos conferem uma credibilidade aos perfis, vídeos, fotos e áudios falsos, sendo difícil para os usuários discernir se o que é verdadeiro e o que é falso.
Um exemplo real que retrata o uso da IA no âmbito da fake news é uma foto recente do Papa Francisco vestindo um grande casaco branco, foto esta amplamente divulgada nas redes sociais, inclusive com twits de seguinte teor: “O Papa é pop e estiloso”.
A foto, que parece de fato verdadeira, foi produzida pelo Midjouney, um serviço de IA que gera imagens a partir de descrições em linguagem natural. Aquela foto não é o Papa Francisco de verdade!
- Divulgação de vídeos e imagens pornográficas – Pornô da Vingança.
Quando ocorre divulgação de vídeos e imagens (reais) pornográficas, ou de momentos íntimos, já existe um problema, inclusive no âmbito criminal. Em relacionamentos, infelizmente, há situações em que uma parte quer se vingar da outra divulgando momentos íntimos.
E quando os vídeos e imagens são falsos?
Conforme já debatido nos tópicos anteriores, a manipulação e criação falsa de vídeos e fotografia é perfeitamente possível com tecnologia de IA, que pode enganar até mesmo a própria vítima devido à similaridade com a realidade.
Há um caso de que especialistas em crimes virtuais identificaram um Bot no aplicativo Telegram que colhia fotografia de mulheres vestidas, manipulando as imagens para retratá-las como se estivessem nuas.
Fotografias e vídeos manipulados pela IA são compartilhados nas redes sociais e em grupos de whatsapp causando enorme prejuízo à vítima.
Quando se fala em fraudes utilizando a tecnologia deepfake pensamos que nunca ocorrerá conosco. Estamos acostumados a ver aqueles golpes amadores que todo mundo já conhece, e a tendência é pensar “nossa, como o cara foi ingênuo” “como ele caiu neste golpe batido?”, ou julgamentos similares.
A verdade é que as fraudes com o uso da AI são mais sofisticadas, e vêm enganando as pessoas menos improváveis. Os prejuízos financeiros e morais na maioria das vezes são devastadores. Claro está que deve-se redobrar os cuidados quando utilizamos a internet, principalmente as redes sociais, que é de onde se originam a maior parte dos golpes.
