A Microsoft
voltou a emitir alerta quanto ao uso do ChatGPT
e outras inteligências artificiais
na melhoria de ataques cibernéticos. Os golpes estariam visando tanto usuários comuns, a partir de engenharia social
mais sofisticada, quanto governos mundiais, a partir de grupos cibercriminosos a serviço de estados-nação.

O alerta foi dado em conjunto pela empresa e a OpenAI
, responsável pelo ChatGPT
, que colaborou com as análises. Enquanto ambas afirmam que não foram detectados golpes em grande escala com o uso de modelos de linguagem de IA
, elas seguem investigando os usos maliciosos e bloqueando contas ligadas a tentativas de golpes digitais.

De acordo com a Microsoft, o ChatGPT vem sendo usado para diferentes fins, de acordo com a categoria dos ataques pretendidos. Contra usuários comuns, o foco está na melhoria de golpes de phishing
e códigos de malware
, além da automação de tarefas de extração de dados e otimização de volumes vazados.

–
Siga o Canaltech no Twitter
e seja o primeiro a saber tudo o que acontece no mundo da tecnologia.
–

A Microsoft e a OpenAI indicam a utilização do ChatGPT por grupos conhecidos e notoriamente ligados a estes estados-nação. Segundo o relatório, foram detectadas atividades do Fancy Bear
, Thallium
e Curium, respectivamente ligados aos governos da Rússia, Coreia do Norte e Irã, além de múltiplas instâncias de quadrilhas ligadas à China.

Além da programação de vírus e rotinas de ataque, os bandidos estariam utilizando a tecnologia
para auxiliar no entendimento de sistemas de radar, parâmetros técnicos e vulnerabilidades de sistemas governamentais. Ainda, a IA seria usada para forjar e-mails oficiais de organizações com contratos oficiais, traduções rápidas e refinamento de soluções para ataques cibernéticos.

Fraudes maiores podem estar a caminho

A Microsoft e a OpenAI deixam claro que os casos indicados pelo relatório representam estudos iniciais, sem que existam relatos diretos de uso do ChatGPT pelo cibercrime
, principalmente estatal. Porém, ambas também deixam claro que esse mau uso não é novidade e pode levar a golpes mais sofisticados.

Os alertas são focados, principalmente, no uso de inteligência artificial para clonagem de voz
e tentativas dos criminosos de se passarem por pessoas comuns, executivos e funcionários de empresas visadas
. A ideia é que, em breve, apenas três segundos de amostra vocal podem ser suficientes para criação de um modelo convincente para uso em golpes cibernéticos.

Para a Microsoft, o uso de IA para combater os golpes vem se mostrando primordial. Ela cita iniciativas como o Copilot for Security
, que auxilia profissionais na detecção de brechas e sinais de ameaça, e salvaguardas aplicadas em sistemas de nuvem, como o Azure, como outras medidas que estão sendo tomadas para combater os ataques.

Leia a matéria no Canaltech
.

Trending no Canaltech: