IA FraudGPT ameaça segurança digital por auxiliar na aplicação de crimes cibernéticos

Nos últimos tempos, houve uma crescente popularização das inteligências artificiais, que iniciaram um processo revolucionário no mundo tecnológico e impactaram o mundo inteiro nas mais diversas áreas de atuação, até mesmo no ramo dos atores.

Dentre as plataformas mais famosas, estão os chatbots, que são o tipo de Inteligência Artificial mais usado atualmente para fornecer informações e solucionar tarefas cotidianas.

Por outro lado, preocupações crescentes acerca da segurança cibernética têm acompanhado as descobertas benéficas, intensificando-se por meio do uso malicioso de inteligência artificial para a geração de malwares. Infelizmente, os lucros gerados pelos criminosos têm impulsionado um mercado clandestino de produção de vírus e uma nova ferramenta GPT tem sido vendida por sua capacidade de auxiliar em crimes digitais.

IA criminosa é comercializada na dark web

Foto: iStock/Reprodução

No último mês de julho, a equipe de segurança da Netenrich descobriu um novo sistema. Este foi divulgado na dark web e no Telegram e está sendo usado por criminosos na internet para a aplicação de golpes virtuais.

Conhecida como FraudGPT, essa IA tem a capacidade de elaborar textos persuasivos para golpes de phishing e até mesmo desenvolver códigos maliciosos para sites enganosos. O sistema se destaca pela sua fluidez de desenvolvimento e resposta ágil, assim como as IAs mais conhecidas se comunicam.

A ferramenta já é comercializada nas camadas mais profundas da internet, sendo vendida pelo valor de cerca de R$ 950 na conversão direta atual.

Chatbots como fontes de perigoso eminente

A elaboração dessa ferramenta alarma a comunidade de cibersegurança diante dos possíveis riscos e perigos associados ao uso indiscriminado das inteligências artificiais. O FraudGPT é utilizado para adquirir conhecimentos acerca de táticas de hacking e tutoriais ilícitos, dicas de golpes e até mesmo para geração de códigos para criação de vírus.

Embora os olhos dos profissionais de segurança da informação tenham se voltado para o recém-descoberto chatbot, é importante destacar que o popular ChatGPT apresenta riscos equivalentes, com um perigo adicional devido ao seu acesso livre.

Diversos internautas conseguiram burlar os sistemas de segurança da IA da OpenAI e utilizaram prompts de comando para conseguir uma resposta maliciosa da execução.

Portanto, em um cenário de crescimento das inteligências artificiais e de sua acessibilidade, a preocupação com a segurança pública torna-se ainda mais relevante, reforçando a necessidade de educação popular sobre crimes cibernéticos.