Os chatbots do mercado negro se tornaram uma das últimas tendências emergentes na indústria de IA e estão prosperando à medida que modelos maliciosos de grandes linguagens (LLMs) ganham dinheiro para seus criadores.
Um estudo americano descobriu que existe um próspero mercado negro de IA, onde LLMs não registrados estão ganhando dinheiro vendendo seus serviços clandestinamente. Empresas registradas e públicas como OpenAI, Perplexity e outras grandes empresas que oferecem os mesmos serviços seguem os requisitos regulamentares.
LLMs clandestinos podem escapar de antivírus
O estudo, que se concentrou principalmente em Malla, um ecossistema que prospera ao bastardizar LLMs legais e plataformas de IA com fins lucrativos, examinou 212 LLMs do mercado negro listados em mercados subterrâneos entre Abril e Outubro de 2023, avaliando as suas características.
Um dos autores, Zilong Lin, da Universidade de Indiana, disse:
“Descobrimos que a maioria dos serviços de mala em fóruns clandestinos existem principalmente para gerar lucro.”
O estudo também descobriu que algumas plataformas ganham até US$ 28 mil em dois meses com assinaturas e compras de pessoas que desejam escapar dos limites da inteligência artificial regulamentada.
Alguns, como DarkGPT e EscapeGPT, são apenas derivados de jailbreak LLM devidamente licenciados que são usados legalmente.
Um estudo separado também mostrou que esses LLMs ilícitos podem ser usados para muitas atividades, como a criação de e-mails de phishing. Por exemplo, DarkGPT e EscapeGPT podem criar códigos corretos quase 75% das vezes, mas os antivírus não conseguem selecioná-los.
Outro modelo conhecido como WolfGPT tem sido visto como uma “potência” para criar e-mails de phishing e evitar detectores de spam.
De acordo com Andrew Hundt, especialista em inovação computacional da Universidade Carnegie Mello, o boom no mercado clandestino de inteligência artificial deve ser motivo de preocupação.
Ele apelou a uma exigência legal de que as empresas que desenvolvem LLMs tenham sistemas robustos que impeçam a replicação por pessoas com motivações sinistras.
“Também precisamos de quadros jurídicos para garantir que as empresas que criam estes modelos e prestam serviços o fazem de forma mais responsável, de modo a mitigar os riscos representados por agentes maliciosos”, disse Hundt.
Compreender como funcionam os chatbots do mercado negro é fundamental
O professor Xiaofeng Wang, da Universidade de Indiana, que participou do estudo, disse que é importante entender como funcionam esses LLMs do mercado negro para que as soluções sejam específicas para os problemas identificados.
O professor Wang acrescentou que a manipulação destes LLMs não pode ser evitada, o que cria a possibilidade para a indústria criar barreiras de proteção fortes para minimizar os danos potenciais executados através de ataques cibernéticos em todas as suas formas.
“Acreditamos que agora é uma boa fase para começar a estudá-los porque não queremos esperar até que o grande dano já tenha sido feito.”
Professor Wang.
Segundo o professor, toda tecnologia, inclusive os LLMs, se apresenta de duas formas: o lado positivo e o lado negativo.
Especialistas em segurança cibernética já estão apelando à indústria de IA para que desacelere e reflita sobre os perigos crescentes de sua tecnologia ser adulterada por comunidades anônimas da Internet.
Um artigo da Forbes publicado no final do ano passado afirmou que deveria haver uma introdução responsável de novas ideias, especialmente em torno dos LLMs. Ele também destacou o papel da regulamentação na promoção de inovações responsáveis em IA, em oposição ao equívoco de que a regulamentação sufoca o desenvolvimento.
“Os desenvolvedores e fornecedores de LLM precisam fazer uma pausa em uma corrida armamentista frenética para produzir modelos cada vez mais complexos e, em vez disso, deveriam trabalhar com os reguladores na adoção de estruturas para o design ético e o uso de aplicações generativas de IA”, lemos em parte do relatório . .
Agora, devido a lacunas regulatórias, o mercado negro de IA também está se transformando rapidamente em uma indústria multimilionária e pode precisar de muitos recursos para contê-lo, de acordo com a Fast Company.