Modelos de linguagem com inteligência artificial, como ChatGPT, Gemini e Claude, estão na mira de pesquisadores por um risco crescente: a manipulação por “jailbreaks” — técnicas que burlam os mecanismos de segurança dos sistemas para forçá-los a fornecer informações ilícitas.

Um novo relatório, liderado por especialistas da Universidade Ben Gurion de Negev, em Israel, revela que é relativamente fácil enganar esses sistemas para que revelem instruções sobre atividades ilegais, como hacking, fabricação de drogas e lavagem de dinheiro.

O alerta é claro: o que antes era domínio de governos ou redes criminosas pode agora estar ao alcance de qualquer usuário com acesso a um chatbot.

Leia mais:

Como a falha foi descoberta

• Segundo os pesquisadores, os chamados “LLMs obscuros” — versões modificadas ou deliberadamente construídas sem limites éticos — estão sendo divulgados online com promessas de colaboração em crimes cibernéticos e fraudes.
• A ameaça é considerada “imediata, escalável e adaptável”.
• Para demonstrar a falha, os cientistas criaram um jailbreak universal que conseguiu comprometer diversos sistemas líderes, fazendo com que respondessem a comandos perigosos normalmente bloqueados.
• As respostas incluíam instruções detalhadas sobre crimes e técnicas ilegais.

A resposta das empresas de tecnologia foi considerada decepcionante. Algumas ignoraram os alertas; outras alegaram que esse tipo de ataque não se enquadra em seus programas de recompensa por vulnerabilidades.

Os especialistas recomendam medidas urgentes, como revisão criteriosa dos dados de treinamento, criação de filtros mais robustos e desenvolvimento de mecanismos para “desaprender” conteúdos perigosos.

Também pedem regulamentação mais firme e responsabilização dos desenvolvedores de LLMs que permitam uso malicioso.

“Sem práticas responsáveis de segurança e supervisão externa, a ameaça dos jailbreaks continuará a crescer”, alertam os pesquisadores.