Artigo realizado em parceria com pesquisadores da UFRGS e Unipampa foi um dos destaques do SBSeg 2025

Uma abordagem inovadora para identificação e mitigação de riscos em sistemas de inteligência artificial, elaborada pelo professor da UFCSPA Muriel Franco em parceria com pesquisadores da UFRGS e Unipampa, foi o tema de artigo premiado no Google Awards durante o XXV Simpósio Brasileiro de Cibersegurança (SBSeg 2025), realizado entre os dias 1º e 4 de setembro em Foz do Iguaçu.

O trabalho intitulado “Exploiting Latent Space Discontinuities for Building Universal LLM Jailbreaks and Data Extraction Attacks” aborda a criação de jailbreaks universais e ataques de extração de dados em modelos de IA generativa, explorando descontinuidades espaciais latentes, vulnerabilidades ligadas à escassez de dados de treinamento. Segundo o professor, a técnica mostrou-se eficaz ao conseguir manipular as conversas para obter respostas sobre assuntos sensíveis e extrair informações em sete grandes modelos de linguagem de última geração, incluindo ChatGPT, Gemini e DeepSeek, além de modelos de geração de imagens.

Além do prêmio, o professor Muriel Franco também foi reconhecido como revisor de destaque no Comitê de Avaliação de Artefatos (CTA). Ele participou ainda como coautor da ferramenta “IMPACTO: Plataforma de Capacitação em Cibersegurança Baseada em Simulação de Aspectos Econômicos de Ciberataques”, atuou como membro do Comitê de Programa Técnico (TPC), do Comitê de Avaliação de Artefatos (CTA), do Comitê de Avaliação de Melhores Artigos, além de coordenar duas sessões técnicas durante o evento.