Tudo sobre Inteligência Artificial
A inteligência artificial moderna só é tão eficiente graças à imensa quantidade de dados utilizados em seu treinamento.
No entanto, essa dependência também a torna vulnerável a ataques de “dados envenenados” — inserções discretas de informações falsas ou enganosas que podem comprometer o comportamento dos modelos de IA.
Esses ataques podem provocar desde falhas simples, como respostas incoerentes em chatbots, até riscos graves no mundo real, como carros autônomos ignorando sinais de trânsito ou falhas em infraestruturas elétricas.
Leia mais
Novo método busca mitigar os riscos
- Para enfrentar esse desafio, pesquisadores da Florida International University (FIU) criaram uma abordagem que combina aprendizado federado e blockchain.
- O aprendizado federado treina modelos diretamente nos dispositivos dos usuários, preservando a privacidade dos dados, mas ainda é vulnerável a ataques.
- Já o blockchain, conhecido pela segurança em redes de criptomoedas, foi adaptado para monitorar e validar atualizações de dados, detectando e descartando informações potencialmente maliciosas antes que possam prejudicar o modelo.
- O estudo sobre essa abordagem foi publicado no IEEE Access.
Segurança fortalecida
Segundo o professor Hadi Amini, líder da pesquisa, essa tecnologia poderá fortalecer a segurança de setores essenciais como transporte, saúde e infraestrutura crítica.
A equipe da FIU, em colaboração com o Centro Nacional de Segurança Cibernética e Resiliência em Transportes, também estuda o uso de criptografia quântica para proteger ainda mais os sistemas conectados e autônomos dos EUA.
Com a IA ganhando cada vez mais espaço na vida moderna, garantir a integridade dos dados de treinamento se torna uma prioridade estratégica para prevenir grandes riscos de segurança.
