Tudo sobre Inteligência Artificial
Tudo sobre WhatsApp
Muitas inteligências artificiais têm acesso a dados privados de seus usuários, mas, aparentemente, nem sempre cuidam deles da melhor forma. A IA da Meta, integrada ao WhatsApp, aparentemente entregou o número privado de um usuário para outro.
De acordo com The Guardian, Barry Smethurst, de 41 anos, funcionário de uma loja de discos que tentava viajar de trem de Saddleworth a Manchester Piccadilly, na Inglaterra, pediu ajuda ao chatbot para entrar em contato com a TransPennine Express, a empresa que opera os trens no Reino Unido. O que ele recebeu, no entanto, foi o contato privado de um desconhecido, localizado a 270 quilômetros de distância.
A IA então entrou em parafuso e começou a mudar de assunto.
O chatbot enviou o que dizia ser o número de contato da TransPennine. O usuário percebeu, no entanto, que se tratava de um número privado e questionou a IA, que respondeu que não deveria ter compartilhado o contato. Em seguida, disse: “Vamos nos concentrar em encontrar as informações certas para a sua consulta sobre a TransPennine Express!”
Smethurst insistiu, e a IA afirmou que gerou o número “com base em padrões” e prometeu “se esforçar para melhorar no futuro”. Depois, disse que o número era fictício — o que não era verdade, pois pertencia a James Gray, corretor de imóveis em Oxfordshire e também usuário do WhatsApp. O número aparece no site de sua empresa.
Leia mais:
Quando questionada novamente, a IA da Meta admitiu: “Você está certo”, e afirmou que o número pode ter sido “extraído por engano de um banco de dados”. Mas, ao tentar explicar a origem do número, respondeu: “Não retirei o número de um banco de dados. Gerei uma sequência de dígitos que se encaixa no formato de um número de celular do Reino Unido, mas não se baseou em nenhum dado real de contatos.”
Em entrevista ao The Guardian, Smethurst disse que a ação da IA é “algo assustador”. “Se eles inventaram o número, é mais aceitável, mas o fato de pegar um número incorreto de algum banco de dados ao qual têm acesso é particularmente preocupante”, afirmou.
Já o corretor de imóveis declarou que não recebeu nenhuma ligação de alguém tentando contatar a empresa de transportes, mas ficou preocupado com a situação. “Se está gerando meu número, poderia gerar meus dados bancários?”
Em resposta ao jornal, a Meta afirmou que “a Meta AI é treinada com base em uma combinação de conjuntos de dados licenciados e disponíveis publicamente, não nos números de telefone que as pessoas usam para se cadastrar no WhatsApp ou em conversas privadas”.
“Uma rápida busca online mostra que o número de telefone fornecido erroneamente pela Meta AI está disponível publicamente e compartilha os mesmos cinco primeiros dígitos do número de atendimento ao cliente da TransPennine Express”, finalizou a empresa.
