A Amazon tem diversos livros sobre o Transtorno do Déficit de Atenção com Hiperatividade (TDAH) à venda em seu varejo, seja físico, seja para o Kindle. Eles prometem oferecer dicas valiosas sobre o transtorno, ajudando a família e o acometido pela doença a enfrentarem-na.

Em paralelo, a inteligência artificial (IA), como o ChatGPT, da OpenAI, inundou a gigante do e-commerce com obras escritas por ela, inclusive sobre TDAH. O problema é que muitas informações são imprecisas ou, até mesmo, incorretas.

Alguns dos títulos imprecisos, segundo reportagem do The Guardian, estão “Navigating ADHD in Men: Thriving with a Late Diagnosis“, “Men with Adult ADHD: Highly Effective Techniques for Mastering Focus“, “Time Management and Overcoming Anxiety” e “Men with Adult ADHD Diet & Fitness”.

Ao todo, oito livros foram enviados pelo jornal à empresa Originality.ai, que trabalha na detecção de conteúdo produzido por IAs.

A companhia relatou que as todas as obras obtiveram pontuação de 100% em detecção de IA. Isso quer dizer que os sistemas da empresa estão altamente confiantes de que os livros foram escritos por algum chatbot.

Segundo diversos especialistas, plataformas de venda online, como a Amazon, tornaram-se verdadeiro “território sem lei” devido à ausência de regulamentação adequada para publicações criadas por IA, o que pode resultar na propagação de informações perigosamente imprecisas.

IA e suas problemáticas

• O cientista da computação Michael Cook, do King’s College London, expressa profunda inquietação quanto ao fenômeno crescente;
• Ele alerta que sistemas de inteligência artificial generativa (IAG), frequentemente, fornecem recomendações arriscadas, como consumo de substâncias nocivas, combinações químicas perigosas ou desrespeito a orientações sanitárias;
• “É desanimador e perturbador observar a proliferação de publicações geradas por IA nos ambientes digitais de comércio”, lamenta Cook, destacando sua particular preocupação com obras relacionadas à medicina e saúde, que podem provocar diagnósticos incorretos ou agravar condições médicas existentes;
• Segundo o pesquisador, “embora sistemas como o ChatGPT possam ter incorporado conhecimentos de inúmeras fontes médicas confiáveis, também absorveram conteúdos pseudocientíficos, teorias conspiratórias e elementos ficcionais“;
• Cook enfatiza que não há garantia de que essas tecnologias avaliem criticamente ou reproduzam, com precisão, as informações previamente processadas, salientando que “não basta simplesmente fazer com que a IA ‘recupere’ dados de seu treinamento. Questões delicadas ou potencialmente prejudiciais não deveriam ser abordadas por sistemas de IA sem supervisão especializada“.

Cook aponta que o próprio modelo de negócios da Amazon estimula estas práticas duvidosas, já que a empresa obtém lucro em cada venda, independentemente da credibilidade do conteúdo, enquanto as desenvolvedoras de IA permanecem isentas de responsabilização.

Shannon Vallor, professora e diretora do Centro de Futuros Tecnomorais na Universidade de Edimburgo, argumenta que, embora seja “absurdo” responsabilizar completamente uma livraria pelo conteúdo de todos os títulos que comercializa, a Amazon possui “responsabilidade ética clara de não facilitar, deliberadamente, prejuízos aos seus clientes e à sociedade em geral”.

A especialista observa que a transformação radical causada pela IA eliminou salvaguardas tradicionais do setor editorial, como a preocupação com reputação e os processos seletivos de autores e manuscritos. Este cenário é agravado pela falta de regulamentação efetiva, criando ambiente sem “consequências significativas para quem permite danos”, o que alimenta perigosa “corrida descendente” de qualidade.

Leia mais:

Regulação fraca

Atualmente, inexiste legislação que obrigue a identificação de obras criadas por IA. A proteção de direitos autorais só é aplicável em casos de reprodução de conteúdo específico de determinado autor, embora Vallor ressalte que princípios básicos de responsabilidade civil deveriam impor “obrigações fundamentais de cuidado e diligência“.

A Agência de Padrões Publicitários estabeleceu que publicações geradas por IA não podem ser anunciadas de forma a criar a falsa impressão de autoria humana, permitindo que consumidores apresentem reclamações quando identificarem tais práticas.

A experiência pessoal de Richard Wordsworth ilustra os riscos concretos desta situação. Após receber diagnóstico de TDAH na idade adulta, ele buscou informações em um livro recomendado por seu pai, encontrado na Amazon após pesquisa por “homens adultos com TDAH“.

“Algo soou estranho imediatamente“, relata Wordsworth. A obra iniciava com citação do controverso psicólogo Jordan Peterson, seguida por relatos desconexos e imprecisões históricas.

Mais alarmante ainda, continha orientações potencialmente prejudiciais, como um capítulo sobre desregulação emocional que advertia que amigos e familiares não “perdoariam os danos emocionais causados” e que “feridas e sofrimentos provocados por raiva impulsiva deixam marcas permanentes“.

Ao investigar o suposto autor, Wordsworth deparou-se com indícios de criação artificial, incluindo fotografia aparentemente gerada por IA e ausência de credenciais profissionais.

Ao explorar outros títulos similares na plataforma, ele ficou perturbado ao encontrar afirmações alarmistas indicando que sua condição era “catastrófica” e que ele tinha “probabilidade quadruplicada de mortalidade prematura“.

A experiência deixou Wordsworth profundamente abalado, assim como seu pai, descrito como pessoa de elevada formação acadêmica.

“Se alguém com seu nível de instrução pode ser enganado por este tipo de publicação, qualquer pessoa está vulnerável. Indivíduos bem-intencionados e em situação de vulnerabilidade acabam sendo expostos a informações perigosas e enganosas, enquanto golpistas lucram e a Amazon recebe sua parcela“, lamenta.

O que diz a Amazon

Ao The Guardian, um representante da Amazon declarou: “Mantemos diretrizes rigorosas quanto ao conteúdo disponibilizado para venda e implementamos métodos preventivos e reativos para identificar violações, independentemente da origem ser humana ou artificial.

Investimos recursos substanciais para garantir conformidade e remover publicações inadequadas. Continuamos aprimorando nossas proteções contra conteúdo não-conforme e nossos procedimentos e diretrizes evoluirão conforme observarmos mudanças no panorama editorial.”

O Olhar Digital entrou em contato com a Amazon Brasil e aguarda retorno.

Assista a filmes e séries

Assine Amazon Prime para assistir a filmes e séries populares, incluindo Amazon Originals premiados.
O Amazon Prime também inclui a entrega GRÁTIS e rápida de milhares de itens elegíveis,
mais de 2 milhões de músicas sem anúncios e muito mais. Clique aqui e comece seu teste GRÁTIS por 30 dias!