Estudo alerta para riscos de diagnósticos médicos por chatbots (Foto: Instagram)
O uso de inteligência artificial para diagnósticos ou orientações de saúde se tornou comum na internet, mas um novo estudo na revista médica BMJ Open alerta sobre os riscos dessa prática. Pesquisadores avaliaram cinco dos principais chatbots disponíveis: Gemini, Meta AI, Grok, DeepSeek e ChatGPT. Descobriu-se que aproximadamente metade das respostas dessas ferramentas foram consideradas problemáticas pelos especialistas.
++ Sistema de IA revela como gente comum está criando renda passiva no automático
O cenário é ainda mais preocupante quando 20% do conteúdo gerado foi classificado como altamente problemático. O estudo não encontrou variações significativas na qualidade entre os robôs, mas o Grok, da empresa de Elon Musk, apresentou uma frequência de respostas perigosas superior ao esperado em uma distribuição aleatória.
Um dos maiores problemas, segundo os pesquisadores, é a forma como a informação é entregue. Os chatbots expressam resultados com total confiança, raramente admitindo erros. Em 250 perguntas, apenas duas recusas de resposta ocorreram, ambas pela Meta AI. Nos demais casos, os sistemas deram orientações mesmo em temas com riscos reais à saúde humana.
A pesquisa mostrou que as IAs tiveram melhor desempenho em temas consolidados, como vacinas e câncer. No entanto, falharam em tópicos como células-tronco, desempenho atlético e nutrição, onde a chance de orientações erradas ou sem base científica é maior.
Falhas técnicas e citações inventadas
A qualidade das referências dos chatbots foi considerada baixa. O estudo apontou uma pontuação média de completude de 40%. As chamadas alucinações da IA resultaram em citações e fontes inventadas. Nenhuma ferramenta conseguiu listar referências totalmente precisas.
Outro problema foi a legibilidade dos textos, classificados como de nível difícil, equivalentes ao vocabulário de estudantes universitários avançados. Isso significa que, além do risco de erro, o usuário comum pode ter dificuldade em interpretar corretamente, gerando mais confusão.
Os auditores concluíram que os chatbots tiveram desempenho insatisfatório em áreas médicas propensas à desinformação. O uso contínuo dessas ferramentas sem educação pública e supervisão adequada pode amplificar notícias falsas e erros médicos em larga escala.
Reações e o funcionamento da tecnologia
Nas redes sociais, internautas discutiram os riscos dessa prática. Um usuário no Reddit comentou que “as pessoas não entendem que, no estágio atual, a IA não está pensando ou interpretando. Ela apenas regurgita informações disponíveis. 40% do que o ChatGPT recebe vem do Reddit”.
Outra pessoa ironizou dizendo que “você quer dizer que a IA, que raspa a internet em busca de respostas, incluindo as erradas, dá conselhos médicos imprecisos? Estou chocado. Bem, na verdade não”. O treinamento desses modelos de linguagem é central para muitos especialistas.
Um terceiro comentário explicou que “uma das razões é o treinamento. Eles não são treinados para dar conselhos médicos. Sim, textos médicos fazem parte do treinamento, mas o processo não usa pesos para convergir para uma recuperação adequada e formar o melhor texto de saída”.
Um quarto usuário foi mais direto sobre a responsabilidade individual ao afirmar que “se você pede conselhos médicos para uma IA, então você é o problema”. O estudo reforça que, apesar dos avanços tecnológicos, a consulta com profissionais de saúde humanos continua sendo a única forma segura de lidar com sintomas e tratamentos.
