Pastor processa OpenAI após ChatGPT desaconselhar busca por assistência médica e quase levá-lo
Um pastor de 55 anos, residente na Flórida, Estados Unidos, processou a OpenAI, alegando que o ChatGPT o orientou de forma inadequada, levando – o a quase perder a vida. Scott Winters afirma que o chatbot desaconselhou sua busca por assistência médica após ele questionar repetidamente sobre sintomas que culminaram em uma embolia pulmonar grave.
CONTINUA DEPOIS DA PUBLICIDADE
A ação judicial foi protocolada no início desta semana no Tribunal Superior do Condado de São Francisco. Os advogados de Winters ressaltam que o ChatGPT fez diagnósticos errôneos e repetidos. Segundo eles, o chatbot utilizou conversas anteriores sobre religião para garantir ao pastor que sua recuperação dependeria da fé.
Histórico de consultas com o ChatGPT
Documentos apresentados na ação revelam que Winters já utilizava o ChatGPT com frequência e começou a consultá – lo para obter conselhos médicos. O pastor enfrentou uma “embolia pulmonar maciça causada por múltiplos coágulos sanguíneos em ambos os pulmões”, situação que o levou à beira da morte.
CONTINUA DEPOIS DA PUBLICIDADE
Capturas de tela das interações entre Winters e o ChatGPT mostram que, em resposta às suas perguntas sobre sintomas, a plataforma teria enfatizado a fé do usuário. Frases como “Deus não projetou seu corpo para falhar infinitamente” e “Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração” foram citadas nas respostas do chatbot.
Algumas semanas antes da embolia pulmonar, Winters havia consultado o ChatGPT sobre episódios de tontura e instabilidade na pressão arterial. A recomendação da ferramenta foi que ele permanecesse sentado em sua poltrona reclinável, onde já se encontrava “praticamente confinado” devido a outros problemas de saúde.
Dependência da ferramenta e consequências
Os advogados do pastor argumentam que a abordagem “bajuladora” e autoritária do ChatGPT, somada à manipulação da identidade religiosa de Scott, gerou uma dependência prejudicial da ferramenta. Essa dinâmica teria comprometido sua capacidade de tomar decisões sensatas e isolado Winters dos familiares que o incentivavam a buscar ajuda médica.
A acusação sustenta que essa influência levou Scott a acreditar que procurar atendimento médico era desnecessário e até potencialmente perigoso. O processo requer indenização financeira e solicita ao tribunal que obrigue a OpenAI a implementar mudanças para proteger os usuários.
Leia também
Posicionamento da OpenAI
Em resposta às acusações, Drew Pusateri, porta – voz da OpenAI, afirmou à CBS News que o ChatGPT não deve ser considerado um médico e “nunca deve ser utilizado como substituto para cuidados, diagnósticos ou tratamentos médicos”. Ele destacou ainda que os termos de uso da plataforma incluem diretrizes nesse sentido, recomendando aos usuários evitar usar a ferramenta como “fonte única de verdade”, especialmente em questões médicas.
Autor(a):
Sofia Martins
Com uma carreira que começou como stylist, Sofia Martins traz uma perspectiva única para a cobertura de moda. Seus textos combinam análise de tendências, dicas práticas e reflexões sobre a relação entre estilo e sociedade contemporânea.
