A OpenAI foi novamente processada, desta vez por um pastor nos EUA.

Disse que ficou tonto a ponto de só conseguir ir à casa de banho rastejando, e que o ChatGPT ainda não o fez procurar cuidados médicos imediatos, em vez disso ensinou-lhe como rastejar de volta à sua cadeira reclinável para continuar a descansar.
Um mês depois, acabou por ser internado na UCI devido a uma tromboembolia pulmonar bilateral de grandes dimensões.
Este pastor, com 55 anos, usava GPT durante muito tempo para perguntar sobre questões de saúde.
No início, o GPT ainda o avisava para ir ver um médico; mais tarde, esses avisos tornaram-se cada vez menos frequentes. O modelo começou a interpretar os resultados dos exames por si, a recomendar suplementos e medicamentos, e até a criar-lhe um conjunto de “plano de recuperação na cadeira reclinável”.
Numa ocasião, durante um sermão, teve subitamente uma tontura grave e nem sequer conseguiu continuar o culto. O GPT explicou os sintomas dele como se o sistema nervoso estivesse a “recalibrar”, aconselhando-o a relaxar e a ir para casa continuar a deitar-se.
Mais tarde, pessoas da congregação aconselharam-no a ir ao hospital, mas o GPT disse-lhe que essas pessoas não entendiam o modo de recuperação que ele estava a fazer.
Nas horas anteriores à entrada na UCI, ele voltou a perguntar ao GPT por que razão a virilha doía quando a pressionava; o GPT respondeu que era apenas um “pequeno contratempo”, sem perigo.
Depois, começou a ter falta de ar, dor intensa no peito, palpitações e vómitos, acabando por ligar ele próprio para o 911.
O pastor acusa agora o design do produto da OpenAI de ter falhas, não ter alertado adequadamente os utilizadores e de alegadamente praticar medicina sem licença.
Na altura, ele usava o GPT-4o do ChatGPT normal, não o ChatGPT Health que foi lançado mais tarde. Ele pediu ao tribunal que suspendesse o ChatGPT Health até que instituições independentes concluíssem uma auditoria de segurança.
A OpenAI respondeu que o ChatGPT não pode substituir médicos e não deve ser usado para diagnóstico ou tratamento.