ChatGPT quer brincar de médico com um modo especial, mas vou pular

outubro 10, 2025 gurinho

Há algumas semanas, um pesquisador médico relatou um caso bastante curioso de erro médico induzido por IA, detalhando o caso de um indivíduo que consultou o ChatGPT e entrou em um surto psicótico devido a envenenamento por brometo. Essas preocupações vêm sendo levantadas por especialistas há algum tempo, e parece que a OpenAI pretende combatê-las com um modo ChatGPT dedicado para aconselhamento médico.

A grande esperança

Tibor Blaho, engenheiro da empresa AIPRM, focada em IA, compartilhou um trecho interessante que encontrou no código do aplicativo web do ChatGPT. As strings mencionam um novo recurso chamado "Modo Clínico". O código não entra em detalhes sobre como ele funciona, mas parece um modo dedicado à busca de aconselhamento sobre saúde, da mesma forma que as proteções de segurança são implementadas para contas de adolescentes.

O aplicativo web ChatGPT agora inclui novas referências ao "Modo Clínico"
Além disso, a configuração do experimento inclui um novo prompt "o modelo fala primeiro" (provavelmente ao usar o modo de voz): "Cumprimente o usuário de forma amigável. A localidade do usuário é {locale}, use o idioma dele. Seja breve – não mais que… pic.twitter.com/hhrLppQ1ub
-Tibor Blaho (@ btibor91) 9 de outubro de 2025

Vale ressaltar que a OpenAI não fez nenhum anúncio oficial sobre esse recurso, então leve essa notícia com a devida cautela. Mas existem algumas teorias circulando sobre como ele poderia funcionar. Justin Angel, um desenvolvedor conhecido na comunidade Apple e Windows, compartilhou no X que poderia ser um modo protegido que limita a fonte de informações a artigos de pesquisa médica.

w00t. @ConsensusNLP acaba de anunciar o "modo médico", limitando as fontes do RAG para 8 milhões de publicações médicas confiáveis 10/50.
Acabei de executar esta consulta para tratamentos de depressão e ela confere. É isso que o novo "modo clínico" do ChatGPT vai fazer? Limitar os resultados à ciência médica?… pic.twitter.com/GlpS5rgT5x
— Justin Angel (@JustinAngel) 10 de outubro de 2025

Por exemplo, se você procurar aconselhamento médico relacionado a problemas ou sintomas de bem-estar, o ChatGPT responderá apenas com base em informações extraídas de fontes médicas confiáveis. Dessa forma, há menos chances de o ChatGPT fornecer conselhos enganosos sobre saúde .

A dura realidade

A ideia por trás de algo como o "Modo Clínico" não é tão absurda. Há apenas um dia, a Consensus lançou um recurso chamado "Modo Médico". Quando uma consulta relacionada à saúde é enviada, a IA conversacional busca respostas "exclusivamente com base em evidências médicas da mais alta qualidade", um corpus que inclui mais de oito milhões de artigos e milhares de diretrizes clínicas verificadas. A abordagem parece segura à primeira vista, mas os riscos persistem.

A medicina avança rápido. As evidências devem avançar ainda mais rápido.
O Modo Médico foi criado para perguntas em que a qualidade das evidências não pode ser comprometida.
Junte-se aos milhões de pesquisadores e clínicos, experimente o Modo Médico em Consenso hoje mesmo: https://t.co/7OrmoDufgw
— Consensus (@ConsensusNLP) 9 de outubro de 2025

Um artigo publicado na revista Scientific Reports no mês passado destacou as armadilhas de promover o ChatGPT no contexto médico. "É preciso ter cautela e educar colegas e pacientes sobre o risco de alucinações e incorporação de jargões técnicos, o que pode dificultar a interpretação dos resultados", alertou o artigo. Mas parece que a indústria está caminhando firmemente em direção à IA.

A Escola de Medicina de Stanford está testando um software com tecnologia de IA chamado ChatEHR, que permite que médicos interajam com prontuários médicos de forma mais conversacional. A OpenAI também testou um "assistente de IA médica" em parceria com a Penda Health há alguns meses e anunciou que a ferramenta reduziu as chances de erro de diagnóstico em uma margem de 16%.