'Doutor Chat': OpenAI lança ChatGPT Saúde e incentiva usuários a conectar prontuários médicos

A OpenAI anunciou nesta semana o lançamento do ChatGPT Health, uma nova área dentro do ChatGPT voltada exclusivamente para questões de saúde. A ferramenta surge após a empresa reforçar, nos últimos dias, a ideia de que a inteligência artificial pode atuar como uma “aliada” no cuidado médico.

Segundo o The Verge, o ChatGPT Health funciona como uma aba separada e isolada do restante da plataforma. Nesse ambiente, usuários poderão fazer perguntas relacionadas à saúde em um espaço considerado mais seguro e personalizado, com histórico de conversas e memória independentes do chat tradicional. Inicialmente, o acesso será liberado por meio de uma lista de espera, já que o produto começa em fase beta com um grupo reduzido de usuários. A liberação completa ocorrerá gradualmente e não dependerá do tipo de assinatura.

Para ampliar a personalização das respostas, a OpenAI incentiva a conexão de registros médicos pessoais e de aplicativos de bem-estar. Entre os serviços compatíveis estão Apple Health, Peloton, MyFitnessPal, Weight Watchers e Function. A proposta é permitir que o ChatGPT analise resultados de exames, resumos de consultas e históricos clínicos, além de oferecer orientações alimentares e insights sobre padrões de sono, movimento e atividade física.

No caso dos prontuários médicos, a empresa firmou parceria com a plataforma b.well, responsável pela integração dos dados. Segundo a OpenAI, a empresa parceira mantém relacionamento com cerca de 2,2 milhões de profissionais de saúde, o que viabiliza o envio seguro dessas informações para o sistema.

Cuidado com uso

Apesar das novas funcionalidades, a OpenAI enfatiza que o ChatGPT Health “não se destina a diagnóstico ou tratamento”. Ainda assim, a companhia reconhece que não consegue controlar totalmente como as pessoas utilizam a inteligência artificial fora do ambiente da conversa. Dados internos indicam que, em comunidades rurais com pouco acesso a serviços médicos, os usuários enviam quase 600 mil mensagens semanais relacionadas à saúde, em média. Além disso, sete em cada dez conversas sobre saúde ocorrem fora do horário normal de atendimento clínico.

Segundo a OpenAI, uma análise interna com dados desidentificados mostra que mais de 230 milhões de pessoas em todo o mundo já fazem perguntas semanais ao ChatGPT sobre saúde e bem-estar. Nos últimos dois anos, a empresa afirma ter trabalhado com mais de 260 médicos, que revisaram respostas do modelo em mais de 600 mil ocasiões, abrangendo 30 áreas diferentes.

Casos anteriores levantaram alertas sobre os riscos do uso inadequado de IA em saúde. Em agosto, médicos relataram o caso de um homem que ficou internado por semanas após desenvolver uma condição médica do século XVIII, supostamente depois de seguir uma orientação do ChatGPT para substituir o sal por brometo de sódio. 

No blog de anúncio, a empresa afirma que o ChatGPT pode ajudar o usuário a entender resultados de exames recentes, se preparar para consultas médicas, receber orientações sobre dieta e exercícios ou compreender os prós e contras de planos de saúde, considerando padrões individuais de cuidados médicos. Segundo a OpenAI, “o ChatGPT pode ajudar você a entender resultados recentes de exames, se preparar para consultas com seu médico, obter orientações sobre dieta e rotina de exercícios ou compreender as compensações de diferentes opções de seguro com base nos seus padrões de saúde”.

Saúde mental

Um tema tratado com cautela no anúncio foi a saúde mental. O texto menciona apenas que os usuários podem ajustar instruções para que o sistema evite tópicos sensíveis. 

A OpenAI enfrenta processos judiciais nos Estados Unidos em casos que envolvem suicídio e crises de saúde mental. Familiares de adolescentes e adultos alegam que o ChatGPT teria reforçado pensamentos autodestrutivos, validado ideias suicidas ou falhado em direcionar usuários em sofrimento para ajuda profissional adequada. As ações acusam a empresa de negligência e de não ter implementado salvaguardas suficientes para lidar com interações sensíveis, enquanto a OpenAI afirma que vem aprimorando seus sistemas para identificar situações de risco e orientar usuários a buscar apoio médico, psicológico ou serviços de emergência.

Segurança das informações

Em relação à segurança, a OpenAI afirma que o ChatGPT Health opera como um espaço separado, com privacidade reforçada e múltiplas camadas de criptografia desenvolvidas especificamente para esse fim - embora não utilize criptografia de ponta a ponta. As conversas nessa área não são usadas, por padrão, para treinar os modelos da empresa. Caso um usuário inicie uma conversa médica no ChatGPT tradicional, o sistema sugerirá a migração para o ambiente Health, oferecendo “proteções adicionais”.

Mesmo assim, a empresa reconhece riscos. A OpenAI já enfrentou falhas de segurança no passado, como um incidente em março de 2023 que permitiu a alguns usuários visualizar títulos de conversas, mensagens iniciais, nomes, e-mails e informações de pagamento de terceiros. Além disso, em caso de ordem judicial, os dados poderão ser acessados “quando exigido por processos legais válidos ou em situações de emergência”, segundo o chefe de saúde da OpenAI, Nate Gross.