A empresa afirma que seu chatbot recebe perguntas sobre saúde e bem-estar de 230 milhões de pessoas todas as semanas.
A OpenAI lançou um novo recurso ChatGPT nos EUA que pode analisar os registros médicos das pessoas para fornecer respostas melhores, mas os ativistas alertam que isso levanta preocupações de privacidade.
A empresa quer que as pessoas compartilhem seus registros médicos junto com dados de aplicativos como MyFitnessPal, que serão analisados para fornecer aconselhamento personalizado.
A OpenAI disse que as conversas no ChatGPT Health seriam armazenadas separadamente de outros bate-papos e não seriam usadas para treinar suas ferramentas de IA - além de esclarecer que não se destinava a ser usado para "diagnóstico ou tratamento".
Andrew Crawford, da organização sem fins lucrativos dos EUA, o Centro de Democracia e Tecnologia, disse que era "crucial" manter salvaguardas "herméticas" em torno das informações de saúde dos usuários.
Não está claro se ou quando o recurso pode ser introduzido no Reino Unido.
"Novas ferramentas de saúde de IA oferecem a promessa de capacitar pacientes e promover melhores resultados de saúde, mas os dados de saúde são algumas das informações mais confidenciais que as pessoas podem compartilhar e devem ser protegidas", disse Crawford.
Ele disse que as empresas de IA estavam "se esforçando muito" para encontrar maneiras de trazer mais personalização a seus serviços para aumentar o valor.
"Especialmente à medida que a OpenAI se move para explorar a publicidade como modelo de negócios, é crucial que a separação entre esse tipo de dados de saúde e as memórias que o ChatGPT captura de outras conversas seja hermética", disse ele.
De acordo com a OpenAI, mais de 230 milhões de pessoas fazem perguntas ao seu chatbot sobre sua saúde e bem-estar todas as semanas.
Em uma publicação no blog , disse que o ChatGPT Health tinha "privacidade aprimorada para proteger dados confidenciais".
Os usuários podem compartilhar dados de aplicativos como Apple Health, Peloton e MyFitnessPal, além de fornecer registros médicos, que podem ser usados para fornecer respostas mais relevantes às suas consultas de saúde.
A OpenAI disse que seu recurso de saúde foi projetado para "apoiar, e não substituir, os cuidados médicos".
Momento crucial
Chatbots e ferramentas de IA generativas podem ser propensos a gerar informações falsas ou enganosas, muitas vezes afirmando isso de forma muito direta e convincente.
Mas Max Sinclair, executivo-chefe e fundador da plataforma de marketing de IA Azoma, disse que a OpenAI estava posicionando seu chatbot como um "consultor médico confiável".
Ele descreveu o lançamento do ChatGPT Health como um "momento crucial" e um que poderia "remodelar os cuidados com os pacientes e o varejo" - influenciando não apenas como as pessoas acessam informações médicas, mas também o que elas podem comprar para tratar seus problemas.
Sinclair disse que a tecnologia poderia representar um "divisor de águas" para a OpenAI em meio ao aumento da concorrência de chatbots de IA rivais, particularmente o Gemini do Google.
A empresa disse que inicialmente disponibilizaria o Health para um "pequeno grupo de usuários iniciais" e abriu uma lista de espera para aqueles que buscam acesso.
Assim como não estar disponível no Reino Unido, também não foi lançado na Suíça e no Espaço Econômico Europeu, onde as empresas de tecnologia devem cumprir regras rigorosas sobre o processamento e a proteção de dados do usuário.
Mas nos EUA, Crawford disse que o lançamento significava que algumas empresas não vinculadas às proteções de privacidade "estarão coletando, compartilhando e usando dados de saúde das pessoas".
"Como cabe a cada empresa definir as regras de como os dados de saúde são coletados, usados, compartilhados e armazenados, proteções e políticas de dados inadequadas podem colocar informações confidenciais de saúde em perigo real", disse ele.
