O chatbot de inteligência artificial de Elon Musk, o Grok, rebateu esta semana o conselho recorrente do bilionário para que os usuários façam o upload de informações médicas pessoais em busca de uma “segunda opinião” da tecnologia. O bot alertou os usuários contra a prática, afirmando que não é qualificado para fornecer orientação médica.
Fatos Principais
Ao longo do último ano, Musk incentivou repetidamente as pessoas a usarem o Grok, desenvolvido por sua empresa xAI, para solicitar uma segunda opinião ou buscar conselhos médicos, compartilhando diversos depoimentos de usuários que afirmam que o bot os ajudou a resolver problemas de saúde.
Esta semana, no entanto, quando Musk incentivou as pessoas a “apenas tirar uma foto de seus dados médicos ou fazer o upload do arquivo para obter uma segunda opinião do Grok“, o chatbot discordou. Ao ser questionado por outro usuário nas respostas ao post original de Musk sobre se o Grok estava sujeito às leis de privacidade médica HIPAA, o Grok respondeu que não e desencorajou as pessoas a usá-lo para aconselhamento médico.
“Embora o Grok possa analisar dados enviados para gerar insights, ele não é um profissional médico nem está em conformidade com a HIPAA. O post de Musk destaca a capacidade da ferramenta, mas recomendamos fortemente não compartilhar informações sensíveis e consultar médicos para obter opiniões”, disse o Grok, acrescentando mais tarde que “não é um substituto para o aconselhamento médico profissional”.
Diversas pessoas apontaram que o comentário do Grok contradizia o que Musk vem promovendo amplamente, mas o bilionário não respondeu à réplica da IA.
Críticas
Aqueles que estudam grandes modelos de linguagem e chatbots como ChatGPT e Llama, descobriram que eles não são muito bons em diagnosticar usuários de forma precisa ou consistente. Um estudo revelou que os bots forneciam informações conflitantes regularmente e, em alguns casos, davam respostas muito diferentes para usuários distintos apresentados exatamente à mesma informação.
No geral, pesquisadores descobriram que a IA não foi capaz de diagnosticar um paciente com mais precisão do que aqueles que simplesmente deram um “Google” no problema por conta própria. Um artigo publicado na ScienceNews esta semana relatou que, embora os chatbots possam fazer diagnósticos em ambiente de laboratório com altas taxas de precisão (95% das vezes), esse número cai drasticamente para menos de 35% quando humanos apresentam seus próprios cenários médicos de forma conversacional.
O Outro Lado
Vários indivíduos relataram casos em que a IA os ajudou em cenários médicos. Musk compartilhou repetidamente a história de um homem na Noruega, conhecido pelo usuário do Reddit u/Tykjen, que afirmou que o Grok salvou sua vida ao identificar uma apendicite suprimida que os médicos do pronto-socorro haviam diagnosticado erroneamente de início.
Natallia Tarrien, da Carolina do Sul, estava grávida de 8 meses quando disse ter perguntado ao ChatGPT “Por que sinto minha mandíbula apertada?” e foi instruída a verificar sua pressão arterial, que estava perigosamente alta. O chatbot disse para ela chamar uma ambulância; ela foi diagnosticada com pré-eclâmpsia com risco de morte e o parto foi induzido no mesmo dia.
Outra mulher, Lauren Bannon, credita ao ChatGPT a detecção de seu câncer de tireoide após ter ouvido inicialmente dos médicos que tinha artrite.
Segundo uma pesquisa da KFF, um em cada seis adultos usam um chatbot de IA para buscar informações pelo menos uma vez por mês.
Fortuna da Forbes
Musk é a pessoa mais rica do mundo, com um patrimônio líquido estimado em US$ 847 bilhões nesta quarta-feira, 18.
Ele é cofundador de sete empresas, incluindo Tesla, SpaceX e a startup de inteligência artificial xAI.
*Matéria originalmente publicada em Forbes.com