Resumo:
Utah, EUA, está expandindo ainda mais o escopo de aplicação da inteligência artificial médica e permitindo que os sistemas de IA avaliem diretamente os pacientes, decidam sobre planos de tratamento e emitam prescrições sob condições específicas. À medida que novos programas piloto são lançados, Utah está se tornando um dos campos de testes mais agressivos para a regulamentação da IA médica nos Estados Unidos.
Este novo projeto é lançado pela startup médica de IA Nolla Health, visando principalmente pacientes com acne leve a moderada. Os usuários primeiro precisam tirar uma foto facial por meio do aplicativo e preencher o histórico médico e informações pessoais. A IA então analisa a condição da pele, avalia a gravidade da acne e, em seguida, seleciona um plano de tratamento adequado em uma lista de medicamentos aprovados com base nas informações médicas fornecidas pelo paciente.
Diferentemente da telemedicina tradicional, o cerne deste processo é não permitir que a IA conclua primeiro a triagem e depois faça o diagnóstico final pelo médico. Em vez disso, permite que a IA tome a decisão final sobre a prescrição de medicamentos e envie a receita diretamente para a farmácia designada pelo paciente.
No entanto, o projeto não eliminou completamente o envolvimento dos médicos desde o início. Na fase inicial do piloto, cada prescrição gerada por IA precisará ser revisada e assinada por um médico licenciado em Utah. À medida que o projeto avança, a participação dos médicos diminuirá gradualmente, permitindo eventualmente que a IA emita prescrições qualificadas sem revisão prévia pelos médicos.
De acordo com o acordo piloto anunciado pelas autoridades de Utah, a Nolla Health atualmente só pode tratar acne leve a moderada em pacientes adultos, e a faixa de prescrição é estritamente limitada a um pequeno número de medicamentos tópicos, incluindo cremes e géis designados. O sistema não pode ser usado para tratar acne grave, nem pode prescrever opções de tratamento mais arriscadas, como medicamentos orais ou isotretinoína.
Os pacientes também devem passar por verificação de identidade e idade, e as receitas só podem ser enviadas para endereços em Utah. Para pacientes com acne grave, que estão grávidas ou que planejam engravidar, que estão amamentando, que têm sistema imunológico comprometido e que tiveram reações adversas a medicamentos relacionados, o sistema de IA deve interromper o processo de prescrição automática e transferi-lo para a equipe médica humana.
A razão pela qual Utah pode conduzir tal experimento está relacionada ao sistema de "sandbox regulatório de IA" estabelecido pelo estado nos últimos anos. O sistema permite que as empresas testem produtos de inteligência artificial sob supervisão governamental, ao mesmo tempo que isenta temporariamente alguns requisitos regulamentares existentes dentro de limites claramente definidos.
Isso significa que a empresa não obtém uma "licença médica de IA" ilimitada, mas após assinar um acordo com o governo do estado e agências reguladoras relevantes, pode realizar testes em produtos específicos, doenças específicas e grupos específicos por um tempo limitado. As empresas ainda precisarão cumprir outros requisitos legais que não estão isentos do acordo.
Na verdade, no início deste ano, Utah se tornou o primeiro estado dos Estados Unidos a permitir que a IA administre de forma autônoma as recargas de receitas. Naquela época, a Doctronic lançou um serviço médico de IA que poderia prescrever novamente alguns medicamentos para doenças crônicas para pacientes que receberam tratamento de longo prazo sem o envolvimento direto de médicos.
Este programa cobre cerca de 190 medicamentos não controlados comumente usados, mas não inclui analgésicos, medicamentos injetáveis e alguns medicamentos usados para tratar o TDAH. Os pacientes precisam primeiro passar pela verificação de identidade e de informações médicas, e a IA decidirá então se permitirá a recarga com base nas prescrições anteriores e na condição atual do paciente.
A nova política atual de Utah significa que os testes médicos de IA estão avançando da “recarga automática” para a “primeira prescrição”. Há uma diferença clara entre os dois: reabastecer significa que um plano de tratamento foi previamente prescrito ao paciente por um médico, enquanto prescrever pela primeira vez significa que a IA deve tomar novas decisões clínicas com base na condição atual do paciente.
É por isso que o projeto Nolla Health recebeu atenção especial.
As autoridades de Utah exigem que a Nolla Health tenha dois médicos certificados revisando cada prescrição no início do programa. À medida que o projeto avança, o método de auditoria pode mudar gradativamente para pós-auditoria e inspeção aleatória, mas cada vez que entra em uma nova etapa, deve obter aprovação por escrito do governo estadual.
As empresas também devem adquirir seguro de responsabilidade profissional e relatar eventos adversos aos reguladores após sua ocorrência. Ao mesmo tempo, as farmácias devem ser claramente informadas de que as receitas são geradas por sistemas de IA e poder contactar os médicos relevantes para resolver problemas.
Os reguladores de Utah também exigem que as empresas não vendam ou transfiram dados de pacientes para outros usos e devem enviar regularmente dados sobre as operações do projeto, incluindo indicadores como o grau de consistência entre a IA e o julgamento do médico.
O governo de Utah acredita que este modelo pode explorar se a IA pode reduzir os custos médicos em alguns cenários médicos comuns e de baixo risco e aliviar o problema da insuficiência de recursos médicos. Para alguns pacientes com condições relativamente simples, a possibilidade de realizar avaliações e prescrever medicamentos através do telemóvel poderia reduzir potencialmente o tempo e as despesas de deslocação até à clínica.
No entanto, tem havido uma controvérsia óbvia sobre este modelo na comunidade médica.
Os críticos acreditam que mesmo para doenças aparentemente simples, os médicos precisam levar em consideração a idade do paciente, o histórico médico, outros medicamentos, alergias e alguns sinais clínicos que não são facilmente descobertos por meio de perguntas e respostas padronizadas ao prescrever medicamentos. Se você confiar inteiramente na IA para julgamento, uma vez que o sistema perca informações importantes, isso poderá causar tratamento incorreto.
No início deste ano, um teste de segurança do sistema de recarga de medicamentos de IA de Utah também causou polêmica. Os pesquisadores de segurança usaram ataques de palavras relativamente simples para fazer com que os sistemas de IA relacionados gerassem conselhos médicos incorretos, incluindo o aumento incorreto da dosagem de certos medicamentos e a recomendação de medicamentos perigosos. Esses testes destacam ainda mais as diferenças entre a IA médica e os chatbots comuns.
Um dos maiores riscos da IA médica é que respostas erradas de chatbots comuns podem simplesmente levar a informações enganosas. No entanto, uma vez que a IA médica tenha autoridade para prescrever medicamentos, os erros podem traduzir-se diretamente em consequências médicas no mundo real.
Portanto, o atual piloto em Utah está na verdade explorando uma questão muito importante: sob quais condições a inteligência artificial pode se transformar de uma “ferramenta auxiliar para médicos” em uma “executora de decisões médicas”.
Os defensores acreditam que a IA não precisa necessariamente substituir os médicos, mas pode assumir um grande número de tarefas padronizadas, repetitivas e de risco relativamente baixo. Por exemplo, a simples avaliação de doenças de pele, a reposição de medicamentos para doenças crónicas de longa duração e outras situações que cumpram orientações clínicas claras podem tornar-se as primeiras áreas onde a IA entrará no sistema médico.
Os opositores argumentam que mesmo que alguns casos pareçam simples, não se pode presumir que todos os pacientes se enquadram no modelo padrão. Especialmente quando a IA tem o poder de prescrever, o custo dos erros do sistema será significativamente maior do que os erros comuns de perguntas e respostas de informações.
Atualmente, Utah não permite que a IA "se torne médica" sem restrições. Tanto o tratamento da acne da Nolla Health quanto os projetos anteriores de recarga de medicamentos de IA são estritamente limitados a medicamentos específicos, pacientes específicos e processos específicos, e as empresas devem aceitar supervisão contínua.
Mas do ponto de vista do desenvolvimento da indústria, a importância de Utah ainda é muito especial. No passado, a IA médica era utilizada principalmente para reconhecimento de imagens, diagnóstico auxiliar, recolha de registos médicos e apoio à decisão médica, mas agora a IA está gradualmente a começar a ganhar autoridade real na tomada de decisões clínicas.
Se esses pilotos puderem provar que a IA pode concluir com segurança algumas tarefas médicas de baixo risco sob restrições estritas e revisão contínua, outros estados dos EUA poderão recorrer a modelos semelhantes no futuro para flexibilizar ainda mais o escopo das aplicações de IA na área médica.
Por outro lado, se ocorrerem erros médicos graves durante o processo piloto, se o sistema for atacado ou se os julgamentos da IA se desviarem significativamente dos dos médicos profissionais, então a experiência de Utah também poderá tornar-se um caso importante para as agências reguladoras reforçarem a autoridade da IA médica.
Não importa qual seja o resultado final, o experimento em andamento em Utah significa uma mudança clara: o estágio da inteligência artificial entrando na indústria médica está gradualmente passando de "ajudar os médicos a trabalhar" para "tomar decisões médicas diretamente dentro de um escopo limitado". Se a IA pode assumir esta responsabilidade não será mais apenas uma questão técnica no laboratório, mas será cada vez mais testada através de pacientes reais e prescrições reais.
Comentários