Por que o FDA está ficando estrito com a IA

Principais vantagens

• O FDA lançou recentemente um plano de ação para regular a inteligência artificial no campo da tecnologia médica.
• Um componente chave do plano é permitir a revisão das modificações do algoritmo com antecedência, o que irá acelerar os processos.
• Os especialistas dizem que essas regulamentações são um passo na direção certa e terão um grande impacto no atendimento ao paciente.

Na semana passada, a Food and Drug Administration (FDA) lançou seu primeiro plano de ação de inteligência artificial / aprendizado de máquina para fornecer supervisão a esse tipo de tecnologia em crescimento na área médica. Embora tenhamos visto a IA usada em muitos setores diferentes, como a indústria de alimentos, o espaço de segurança e a indústria de varejo, a tecnologia ainda não está regulamentada. No entanto, os especialistas acreditam que esta tecnologia em rápida evolução proporcionará enormes benefícios para médicos e pacientes – se regulamentada por diretrizes. “Regular a IA não é apenas uma coisa boa, mas essencial para proteger os pacientes e construir confiança nesta tecnologia promissora”, escreveu Sam Surette, chefe de assuntos regulatórios e garantia de qualidade da Caption Health, para Lifewire em um e-mail. “A supervisão da FDA garante que os produtos em campo tenham demonstrado segurança e eficácia por meio de testes de desempenho rigorosos.”

Abordagem da FDA para IA

O plano do FDA gira em torno da transparência e do monitoramento de desempenho para fornecer aos dispositivos médicos de IA uma garantia de segurança e eficácia. Alguns dos principais componentes do plano de ação incluem apoiar os esforços da ciência regulatória para desenvolver uma metodologia para avaliar e melhorar os algoritmos de aprendizado de máquina (incluindo a identificação e eliminação de preconceitos). O plano também descreve como a FDA pretende descobrir práticas apropriadas de desenvolvimento de aprendizado de máquina, trabalhar com as partes interessadas que estão testando o processo e muito mais.

“O plano descreve uma abordagem holística com base na supervisão do ciclo de vida total do produto para promover o enorme potencial que essas tecnologias têm para melhorar o atendimento ao paciente, ao mesmo tempo que oferece funcionalidade de software segura e eficaz que melhora a qualidade do atendimento que os pacientes recebem”, Bakul Patel, diretor Centro de Excelência em Saúde Digital no Centro de Dispositivos e Saúde Radiológica, disse no comunicado de imprensa do FDA. Patel acrescentou que o plano de ação mudaria com o tempo, à medida que novos aplicativos para a tecnologia fossem lançados e melhorados. “Para se manter atualizado e abordar a segurança do paciente e melhorar o acesso a essas tecnologias promissoras, prevemos que este plano de ação continuará a evoluir ao longo do tempo”, disse ele. “Regular a IA não é apenas uma coisa boa, mas essencial para proteger os pacientes e construir confiança nesta tecnologia promissora.” Surette disse que talvez o aspecto mais importante do projeto do FDA para regular a IA seja esse “plano de controle de mudança predeterminado”, que permitirá modificações ao longo do tempo. “O uso desses planos de controle de mudança predeterminados permite que o FDA analise possíveis modificações com antecedência, evitando a necessidade de uma nova revisão pré-mercado antes de cada atualização significativa do algoritmo”, escreveu ele. Joe Mullings, presidente e CEO do The Mullings Group, disse que a estrutura de IA do FDA não poderia vir em melhor hora, já que os algoritmos de IA estão sempre mudando. “AI usa algoritmos, e algoritmos ainda são uma espécie de arte negra, então ter um guardião como o FDA é fundamental”, disse ele Lifewire em uma entrevista por telefone. “[AI] usado da maneira adequada terá um impacto sobre a saúde em uma escala dramática que nunca vimos antes. ”

Impactos de mais IA na área da saúde

Os especialistas dizem que há prós e contras da IA ​​na área da saúde e que o FDA precisa levar em consideração ambos para garantir a regulamentação adequada. No que diz respeito aos benefícios, Mullings disse que os regulamentos de IA em tecnologia médica permitiriam que as soluções para o atendimento individual ao paciente ocorressem ainda mais rapidamente. “Estamos levando esses clínicos, médicos e cirurgiões de classe mundial, e podemos dar-lhes um nível mais alto de informação para que tomem suas decisões; pegando um já excelente clínico, médico ou cirurgião e tornando-o equilibrado maior “, disse ele. Ele acrescentou que os médicos podem decidir em nome dos pacientes com uma taxa de precisão mais alta do que o fariam de outra forma.

Com a orientação do FDA, isso significa que será mais fácil fazer coisas como usar IA para ler imagens de radiologia, adquirir e interpretar exames de ultrassom e até mesmo acelerar o processo de detecção de COVID-19 em pacientes hospitalares por meio da análise de amostras de sangue de rotina. No entanto, existem outras implicações quando se trata de IA e seus algoritmos criados por humanos. Mullings apontou para os problemas da IA ​​com preconceito, especialmente em relação às pessoas de cor. “Estamos enfrentando problemas em testes clínicos que não estão analisando totalmente as pessoas de cor e estão super indexando em relação à população branca”, disse Mullings. “Algoritmos são equações escritas por um ser humano que terão um viés inconsciente. Esse viés embutido então amplifica essa falha potencial e, depois de um tempo, um médico está tomando decisões cegas com ele.” Ainda assim, a esperança é que esse preconceito e outros obstáculos da IA, como o longo processo de coleta e rotulagem de dados, diminuam significativamente com essas novas regulamentações. “A comunidade de saúde digital tem valorizado a abordagem proativa da FDA à IA”, escreveu Surette. “Este Plano de Ação de IA lançado pelo FDA representa o próximo passo na supervisão regulatória do tamanho certo deste campo relativamente nascente, o que deve ser encorajador para a comunidade de tecnologia médica.”