Uso de IA na Medicina Requer Regulamentação nos EUA; Entenda
Saiba mais sobre por que a IA na medicina requer regulamentação, em um novo sistema de etiquetagem para aplicativos nos Estados Unidos
A integração da inteligência artificial (IA) na prática médica tem se tornado uma realidade inovadora, com médicos utilizando essa tecnologia para aprimorar a comunicação com os pacientes e obter melhores diagnósticos. No entanto, o governo dos Estados Unidos visa, a longo prazo, que o uso de IA na medicina requer regulamentação a fim de assegurar a segurança no âmbito da saúde.
Segundo informações do Wall Street Journal, reguladores federais estão propondo a implementação de um novo sistema de etiquetagem para aplicativos de IA na área da saúde. Assim, essa iniciativa visa facilitar aos especialistas clínicos a identificação de possíveis falhas e limitações dessas ferramentas.
A administração americana sugere a adoção de uma espécie de “etiqueta nutricional” para esses aplicativos, fornecendo informações sobre como foram treinados, seu desempenho, além de instruções para uso adequado e inadequado.
Uso de IA na Medicina Requer Regulamentação?
Em abril, o Escritório do Coordenador Nacional de Tecnologia da Informação em Saúde (ONC), divulgou uma proposta de etiqueta nutricional. Responsável por certificar software de registro eletrônico de saúde, ele estabelece requisitos de certificação que funcionam como regulamentações do setor. Em suma, os hospitais e médicos precisam da aprovação do ONC antes de adquirir esses softwares.
A proposta busca implementar uma etiqueta nutricional para sistemas de IA, revelando detalhes sobre como o modelo foi treinado e testado, seus usos pretendidos e métricas de “validade e justiça”. Embora o ONC não determine a aparência específica da etiqueta, exige que as informações sejam visíveis para médicos, administradores hospitalares e outros através do software certificado pelo ONC.
O ONC justifica essa iniciativa apontando para evidências de problemas em sistemas de IA amplamente utilizados. Em 2019, um algoritmo utilizado por hospitais apresentou viés racial.
Estudo de 2021
Há dois anos, um sistema de IA para detecção precoce de sepse, embora amplamente implementado, demonstrou previsões imprecisas. A proposta do ONC, entretanto, suscita preocupações, especialmente em relação à descrição dos dados de treinamento de sistemas de IA, que algumas empresas consideram equivalente a divulgar seu “segredo industrial”.
Inteligência Artificial e Seus Riscos na Saúde
A integração da IA nos sistemas de saúde já está transformando a prática médica, permitindo que médicos capturem informações sobre sintomas dos pacientes sem a necessidade de notas manuais. Essa tecnologia também capacita a revisão de prontuários de saúde, comparando-os com uma ampla gama de dados de outros pacientes, e oferecer sugestões de diagnósticos ou exames.
No entanto, algumas tecnologias de anotação, por exemplo, geraram relatórios com erros, terminologia médica inadequada e inclusão de medicamentos não prescritos aos pacientes. Além disso, essas inovações podem produzir previsões injustas, baseadas em características como raça ou nível de renda do paciente, perpetuando desigualdades na área da saúde.
Embora a transparência seja amplamente defendida por empresas de tecnologia e gestores de sistemas de saúde, a proposta da etiqueta nutricional para sistemas de IA é vista por muitos como excessivamente onerosa. Há preocupações de que essa medida possa restringir investimentos na área, destacando um delicado equilíbrio entre promover a transparência e incentivar o desenvolvimento contínuo dessas tecnologias inovadoras na saúde.
Referência: Portal Olhar Digital.
Siga a SPX nas redes sociais
Gostou? Clique aqui e siga a SPX Clínica nas redes sociais e fique por dentro de todas as novidades sobre saúde!
