O Que o Novo Relatório Diz Sobre os Riscos da IA na Saúde?

Descubra o que um relatório recente avalia sobre os riscos da IA na saúde e seu impacto negativo na área da medicina

De antemão, um novo relatório do Swiss Re Institute aponta que os setores de saúde e farmacêutico enfrentarão os maiores impactos dos efeitos adversos da inteligência artificial (IA) nos próximos dez anos.

O estudo, nesse sentido, analisa os riscos emergentes da IA em várias indústrias, abordando a possibilidade e gravidade de incidentes de perda. Isso está relacionado a vieses de dados, ciberataques, riscos algorítmicos e de desempenho, entre outros desafios, por exemplo.

O Que Esperar dos Riscos da IA na Saúde?

“Embora os serviços de TI sejam atualmente os mais afetados pelos riscos da IA, como pioneiros nesta área, isto está prestes a mudar à medida que o uso da tecnologia se torna mais disseminado em todas as indústrias, como saúde e mobilidade."
- Christoph Nabholz, diretor de pesquisa e sustentabilidade da Swiss Re

À medida que a indústria da saúde continua a integrar a inteligência artificial para aprimorar funções como administração hospitalar, monitoramento de pacientes, diagnóstico e desenvolvimento de medicamentos, os benefícios são acompanhados por riscos significativos. Algoritmos de IA com falhas ou enviesados, por exemplo, podem resultar em diagnósticos errôneos, potencialmente levando a consequências graves ou até mesmo fatais para os pacientes.

Além da saúde, outras indústrias que enfrentarão desafios consideráveis com a adoção da IA nos próximos oito a dez anos incluem mobilidade e transporte, seguido por energia e serviços. No setor de mobilidade e transporte, a implementação de sistemas de direção conectada e automatizada por IA representa um risco significativo.

Por outro lado, o setor de energia está se preparando para adotar a IA de forma extensiva, especialmente durante a transição para emissões zero líquidas. Isso porque requer a eletrificação e a criação de redes inteligentes para garantir eficiência e sustentabilidade a longo prazo.

Visão de Especialista

Sob o mesmo ponto de vista, Pravina Ladva, diretora digital e de tecnologia da Swiss Re, destaca que os benefícios da inteligência artificial são significativos para diversas indústrias, porém os riscos associados podem criar vulnerabilidades.

Como uma indústria que atua como amortecedor de choques, o setor de resseguros/seguros é crucial na gestão dos riscos relacionados à IA e na construção da confiança digital necessária para explorar plenamente o potencial dessas tecnologias emergentes.

Referência: Portal Hospitais Brasil.