Notícia.

Inteligência artificial nos cuidados de saúde: os EUA enfrentam desafios com o Regulamento

O regulador dos EUA, a FDA, está planejando novas diretrizes para garantir a segurança e o avanço da inteligência artificial nos cuidados de saúde. Do ponto de vista médico, isto significa que num futuro próximo as pessoas poderão utilizar a tecnologia para responder às suas perguntas. Mas como podemos garantir que esta interação é verdadeiramente segura?

Este é um dos dilemas enfrentados pela Food and Drug Administration (FDA), uma agência federal dentro do Departamento de Saúde e Serviços Humanos dos EUA. As organizações responsáveis pela aprovação e regulamentação de dispositivos médicos de inteligência artificial no mercado dos EUA enfrentam o desafio de acompanhar o ritmo das atualizações tecnológicas e, ao mesmo tempo, garantir que não causem mais danos do que melhorem o atendimento ao paciente.

De 2020 a 2022, a FDA aprovou mais de 300 dispositivos médicos com capacidades de inteligência artificial, marcando a rápida adoção desta tecnologia na área médica. Portanto, as organizações estão introduzindo novas diretrizes para o mercado. Se o FDA aprovar uma versão de um dispositivo, somente essa configuração poderá ser vendida. Novas atualizações exigem nova aprovação dos reguladores. O problema é que os algoritmos que os dispositivos de inteligência artificial costumam usar precisam ser atualizados rapidamente. Com isto em mente, as agências têm trabalhado para criar políticas novas e mais flexíveis, tais como planos predefinidos de gestão de alterações.

O Guia destina-se aos desenvolvedores de inteligência artificial para explicar as mudanças esperadas na tecnologia em seus planos. Depois que o FDA aprova um dispositivo, as empresas podem atualizar o produto conforme planejado, sem exigir aprovação adicional.

Troy Tazbaz, diretor do Centro de Excelência em Saúde Digital da FDA, explicou os objetivos do projeto em entrevista a Wall Street: Trata-se de garantir alguma flexibilidade para continuar a expandir os limites da inovação para o mercado. Uma barreira protetora que você define ao aprovar um produto. Um plano de controle de mudanças prescrito não é a única ideia da FDA, algumas autoridades também estão discutindo a possibilidade de exigir o monitoramento em tempo real dos dispositivos de inteligência artificial assim que chegarem ao mercado. Mas, na realidade, a ideia exigiria poderes legais que as autoridades ainda não possuem.

As empresas do setor estão divididas quanto à regulamentação de produtos médicos de IA. Algumas pessoas apoiam as novas diretrizes da FDA e veem isso como uma oportunidade para melhorar seus produtos ao longo do tempo. Mas alguns estão preocupados com riscos potenciais, como o viés algorítmico. A inteligência artificial causa tipos muito diferentes de danos. Os danos causados pelos algoritmos são difíceis de entender e explicar. A FDA dá muita liberdade aos fabricantes. Além disso, prever atualizações de inteligência artificial não é uma tarefa fácil, por isso as organizações procuram maior clareza nas novas diretrizes.

É difícil saber antecipadamente quais mudanças você deseja fazer. A única coisa que sabemos ser previsível na ciência é que ela é imprevisível. Após a recente divulgação das orientações da FDA, ela anunciou que orientações adicionais serão divulgadas em breve, à medida que nos esforçamos para compreender e acompanhar os avanços neste campo.