Os desenvolvedores ou produtores de software, incluindo os fornecedores de sistemas de IA na aceção do Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho (Lei IA), devem ser considerados produtores. Ao avaliar se um produto é defeituoso, todas as circunstâncias são tidas em conta, incluindo o impacto no produto de qualquer capacidade de aprendizagem posterior ou aquisição de novas funcionalidades após a sua colocação no mercado ou em serviço.
Além disso, presume-se que um produto seja defeituoso se o autor provar que o produto não atende aos requisitos obrigatórios de segurança do produto estabelecidos na legislação da UE ou nacional, que visam proteger contra o risco de danos à pessoa lesada. Apesar do progresso significativo na pesquisa e desenvolvimento de dispositivos médicos baseados em IA e aprendizado de máquina (ML), sua presença no mercado permanece bastante limitada e sua integração na prática clínica é lenta. A Lei da IA, o Regulamento das Zonas Econômicas Europeias (ZPE) e a Diretiva de Responsabilidade pelo Produto visam apoiar a pesquisa, o desenvolvimento e a implantação de IA na área da saúde.
No entanto, diversos desafios devem ser enfrentados para garantir a implementação eficaz e eficiente de ferramentas de IA e ampliar sua implementação justa e equitativa na prática clínica. Para enfrentar esses desafios, a DG Saúde e Segurança Alimentar está implementando uma série de iniciativas interligadas no âmbito da iniciativa AICare@EU , que se baseia nos fundamentos fornecidos pelo quadro jurídico acima mencionado e se concentra na remoção das principais barreiras à implementação da IA na saúde, particularmente na prática clínica. Estudo sobre IA na Saúde: Esta iniciativa da DG Saúde e Segurança Alimentar visa explorar os desafios e os facilitadores da IA na prática clínica.
Os desafios identificados são agrupados em quatro áreas principais: desafios tecnológicos e de dados, barreiras legais e regulatórias, obstáculos organizacionais e comerciais e fatores sociais e culturais. Programa EU4Health (WP2024) – Convite à apresentação de propostas para melhorar a utilização da IA na saúde: Este convite, que expirou em janeiro de 2025, visa acelerar a utilização segura e eficaz de sistemas de IA em contextos clínicos e contribuir para uma maior integração da IA nos cuidados com a saúde.