AI moet na update even betrouwbaar blijven
project Vivaldy gericht op kostenefficiënte oplossingen
In het Europese Vivaldy-project (Verification and Validation of AI-enabLed Systems) werkte VITO met Belgische partners zoals Barco en icometrix aan oplossingen om kostenefficiënt upgrades bij AI-gebaseerde medische toestellen opnieuw te verifiëren, te valideren en te certificeren.
Meerwaarde van Slimme medische apparatuur
Artificiële intelligentie zorgt, ook in de gezondheidszorg, voor veel vooruitgang. AI-gebaseerde medische toestellen zoals bv. een medische scanner, of een computerprogramma dat een laesie kan detecteren op een MRI-scan, kunnen een meerwaarde bieden in de diagnose van aandoeningen en de behandeling van patiënten.
Updates noodzakelijk
Het is echter belangrijk dat geavanceerde AI-gebaseerde medische toestellen regelmatig een upgrade kunnen krijgen nadat ze op de markt zijn gekomen. Door die upgrades blijft het systeem functioneel en kunnen er nieuwe verbeteringen toegevoegd worden.
Een gevolg hiervan is echter dat de initiële verificatie en validatie van het toestel snel aan bewijskracht verliest, terwijl telkens opnieuw nieuwe medische data verzamelen tijdrovend en duur is.
Dit geldt voor alle professionele gezondheidszorgsystemen waarbij de veiligheid van de patiënt vooropstaat. Cruciaal is dat de uitkomst van die upgrades even betrouwbaar en efficiënt is als het oorspronkelijk gecertificeerde systeem.
Opnieuw verifiëren
In België (icometrix en Barco) en Nederland (Philips) staan bedrijven voor de uitdaging om op kostenefficiënte wijze upgrades van AI-gebaseerde medische toestellen opnieuw te verifiëren, te valideren en te certificeren en zo het beoogde gebruik ervan te waarborgen, terwijl ze kunnen concurreren met de ontwikkelingssnelheid van Amerikaanse en Aziatische bedrijven.
Vivaldy op zijn einde
Dat was net de bedoeling van het Europese Vivaldy-project, dat nu op zijn einde loopt. De resultaten werden bewezen op vier industriële use cases die elk gericht zijn op een specifiek type upgrade, variërend van hardwarecomponenten tot AI-toepassingen.
Via besprekingen met certificeringsinstanties in de gezondheidszorg en partners die actief zijn in andere domeinen van de veiligheidskritische industrie, heeft Vivaldy haar resultaten en richtlijnen verspreid onder een breder publiek, en draagt het bij tot nieuwe normen voor certificering.
Bron: VITO