In april jl. heeft de Europese Commissie een voorstel voor een Artificial Intelligence Act (AIA) gepubliceerd. Het doel van de AIA is een uniform sectoroverschrijdend juridisch kader te schaffen met betrekking tot de ontwikkeling, het gebruik en het op de markt brengen van AI-toepassingen.

Het Bundesverband Medizintechnologie (BVMed), de Duitse associatie voor medische technologie, reageerde in augustus 2021 met een position paper. Daarin onderstrepen zij het potentieel van AI-toepassingen in de geneeskunde op het gebied van preventie, diagnose en therapie. Hoewel zij in principe de harmonisatie van AI-regelingen begroeten, waarschuwen zij voor een overregulering, omdat dit innovaties in de weg kan staan. Met de nieuwe Europese Medical Device Regulation (MDR), die eind mei in werking is getreden, worden veiligheid en kwaliteit van gecertificeerde medische producten reeds gewaarborgd. Ten behoeve van de ontwikkeling van innovatieve AI-oplossingen is vooral toegang tot medische gegevens essentieel en zou proactief mogelijk gemaakt zou moeten worden, ook voor medtech-bedrijven.

Concreet zou BVMed op de volgende negen punten wijzigingen in de ontwerp-AIA willen zien.

1. In de AIA worden vrijwel alle medische producten als hoogrisicoproducten geclassificeerd. BVMed wil dat hier meer naar de context van de toepassing moet worden gekeken en er meer onderscheid wordt gemaakt. De AIA lijkt ervanuit te gaan dat de AI in alle gevallen volledig zelfstandig werkt en houdt geen rekening met toepassingen waarin een AI-systeem een arts of verpleger slechts ondersteunt.
2. De definitie van kunstmatige intelligentie in de AIA is te breed en moet worden aangescherpt. Zoals AI nu beschreven is, zouden met de invoering van de AI ook simpele, niet op AI gebaseerde softwaretoepassingen aan strengere voorschriften moeten voldoen.
3. In het AIA-ontwerp wordt meermaals voor bias gewaarschuwd. Ten behoeve van innovatie is het noodzaak dat er geen onmogelijke vereisten aan medtechbedrijven worden gesteld, en dat AI ondanks de kans op bias alsnog moet worden kunnen ingezet, als het systeem een hartinfarct of Alzheimer kan herkennen. BVMed wijst erop dat bias vaak ook wordt veroorzaakt door een tekort aan gegevens waarmee het AI-systeem gevoed wordt en pleit daarom voor een betere toegang, als ook een beter juridisch kader met betrekking van het gebruik van medische persoonsgegevens voor onderzoek en ontwikkeling.
4. In de verordening moeten alleen de basisvereisten op het gebied van veiligheid en kwaliteit vastgelegd worden, concrete vereisten voor AI-medtech moeten in geharmoniseerde normen worden vastgelegd. Daarbij moet ook rekening worden gehouden met al bestaande regelingen. Zo wordt vermeden dat de mogelijkheden van AI-medtech al bij voorbaat worden beperkt.
5. In de definitie op wie de AIA betrekking zal hebben, worden ook aanbieders en gebruikers van AI-systemen in niet-EU-staten genoemd, wanneer de door hun AI-systeem geproduceerde output binnen de EU wordt gebruikt. Daarbij is niet geheel duidelijk wat onder output wordt verstaan – momenteel is het zo te interpreteren, dat ook onderzoeksresultaten die voor de ontwikkeling van eigen AI-systemen worden gebruikt aan de AIA onderhevig zijn. Dit moet daarom worden opgehelderd.
6. Vanwege verordeningen zoals de AIA en de MDR worden op AI gebaseerde medische producten bedreigd door dubbele controle, wat de ontwikkeling van innovatieve medische producten remt.  
7. De omvang en het eindpunt verplichtingen voor handelaren moet duidelijker en preciezer worden gedefinieerd. Hoe vereisten in de AIA nu zijn geformuleerd, dreigen onduidelijkheden met betrekking tot de verantwoordelijkheden van verschillende acteuren in de leverketen.
8. De vereiste voor een gemeenschappelijke technische documentatie voor hoogrisico-AI door de AI-producent en de producent van het medische product kan de samenwerking tussen bedrijven ingewikkelder maken, aangezien hiervoor mogelijk IP moet worden gedeeld. Hier pleit BVMed voor een uitzonderingsregel wanneer de producenten van de technologie en de AI niet identiek zijn.
9. Door de nieuwe vereisten door de MDR sinds mei 2021 en de IVDR vanaf mei 2022, en de daarmee gepaard gaande extra controles, is het van groot belang dat er voldoende menskracht bij de notified bodies is.