AI in de zorg
Blogs
Artificial intelligence (kortweg AI) is steeds meer verweven in ons dagelijkse leven, zo ook in de zorg. Het gebruik van AI in de zorg roept veel vragen op. Hoe zit het met de privacy? En wat zegt de huidige wetgeving hierover? Deze vragen zijn niet gek, we hebben het tenslotte over data van mensen. In deze blog duiken we in dit onderwerp en zetten we de belangrijkste punten op een rij.
Hoog risico in AI Act
Er zijn verschillende wetten en regels waar de zorgtechnologiebranche rekening mee houdt. Een hiervan is de Europese AI Act. De AI Act zorgt ervoor dat AI veilig en verantwoord wordt ingezet.
De AI Act werkt met een risicogebaseerde aanpak: hoe groter het mogelijke risico van een AI-toepassing, hoe strenger de eisen. Chatbots als ChatGPT vallen onder de categorie ‘beperkt risico’. AI-toepassingen die grote gevolgen kunnen hebben voor de gezondheid, veiligheid of grondrechten van mensen, kunnen worden aangemerkt als ‘hoog risico’. Dit kan ook gelden voor AI in zorgtechnologie. Niet alle zorgtechnologie met AI is automatisch hoog risico. Dit hangt af van het beoogde gebruik.
De reden dat AI in de zorg in sommige gevallen onder ‘hoog risico’ valt is omdat fouten gevolgen kunnen hebben voor de gezondheid en veiligheid van mensen, bijvoorbeeld als de AI een val of andere risicosituatie niet herkent. Dat AI-zorgtechnologie het label ‘hoog risico’ kan hebben, is alleen maar goed. Op deze manier stelt de wet duidelijke eisen aan aanbieders van AI-systemen die onder de hoog-risicocategorie vallen.
Regels voor hoog-risico AI
De belangrijkste regels voor zorgtechnologie in de AI Act*:
- Risicobeheer: risico’s voor veiligheid en gezondheid moeten continu worden geïdentificeerd en beperkt.
- Goede en geschikte data: gebruikte datasets moeten aan eisen voor kwaliteit en datagovernance voldoen.
- Technische documentatie: aantoonbaar vastleggen hoe het AI-systeem werkt en aan de eisen voldoet.
- Logging: het systeem moet gebeurtenissen automatisch kunnen registreren, zodat achteraf controle mogelijk is.
- Menselijk toezicht: een mens moet het systeem kunnen controleren en waar nodig kunnen ingrijpen.
- Nauwkeurigheid en betrouwbaarheid: het systeem moet voldoende accuraat, robuust en cyberveilig zijn.
- Conformiteitsbeoordeling: voor marktintroductie moet worden aangetoond dat aan de relevante eisen is voldaan.
*De AI Act wordt gefaseerd ingevoerd. Voor verschillende categorieën hoog-risico-AI gelden daarom verschillende overgangstermijnen.
AI en privacy in de zorg
Naast de AI Act speelt bij AI in de zorg ook privacywetgeving een belangrijke rol. Wanneer persoonsgegevens worden verwerkt, moet onder andere rekening worden gehouden met de Algemene verordening gegevensbescherming (AVG). Juist omdat zorggegevens bijzonder gevoelig kunnen zijn, is het belangrijk om al bij het ontwerp van zorgtechnologie rekening te houden met privacy en gegevensbescherming.
In de praktijk
We weten nu dat er strenge eisen in Europa zijn gesteld aan het gebruik van AI in slimme zorgtechnologie, maar wat betekent dit in de praktijk?
Bij Avics hebben we te maken met de AI-wetgeving bij onze laatste versie Slimme Optische Sensor. De AI in de sensor detecteert objecten en (de bewegingen van) mensen en vertaalt deze naar anonieme figuren. Zo is het in staat om verschillende acties en risico’s, zoals bijvoorbeeld liggen op de grond, te detecteren. Bij de ontwikkeling en inzet van onze producten – bijvoorbeeld de SOS – houden we rekening met de geldende wet- en regelgeving, waaronder de AI Act.
Voor zorgorganisaties betekent dit dat niet alleen gekeken wordt naar wat AI-technologie kán, maar ook naar hoe betrouwbaar en veilig deze technologie is. AI ondersteunt de zorgmedewerker, maar neemt de menselijke verantwoordelijkheid niet zomaar over.
