We kunnen er niet (meer) omheen: AI is hot. Kunstmatige Intelligentie staat al lang niet meer in de kinderschoenen en heeft zich ontwikkeld van kleinschalig hobbyisme naar volwaardige toepassing binnen allerlei facetten van het bedrijfsleven. Gebruik van AI kan de kwaliteit van dienstverlening optimaliseren, productiviteit verhogen en kosten besparen. Ook zorginstellingen gaan zich steeds meer verdiepen in gebruik van AI. Maar waar moet u op letten? Aan de hand van een kort voorbeeld bespreken we de belangrijkste aandachtspunten bij de aanschaf van AI.
Kunstmatige Intelligentie (of: AI) is geen vastomlijnd juridisch begrip. In het kort zou je AI kunnen omschrijven als het concept waarbij computers grote hoeveelheden data analyseren en op basis daarvan “intelligent” gedrag vertonen. Denk bijvoorbeeld aan een tool die met hoge mate van nauwkeurigheid kan voorspellen welke patiënten komen opdagen bij een consult, of die artsen ondersteunt bij het analyseren van MRI-scans.
Binnen het zorgdomein kan de inzet van AI erg aantrekkelijk zijn. Stel dat uw ziekenhuis wordt benaderd door een leverancier die is gespecialiseerd in softwaretools voor beeldanalyse. De leverancier zou graag toegang willen krijgen tot scans van patiënten waarbij huidkanker is vastgesteld, om op die manier een softwaretool te ontwikkelen die huidkanker in een vroeg stadium kan herkennen. U krijgt vervolgens een flinke korting op de aanschafkosten daarvan. Herkenbaar? Zorg dan dat u de onderstaande tips doorleest vóórdat u met de leverancier in onderhandeling treedt.
Voordat u met de leverancier in zee gaat, is het van belang een helder beeld te krijgen van de AI-oplossing, de betrokken partijen en de risico’s. Zorg er daarom voor dat u vooraf duidelijkheid krijgt over de onderstaande vragen:
Wat voor AI neem ik af, en wat zijn de kosten?
Welke data is er nodig, aan wie wordt daartoe toegang verleend en voor hoe lang?
Wat zijn de juridisch relevante aspecten?
Welke risico’s loop ik, en kan ik die eventueel contractueel beperken?
De leverancier zal uw eerste aanspreekpunt zijn voor beantwoording van vraag 1 & 2. Zorg ervoor dat u goed begrijpt wat u wordt aangeboden en schroom niet om vragen te stellen. Ook is het verstandig om al in een vroeg stadium inzicht te krijgen in het kostenplaatje en uw aannames te verifiëren: dit voorkomt dat u voor onplezierige verrassingen komt te staan.
AI en big data gaan hand in hand. Voor een goede werking heeft de tool enorme hoeveelheden doorzoekbare data nodig. Zorg er daarom ook voor dat u die data daadwerkelijk kan en mág aanleveren en zorg dat de toegang tot die data goed beveiligd is. Vraag ook kritisch door naar eventueel gebruik van data voor andere doeleinden. De ervaring leert dat leveranciers zichzelf bij voorkeur het recht voorbehouden om de data te (blijven) gebruiken om hun algoritmen te trainen en daarmee hun product te verbeteren. Voor bepaalde leveranciers is dit zelfs een niet-onderhandelbaar punt. Zeker in de zorg, waar de data in veel gevallen zullen kwalificeren als bijzondere persoonsgegevens, is dit een potentieel breekpunt en zeker niet iets waar je pas in de contractfase achter wil komen.
Er bestaan geen specifieke bepalingen die zien op de aanschaf of toepassing van AI binnen het zorgdomein. (1) In principe wordt daarom teruggevallen op het algemene civiele recht.
Bepalingen ten aanzien van (product)aansprakelijkheid en rechten van intellectuele eigendom zijn van belang bij de aanschaf van AI.
Daarnaast zal per geval beoordeeld moeten worden of er aanvullende specifieke wettelijke bepalingen gelden. Zo maakt AI gebruik van grote hoeveelheden data, waardoor de privacy-aspecten van belang zullen zijn (zie deel 2 van deze blogpost).
AI-oplossingen binnen het zorgdomein kwalificeren mogelijk als een medisch hulpmiddel, waardoor er strenge(re) eisen gelden voor het gebruik daarvan. Op 26 mei 2021 is namelijk de EU-Verordening voor medische hulpmiddelen (MDR) in werking getreden. Door aanpassing van de definitie van ‘medisch hulpmiddel’, zullen meer softwareapplicaties als medisch hulpmiddel worden aangemerkt.
Ook de wet op de geneeskundige behandelingsovereenkomst (WGBO) en de Wet kwaliteit, klachten en geschillen zorg (Wkkgz) kunnen aanvullende verplichtingen met zich meebrengen. Daarbij kunnen ook de dwingendrechtelijke bepalingen van art. 7:446 BW e.v. die zien op de geneeskundige behandelingsovereenkomst van belang zijn.
Wanneer u een goed beeld heeft van het juridisch kader, kunt u zich ook een goed beeld vormen van de risico’s die bij de aanschaf en toepassing van de tool een rol spelen. Uiteindelijk zullen de risico’s afgedekt worden in een gedegen contract. Daarbij speelt niet alleen de aansprakelijkheidsverdeling een rol (inclusief de nodige vrijwaringen, bijvoorbeeld voor security-inbreuken, IE-inbreuken of datalekken), maar ook de eventuele eigendomsverdeling, auditrechten, een gedegen SLA en waar nodig een exit-clausule.
Kortom: De aanschaf van AI-toepassingen kunnen ook binnen het zorgdomein van grote waarde zijn. Het is van belang om al in een vroeg stadium de (juridische) risico’s te identificeren. Denk daarbij niet alleen aan specifieke wettelijke verplichtingen (AVG, MDR), maar ook aan een gedegen risicoverdeling in het contract.
Voetnoten
(1) Wel heeft de Europese Commissie inmiddels Richtlijnen opgesteld waaraan betrouwbare AI-oplossingen zouden moeten voldoen, zie: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.
