In de blogserie ‘Gezonde Bytes’ onderzoekt het Rathenau Instituut hoe kunstmatige intelligentie (AI) verantwoord voor onze gezondheid wordt ingezet. In dit vijfde deel vertellen Heleen Miedema, Katja Haijkens en Govert Verhoog over de implicaties van toenemend gebruik van technologie in de zorg voor de opleiding van zorgprofessionals.
Als opleidingsdirecteuren van de studies Technische Geneeskunde, Biomedische Technologie en Gezondheidswetenschappen aan de Universiteit Twente hechten zij er belang aan dat studenten een kritische, reflectieve houding ontwikkelingen ten opzichte van AI en andere technologie in de zorg.
Ontwikkelingen in de ICT hebben het mogelijk gemaakt om veel data te verzamelen en daar datasets mee te bouwen. AI is een volgende stap in de ICT-ontwikkeling. Automatische beslissystemen kunnen met AI patronen in de omvangrijke data ontdekken en zo beslissingen ondersteunen, bijvoorbeeld in de gezondheidszorg. Het is van belang dat je de context van de data begrijpt en de manier waarop de data zijn gegenereerd, om zo de uitkomsten beter te kunnen duiden.
Om AI verantwoord in de zorg in te zetten, is het nodig naar de basis terug te gaan: naar de onderliggende data en de manier waarop die verwerkt wordt. Kun je uit die data inderdaad de informatie halen die nodig is? Hoe wordt deze data opgeslagen, wat zijn de criteria daarvoor en met welk doel gebeurt dat? Ook een basale vraag is welke beslissingen AI zou moeten ondersteunen. Je kunt wel de juiste database hebben, maar wat voor beslissingen moeten computers daar dan mee maken? Welk belang dienen de automatische beslissystemen en aan wat voor ondersteuning is echt behoefte?
Het is belangrijk te beseffen dat niet één groep in de samenleving verantwoordelijk is voor de ontwikkeling van AI. Verschillende groepen mensen moeten vanuit verschillende disciplines betrokken worden bij technologische ontwikkelingen. Het gaat niet alleen om wat technologisch mogelijk is, maar ook om wat de samenleving met die technologie wil bereiken en hoe de toepassing ervan de gezondheidszorg kan verbeteren.
Het is de verantwoordelijkheid van de universiteit dat studenten weten waar een technologie vandaan komt, zodat zij ook voor een volgende technologische ontwikkeling de maatschappelijke betekenis kunnen begrijpen. De universiteit heeft ook de verantwoordelijkheid dat studenten het perspectief van patiënten begrijpen, zodat zij zorgtechnologie en gezondheidszorg optimaal aan elkaar kunnen koppelen.
Het is de bedoeling dat studenten technische geneeskunde, biomedische technologie en gezondheidswetenschappen aan de Universiteit Twente een breed perspectief op technologie ontwikkelen. Zij leren niet alleen oog te hebben voor de technologie zelf, voor geld of regelgeving, maar ook voor de patiënt of de cliënt.
Onlangs werden studenten uit verschillende landen op het terrein van de universiteit uitgedaagd om een rolstoel te ontwerpen. Een groep studenten ontwikkelde een briljante rolstoel, die alles kon wat technologisch mogelijk is, maar zo loodzwaar was dat geen oma er gebruik van zal maken. Andere studenten ontwierpen een rolstoel vanuit het perspectief van een blinde jongen die moeite had zijn weg te vinden in het gangenstelsel van een school met een lesrooster dat steeds verandert. Deze rolstoel had maar één functie: de jongen te helpen om zich te verplaatsen van het ene naar het andere lokaal, op basis van het meest actuele rooster.
De studenten die de tweede rolstoel ontwikkelden, hebben begrepen waar het om gaat. Zij stelden zich de vraag wat het probleem is dat werkelijk aangepakt kan worden met behulp van technologie. Studenten moeten worden opgeleid om tot producten zoals het tweede type rolstoel te komen.
Hoe verantwoord een technologie is, is afhankelijk van de ontwerper en van zijn perspectief op de wereld. Studenten moeten zich hiervan bewust worden. Zij ontwikkelen een kritische, reflectieve houding ten opzichte van AI en andere technologie in de zorg. Studenten stellen zichzelf vragen als: wat is de belofte van de technologie? Welke mogelijke andere (en onbedoelde) toepassingen heeft die technologie? Wat zijn de voor- en nadelen en de risico’s ervan?
Wie blind vertrouwt op de technologie, kan op het verkeerde been worden gezet. Een 3D-echoapparaat, bijvoorbeeld, genereert een beeld van de werkelijkheid op basis van geluidsgolven. Het is niet zeker of het beeld inderdaad de werkelijkheid weergeeft, of daar slechts een marginale weergave van is. Dat iets niet te zien is op een echoscopie, betekent nog niet dat het er ook echt niet is. Zorgprofessionals moeten zich daarvan bewust zijn.
Bovendien is veel technologie die nu in de zorg wordt ingezet, oorspronkelijk niet ontworpen voor gebruik in de gezondheidszorg. Robotica in de auto-industrie is iets anders dan robotica in de zorg. Elke auto van een bepaald type is identiek aan een andere auto van dat type, maar ieder mens is uniek. De gemiddelde mens bestaat alleen in de statistiek. Ook dit is reden om (toekomstige) zorgprofessionals een kritische houding te laten ontwikkelen ten opzichte van de technologie die zij gebruiken.
Een arts is een medisch expert, en geen technologisch expert. Hij heeft in zijn opleiding geen wiskunde, werktuigbouwkunde, ICT of natuurkunde gehad. Maar in zijn werk heeft technologie grote impact op zijn handelen. Het is een uitdaging, zowel voor de opleiding van zorgprofessionals als voor de ontwikkeling van zorgtechnologie, om hiermee rekening te houden.
Het kan een valkuil zijn om er automatisch van uit te gaan dat mensen iets van de technologie begrijpen. We verwachten veel van iedereen, terwijl we ons niet goed realiseren wat er nodig is aan informatie, training en scholing om AI verantwoord in de zorg in te zetten. Adequaat opgeleide professionals: dat is het doel van de Universiteit Twente met haar opleidingen Gezondheidswetenschappen, Biomedische Technologie en Technische Geneeskunde.
Dit artikel is ook te vinden in het dossier Privacy in de zorg en Jeugd & onderwijs
