Aangedreven door de vooruitgangen in kunstmatige intelligentie (AI), bereikt een golf van voorspellingsmodellen de gezondheidszorg, waarvan sommige al worden ingezet in Nederlandse ziekenhuizen. Veel van dergelijke modellen worden gebruikt in Amsterdam UMC. Onderzoek en regelgeving over veiligheid en robuustheid hebben zich in grote mate gericht op het bewijzen dat een AI-toepassing betrouwbaar is vóór de lancering. Recentelijke schandalen – vooral binnen de gezondheidszorg, maar niet beperkt tot dit domein – hebben echter aangetoond dat veel AI-toepassingen niet presteren zoals bedoeld nadat ze zijn geïmplementeerd in een klinische context voor beslissingsondersteuning. Beroemde mislukkingen omvatten een algoritme dat werd gebruikt om patiënten die medische zorg nodig hadden te prioriteren in de VS, en het QRisk-algoritme dat wordt gebruikt voor het beheer van cardiovasculair risico. Analyse van deze mislukkingen heeft topprioriteit, aangezien ze direct kunnen leiden tot meer negatieve uitkomsten.

Een groeiende gemeenschap van onderzoekers pleit voor een perspectief van causal inference in voorspellingsmodellen voor beslissingsondersteuning. Recent werk heeft aangetoond dat de implementatie van voorspellingsmodellen schadelijk kan zijn voor de uiteindelijke patiëntuitkomsten, zelfs als de modelprestaties uitstekend zijn. Er is al een begin gemaakt met het inventariseren van de blinde vlek van een niet-causale benadering van voorspellingsmodellering. Deze onderzoekslijn heeft implicaties voor het gehele veld van voorspellende modellering, zoals blijkt uit een reactie op de TRIPOD+AI-richtlijnen voor het rapporteren van klinische voorspellingsmodellen. Als gevolg hiervan is er meer werk nodig om de potentiële risico’s van het gebruik van voorspellingsmodellen voor beslissingsondersteuning te analyseren, om metrieken te ontwikkelen die daadwerkelijk bijhouden wat we willen, en om deze theoretische tools te gebruiken om de voorspellingsmodellen die momenteel in Amsterdam UMC worden gebruikt te beoordelen.

Het project dat aan deze vacature gekoppeld is, zal plaatsvinden in de Methodologie-groep van de afdeling Medische informatica onder begeleiding van Dr. Giovanni Cinà, voor een duur van twee jaar.

Wij zijn op zoek naar een postdoc die graag wil bijdragen aan de veiligere implementatie van machine learning (ML) methoden in zorginstellingen. Je zult onderzoeken hoe causal inference-technieken kunnen worden benut om de monitoring van uitgerolde medische AI-toepassingen te verbeteren. Deze verkenning zal een aantal methodologische onderwerpen behandelen die overlappen met causal inference, zoals distributieverschuiving en interpretatie.

Je zult efficiënte en schaalbare implementaties van je methoden leveren en deze integreren met populaire open-source systemen. Via je aansluiting bij de afdeling Medische informatica krijg je toegang tot verschillende grote datasets met tienduizenden patiëntgegevens.

Je zal voornamelijk bezig zijn met onderzoek, met een mogelijke betrokkenheid bij onderwijs, zoals het begeleiden van studentenscripties. Als onderdeel van de training voor senior functies wordt van jou verwacht dat je helpt bij organisatorische en leidinggevende taken, zoals de co-begeleiding van PhD-studenten of de organisatie van seminars.

Als postdoc wordt het volgende van je verwacht:

• Je hebt een PhD in informatica, epidemiologie, econometrie, machine learning, kunstmatige intelligentie, wiskunde, data science, medische informatica of een verwant vakgebied.
• Je hebt ervaring in causal inference, in de vorm van projecten en publicaties.
• Je hebt praktische ervaring met machine learning en gerelateerde bibliotheken (bijv. PyTorch, Sklearn) en sterke programmeervaardigheden in Python of R.
• Je hebt een creatieve en onafhankelijke denkwijze en werkt goed in multidisciplinaire omgevingen.
• Je spreekt vloeiend Engels.