Verantwoord innoveren met AI

Kunstmatige intelligentie (AI) wordt wereldwijd gezien als een transformatieve kracht, ook in de zorg. De snelle ontwikkeling van AI biedt steeds meer kansen. In de langdurige zorg voor ouderen wordt volop geëxperimenteerd met diverse AI-toepassingen, zoals slimme camera’s en sensoren voor zorg op afstand, spraakgestuurd rapporteren, en AI-chatbots als virtuele assistenten. Hoewel de inzet van AI bedoeld is als slimme ondersteuning, kan het echter ook onbedoelde neveneffecten met zich meebrengen, bijvoorbeeld op het gebied van privacy, menselijke relaties, professionele handelingsvrijheid en werkplezier. Daarom is een verantwoorde aanpak nodig die waarden, behoeften, kansen en risico’s zorgvuldig afweegt.

Dirk Lukkien promoveerde recent, begeleid door TIAS hoogleraar Mirella Minkman, Ellen Moors (UU), Henk Herman Nap (TU/e) en Alex Peine (OU), over hoe verantwoorde AI-innovatie wordt vormgegeven in de praktijk. Met andere woorden: hoe wordt verantwoordelijkheid genomen bij de ontwikkeling, invoering en het gebruik van AI in de langdurige zorg voor ouderen? Op basis van de inzichten vanuit verschillende deelstudies onderscheidt Lukkien drie onderling verbonden routes voor verantwoorde AI-innovatie.

1. Proactief balanceren tussen kansen en risico’s

Verantwoord innoveren betekent niet zozeer stelling nemen vóór of tegen AI, maar voortdurend afwegen wat een specifieke AI-toepassing oplevert én kost (financieel, sociaal, maatschappelijk en ethisch). Dat vraagt om proactieve reflectie en keuzes – van vroege fasen van ontwerp tot dagelijks gebruik. Verschillende casestudies binnen het proefschrift laten zien dat dit balanceren tussen kansen en risico’s nog niet vanzelfsprekend is binnen AI-innovatie.

2. Leren van en met gebruikers

Verantwoorde inzet van AI is nooit alleen een kwestie van slim en ethisch ontwerp (“ethics by design”). Het gaat om het geheel: hoe een systeem is ontworpen, hoe het daarna wordt ingebed in de praktijk, en hoe mensen het dagelijks gebruiken. Pas in dat samenspel ontstaat verantwoordelijkheid.

Gebruikersintermediairs, zoals zorgverleners met aanvullende technologische en ethische expertise, kunnen een sleutelrol vervullen in het samenspel tussen technologie en zorgpraktijk. Zij fungeren als brug tussen ontwikkeling en toepassing. Enerzijds kunnen zij met ontwikkelaars meedenken over behoeften uit de praktijk en over verantwoord ontwerp. Anderzijds kunnen zij gebruikers – bijvoorbeeld collega-zorgverleners – ondersteunen bij het zorgvuldig inbedden en het dagelijkse gebruik van AI in de zorg. Daarbij kunnen zij waardenconflicten bespreekbaar maken, signaleren wanneer eerdere keuzes heroverwogen moeten worden – bijvoorbeeld wanneer privacy voor een cliënt minder zwaar is gaan wegen ten opzichte van kwaliteit van zorg – en stimuleren tot reflectie op hoe AI-uitkomsten worden geïnterpreteerd, toegepast, genegeerd of juist te zwaar meegewogen. Gebruikersintermediairs kunnen een cruciale rol spelen bij verantwoorde AI-innovatie in de zorg, omdat niet van iedere individuele gebruiker dezelfde mate van verantwoordelijkheid en expertise kan worden verwacht.

3. Contextgevoelig opschalen

Opschaling van AI-toepassingen in de langdurige zorg bevindt zich op het spanningsveld tussen twee ogenschijnlijk tegenstrijdige ambities. Enerzijds vraagt verantwoorde AI om nauwe afstemming op lokale zorgpraktijken, uiteenlopende waarden en behoeften van ouderen en zorgprofessionals. Anderzijds bestaat de beleidsmatige en economische druk om succesvolle innovaties breder uit te rollen, zodat zij meer mensen bereiken en structurele impact hebben. Deze spanning is reëel, maar niet onoverkomelijk. Hoewel het wellicht in tegenspraak lijkt te zijn met maatwerk, kan standaardisatie hierbij een cruciale rol spelen. Door technische én niet-technische bouwstenen van AI-innovaties – denk bijvoorbeeld aan infrastructuur, modellen, interfaces, workflows, implementatieaanpakken en trainingsprogramma’s – modulair, configureerbaar en herbruikbaar te ontwikkelen, ontstaat ruimte voor maatwerk binnen een gedeelde basis. Verantwoord opschalen wordt daarmee een configuratievraagstuk: zorgorganisaties combineren robuuste, gestandaardiseerde bouwstenen op manieren die passen bij hun eigen context. Zo blijft ruimte voor maatwerk behouden, terwijl innovatie duurzaam en op grotere schaal kan worden geïmplementeerd.

Volgens Lukkien bieden de inzichten uit zijn onderzoek geen blauwdruk, maar wel richtinggevende inzichten voor zorgorganisaties, ontwikkelaars en beleidsmakers die AI willen inzetten zonder de menselijke maat uit het oog te verliezen. Het onderzoek richtte zich primair op de langdurige zorg voor ouderen, maar de beschreven routes zijn ook relevant voor andere zorgdomeinen waar technologie mensgerichte zorg moet ondersteunen.

Minkman benadrukt de relevantie van dit onderzoek: “Het onderzoek laat zien dat er binnen verschillende maatschappelijke en economische domeinen waarin technologie en AI een rol spelen professionals nodig zijn die de brug kunnen slaan tussen technologische mogelijkheden en maatschappelijke wenselijkheid en haalbaarheid. Professionals die interdisciplinaire samenwerking kunnen organiseren en versterken tussen ontwikkelaars, zorgverleners, cliënten, naasten, ethici, bestuurders, beleidsmakers en andere betrokkenen.

Alleen in gezamenlijke afstemming kunnen deze partijen waarborgen dat AI-toepassingen daadwerkelijk waarde toevoegen aan het leven en werk van mensen.”

Sinds 2015 werkt Dirk Lukkien als onderzoeker digitale zorg bij Vilans, de kennisorganisatie voor zorg en ondersteuning. Vanuit deze functie startte hij in 2020 een deeltijd promotietraject over verantwoorde AI‑innovatie aan de Universiteit Utrecht. Op 8 december 2025 verdedigde hij zijn proefschrift. Zijn promotorenteam bestond onder anderen uit Mirella Minkman, bijzonder hoogleraar ‘Innovatie van Organisatie en Governance van Integrale Zorg’ aan TIAS en voorzitter van de Raad van Bestuur van Vilans. In dit artikel delen Dirk en Mirella de belangrijkste inzichten en lessen uit het promotieonderzoek.

Van inzicht naar toepassing

De inzichten uit dit onderzoek onderstrepen het belang van een zorgvuldige en contextgevoelige benadering van AI-innovatie. Voor organisaties en professionals betekent dit dat technologische ontwikkeling altijd hand in hand moet gaan met aandacht voor mens, context en waarden.

Binnen TIAS wordt vanuit verschillende perspectieven gewerkt aan deze vraagstukken, waarbij de verbinding tussen technologie, organisatie en maatschappelijke impact centraal staat. Dit sluit nauw aan bij de bredere focus van TIAS op thema’s als Digital & AI, Governance en Public & Societal Impact.

Meer weten over hoe TIAS organisaties en professionals ondersteunt op het gebied van AI, data en technologie? Bekijk het aanbod op het gebied van AI, Data & Technologie opleidingen.