AI als jouw nieuwe medische assistent: wie betaalt de rekening bij een fout?

De impact van AI in de geneeskunde is enorm. De technologie verbetert niet alleen de diagnostiek, maar optimaliseert ook de zorgprocessen en behandelingen. Denk bijvoorbeeld aan:

• Snellere en nauwkeurigere diagnoses: Algoritmes analyseren medische beelden zoals CT-scans of mammografieën met een indrukwekkende precisie. Ze sporen afwijkingen op die voor het menselijk oog moeilijk zichtbaar zijn, wat leidt tot een snellere en betere diagnose.
• Voorspellende en gepersonaliseerde zorg: Door grote hoeveelheden patiëntgegevens te analyseren, herkent de software patronen die wijzen op een verhoogd risico op ziektes zoals sepsis. Dit maakt het mogelijk om preventief in te grijpen en behandelplannen te personaliseren, bijvoorbeeld door de respons op chemotherapie te voorspellen.
• Efficiënter ziekenhuisbeheer: De technologie automatiseert repetitieve taken zoals planning en dossierbeheer. Daarnaast helpt het bij het voorspellen van de vraag naar bedden en personeel, waardoor je de middelen in het ziekenhuis efficiënter inzet.
• Betere patiëntbegeleiding: Slimme chatbots informeren patiënten en maken monitoring op afstand mogelijk, wat vooral nuttig is voor chronisch zieken.

Deze technologische vooruitgang creëert een juridisch complex vraagstuk. Waar de arts vroeger als enige expert besliste, is er nu een digitale assistent met grote invloed. Dit roept enkele belangrijke vragen op:

• Wie draagt de eindverantwoordelijkheid? Blijft de arts altijd eindverantwoordelijk, zelfs als hij of zij vertrouwt op de output van een gecertificeerd systeem?
• Wanneer is het product gebrekkig? Kan het ziekenhuis de softwareontwikkelaar aansprakelijk stellen als het algoritme niet de beloofde veiligheid biedt?
• Wat wordt er van de arts verwacht? Moet een arts de aanbeveling van een algoritme durven negeren? En wat als dit tot schade leidt?
• Wat is de rol van het ziekenhuisbestuur? Het bestuur is verantwoordelijk voor de aankoop van veilige technologie. Een foute keuze kan leiden tot bestuurdersaansprakelijkheid.

Deze nieuwe risico’s hebben een directe invloed op de verzekeringen van je ziekenhuis en artsen.

1. Burgerlijke Aansprakelijkheid (BA) Beroep & Exploitatie: Volgens de Belgische wetgeving kan AI worden gezien als een 'hulpzaak'. Dit betekent dat de zorgverlener in principe aansprakelijk is voor het falen ervan, net als bij een ander medisch instrument. De eindverantwoordelijkheid blijft dus vaak bij de arts, die de output moet interpreteren en valideren.
2. Bestuurdersaansprakelijkheid (D&O): Bestuurders zijn verantwoordelijk voor strategische investeringen. Bij de aankoop van AI-systemen moeten zij de betrouwbaarheid en certificering grondig controleren. Handelen zij onzorgvuldig, dan kunnen zij persoonlijk aansprakelijk worden gesteld voor een bestuursfout.
3. Cyberverzekering: AI-systemen zijn kwetsbaar voor cyberaanvallen. Een cyberpolis is essentieel om de directe schade van een incident te dekken, maar dekt meestal niet de gevolgschade van een medische fout die door een gehackt systeem is veroorzaakt.

Wacht niet op de komende Europese AI Act, maar onderneem nu al proactief stappen om de risico's te beheren:

• Grondige screening bij aankoop: Zorg voor een uitgebreide controle van de leveranciers en hun producten.
• Heldere contracten: Leg de aansprakelijkheid met de softwareleverancier contractueel vast. Wie is verantwoordelijk voor updates en het oplossen van fouten?
• Duidelijke protocollen en opleiding: Ontwikkel interne protocollen voor het gebruik van de software en zorg voor een gedegen opleiding van je medewerkers over de mogelijkheden én de beperkingen.
• Menselijke controle blijft cruciaal: Benadruk dat AI een hulpmiddel is, geen vervanging van het klinisch oordeel. De arts neemt altijd de finale beslissing.

De opkomst van AI in de zorg is een positieve evolutie. Een goed begrip van de risico's en een proactieve aanpak zijn echter cruciaal om de kansen te benutten en tegelijk de veiligheid van de patiënt en de bescherming van je instelling te garanderen. Als je verzekeringsmakelaar volgen we deze evoluties op de voet en adviseren we je proactief om je polissen optimaal af te stemmen op de risico’s van morgen.