Is de wereld klaar voor digitale therapeuten? Dat is de vraag die Ian Graber-Stiehl stelt in een recente publicatie in Nature. Hij stelt dat de integratie van taalmodellen zoals ChatGPT in mobiele toepassingen voor geestelijke gezondheidszorg een nieuwe stap is die nogal wat experts verontrustend vinden.
Therapeutische chatbots aangedreven door kunstmatige intelligentie (AI) zijn in toenemende mate aanwezig in de geestelijke gezondheidszorg. Volgens één schatting waren er in 2021 niet minder dan 10.000 tot 20.000 mobiele apps voor geestelijke gezondheid beschikbaar. Deze tools, die natuurlijke taalverwerking gebruiken om digitale therapeuten te creëren, roepen veel ethische en praktische vragen op.
Opmerkelijke voorbeelden van platforms die probeerden om AI te gebruiken om therapiesessies te analyseren, diagnosticeren en begeleiden zijn onder meer Koko en ChatGPT.
Maar deze platforms zijn niet vrij van uitdagingen en beperkingen. Ten eerste is er een gebrek aan bewijs, transparantie en veiligheidsgegevens over hun doeltreffendheid en betrouwbaarheid. Daarnaast wijzen ethische dilemma's in verband met het stimuleren van retentie, het delen van gevoelige informatie en het prioriteren van bepaalde interventies op de potentiële risico's van deze technologie voor patiënten en zorgverleners. Een voorbeeld van deze risico's deed zich dit jaar voor toen de vrouw van een Belgische man beweerde dat haar man zich van het leven had beroofd nadat hij zes weken lang zijn klimaatgerelateerde zorgen had gedeeld met een AI-chatbot genaamd Eliza.
Om de veiligheid en effectiviteit van therapeutische chatbots te waarborgen, is het essentieel dat er strenge regelgeving, monitoring en evaluatie van deze technologie is. Regelgevers en onderzoekers zullen moeten samenwerken om beste praktijken en normen vast te stellen.
Bovendien moet worden benadrukt dat therapeutische chatbots menselijke therapeuten niet kunnen vervangen. Maar ze kunnen wel een nuttige aanvulling zijn op de traditionele geestelijke gezondheidszorg en onmiddellijke en toegankelijke ondersteuning bieden aan een groot aantal mensen. Volgens een schatting zijn er voor elke 100.000 mensen in de wereld gemiddeld ongeveer vier psychiaters; dit aantal is veel lager in de meeste lage inkomenslanden en middeninkomenslanden.
Het is daarom cruciaal om de potentiële voordelen en risico's van deze innovatieve instrumenten tegen elkaar af te wegen.
AI-gestuurde therapeutische chatbots zijn een controversiële en veelbelovende trend in de mobiele geestelijke gezondheidszorg. Hun potentieel om de toegang tot en de doeltreffendheid van de zorg te verbeteren moet zorgvuldig worden geëvalueerd, rekening houdend met de inherente ethische en praktische uitdagingen. Goede regelgeving, toezicht en evaluatie zullen van cruciaal belang zijn om de veiligheid en het welzijn van de gebruikers van deze technologie te waarborgen.
