AI #5: Een psychiater in je broekzak: is dat geruststellend of verontrustend?

Ze heeft een hekel aan de herfst. Het kost steeds meer moeite om uit bed te komen en ze komt haar appartement nauwelijks meer uit. Ze hangt voornamelijk op de bank en streamt wat video’s. Ze zou eigenlijk meer moeten bellen en chatten, maar wat als iemand dan vraagt hoe het met haar gaat? Dan maar even niks. Sensoren in haar telefoon geven aan dat ze al dagen nauwelijks actief is en dat ze veel in het donker zit. Gps vertelt dat ze niet buiten is geweest. In de microfoon klinkt haar stem mat en volgens het logboek maakt ze nauwelijks contact. Een getraind AI-netwerk trekt uit al die gegevens de conclusie dat ze mogelijk afglijdt naar een depressie. 

Klinkt dat als sciencefiction? Niet voor de ontwikkelaars van ‘digital phenotyping’ of ‘personal sensing’; een continue meting op afstand van individueel gedrag aan de hand van data van persoonlijke gadgets zoals smartphones en gezondheidshorloges. ‘Met meer dan drie miljard mensen in de wereld die toegang hebben tot internet (…) heeft deze technologie genoeg bereik om normaal menselijk gedrag te bestuderen en afwijkingen daarvan.’ Dat schrijven drie Indiase psychiaters in een artikel dat digitale surveillance aanprijst als de weg naar digitale persoonlijke psychiatrie. 

Veelbelovend
‘Gezien de vooruitgang in machine learning zullen de data steeds beter worden’ betogen de auteurs, ‘en ook zullen de mogelijkheden voor evaluatie (van de data, red.) en beheersing (van de patiënt, red.) preciezer worden.’ Feit is dat surveillance via smartphones al voor diverse gedragsproblemen wordt uitgeprobeerd. De auteurs noemen verslaving, autisme, posttraumatische stress, schizofrenie, stemmingsstoornissen, slaapproblemen en suïcidepreventie. En de lijst is langer. 

Andere auteurs zien ‘personal sensing’ als veelbelovende mogelijkheid om psychofarmaca te testen. Het biedt de mogelijkheid om een actieve substantie en een placebo op grote schaal buiten het laboratorium met elkaar te vergelijken. ‘Digital phenotyping kan een ongeëvenaard gedetailleerd beeld geven van het leven van individuen waarmee we ons begrip van psychiatrische ziekten kunnen verbreden, en de werking van geneesmiddelen kunnen evalueren’, betogen twee psychiaters in Nature. 

Tekortkomingen
“Er worden veel claims gedaan over de mogelijkheden van psychiatrische zorg op afstand”, zegt promovendus Karin Bogdanova, “maar de toepassingen schieten allemaal tekort op het gebied van reactievermogen en vakbekwaamheid. Apps reageren niet adequaat op de behoeften van mensen in geestelijke nood.” Bogdanova baseert zich op de zorgethiek van Joan Tronto die de vier pijlers van zorg definieerde: reactievermogen, verantwoordelijkheid, oplettendheid en vakbekwaamheid. 

Als antropoloog op het gebied van wetenschap en technologie ontwikkelt Bogdanova zelf geen AI-applicaties. In plaats daarvan werkt ze aan een kader voor de toepassing van AI in de psychiatrie. Ze is promovenda aan de faculteit Industrieel Ontwerpen (IO). “Ik ben er geen tegenstander van”, verklaart ze over AI-toepassingen in de psychiatrie. “Ook al weet ik dat er veel te doen is over privacy, autonomie van patiënten en het geven van toestemming voor het gebruik van data. Maar waar ik me wel tegen verzet is het idee dat de interpretatie van telefoondata een objectieve maat zou zijn voor gedrag, of dat AI de crisis in de geestelijke gezondheidszorg zou kunnen oplossen.”  

‘Apps reageren niet adequaat op de behoeften van mensen in geestelijke nood’

In studies over digitale geestelijke gezondheidszorg mist ze de culturele context. In de eerste plaats is dat de cultuur van de patiënt zelf. Of en hoe die uitdrukking geeft aan psychische klachten hangt af van de omgeving en in hoeverre die daarvoor open staat. Dan is er de cultuur van de psychiatrie die gaat over de arts-patiëntrelatie, op wat een symptoom is, de beschikbaarheid van andere geestelijke gezondheidszorg en meer. Als derde speelt een technologische cultuur, bijvoorbeeld over de toestemming voor het gebruik van telefoondata. In China denkt men daar heel anders over dan in Europa met zijn privacywetgeving. “Verschillende mensen ervaren dingen anders, psychiaters gaan anders met patiënten om, en ook met hun gegevens. Het is dus geen goed idee om met AI een soort standaardaanpak van geestelijke gezondheid te ontwikkelen die voorbijgaat aan alle verschillen”, aldus Bogdanova. 

Hoe dan wel?
Toch ziet Bogdanova ook ideeën die wel tot positieve sociale veranderingen kunnen leiden. Een voorbeeld is de verbeterde toegang tot psychiatrische hulp voor patiënten in nood. “In plaats van een jaar te moeten wachten voor een persoon met suicidale gedachten kan digital phenotyping helpen vaststellen dat er haast bij is en snel een afspraak maken met een professional. Je kunt je voorstellen dat de patiënt een app opent die, op basis van geïnterpreteerd gedrag, directe toegang geeft tot de zorgverlener en de starre zorginfrastructuur omzeilt.” 

Nu informatietechnologie in rap tempo de zorg verandert, is het volgens Bogdanova hoog tijd om na te denken over de richting van de verandering. “Krijgen patiënten wel zeggenschap over hun eigen gegevens, wat wordt de rol van verpleegkundigen, en hoe komt een diagnose tot stand? Over die vragen moeten we goed nadenken voordat allerlei persoonlijke gegevens in het zorgsysteem opgenomen worden. Want ik denk wel dat dat gaat gebeuren.” 

• Antropologe Karin Bogdanova is een van de vijf promovendi binnen het AI DeMoS lab dat onderzoekt hoe AI kan helpen mensen met verschillende perspectieven samen te brengen. Onderzoeksdirecteuren zijn ethica Olya Kudina (faculteit Techniek, Bestuur & Management, TBM) en informatieontwerpster Nazli Cila (Industrieel Ontwerpen, IO). De promovendi worden ondersteund door TBM-faculteitsleden onder wie Ibo van de Poel en Sabine Roeser en door Elisa Giaccardi and Pieter Desmet van IO. 
• Lees ook de eerdere delen van deze serie:
• Robots die navigeren als een mens
• Hoe AI-simulaties helpen om windturbinebladen lichter te maken
• Is het een vogel of is het een drone?
• D@S lab maakt zich sterk voor onzichtbare mensen achter AI