Vertrouwen ontwerpen

Straks kan de overheid misschien met enkele muisklikken uw persoonlijke gegevens en uw exacte verblijfplaats achterhalen. Efficiënt maar verontrustend, vindt Frances Brazier, hoogleraar systeemkunde aan de faculteit Techniek, Bestuur en Management. Brazier onderzoekt hoe nog te ontwerpen technologie de positie van de burger kan versterken. “Je kunt de maatschappij niet meer van bovenaf aansturen.”

(Foto: Hans Stakelbeek/FMAX)
(Foto: Hans Stakelbeek/FMAX)

WIE IS FRANCES BRAZIER
Frances Brazier (Toronto, 1957) mag dan ooit met enkele geestverwanten Nederlands allereerste internetprovider hebben opgericht, jaren later sloeg ze het aanbod af om een ict-bedrijf te leiden. Onderzoek en onderwijs vindt Brazier interessanter. Ze studeerde wiskunde, met een minor cognitieve psychologie. “Om goede, betrouwbare systemen te bouwen kun je nooit genoeg weten van de mens en moet je ontwerpproblemen altijd zo simpel mogelijk oplossen.” In 1991 promoveerde ze in cognitieve psychologie op de uiteenlopende strategieën die mensen hanteren bij het zoeken naar informatie.
Brazier deed onderzoek naar het gebruik van ict in het onderwijs, was nauw betrokken bij het opzetten van een afdeling kunstmatige intelligentie bij Informatica (Vrije Universiteit) en werkte samen met vliegtuigbouwers om intelligente ondersteunende systemen voor hen te kunnen bedenken. In 2000 werd ze aan de VU benoemd als hoogleraar intelligent interactive distributed systems. Twee jaar geleden stapte ze met haar onderzoeksgroep over naar de TU Delft, die interessante samenwerkingsverbanden en netwerken te bieden had.

Een ramp dreigt in Rotterdam, en de bevolking moet snel geëvacueerd worden. Dat scenario gebruikte u in uw intreerede om te illustreren hoe fenomenen als Facebook en Twitter de autonomie van de burger hebben versterkt. Wat is het verschil met vroeger?

“Vroeger hadden de autoriteiten Rotterdam wijk voor wijk kunnen evacueren. Nu is zo’n centrale regie veel lastiger. Via de sociale media kunnen groepen mensen zich niet alleen veel sneller op de hoogte stellen van wat er aan de hand is, ze kunnen zich ook veel sneller organiseren. Het gebruik van die technologie verandert de sociale dynamiek, of je dat nu toejuicht of niet.”

Wat betekent dat voor uw onderzoek?
“Vroeger draaide het ontwerp van een systeem om het delegeren van taken. De technologie nam een deel van het werk van de mens over. Nu we leven in een tijd waarin voortdurend nieuwe, al dan niet tijdelijke netwerken ontstaan, moet de participatie van de burger het nieuwe ontwerpparadigma vormen. Ik vind dat mensen het recht hebben om binnen een complex, dynamisch systeem hun verantwoordelijkheid op te eisen. En ze moeten over de juiste informatie kunnen beschikken om die verantwoordelijkheid te nemen.”

Wat gebeurt er als we systemen blijven ontwerpen volgens de vertrouwde uitgangspunten?
“Dat gaat schuren, want je kunt je de maatschappij niet meer effectief van bovenaf aansturen. Kijk naar de rellen in Londen, afgelopen zomer. Bepaalde groepen wisten zich razendsnel te organiseren om relschoppers uit hun buurt te verjagen. Nu ben ik geen voorstander van geweld of van burgers die het recht in eigen handen nemen, dus dit is geen ideaal voorbeeld. Maar toch: wat was er gebeurd als de politie zich net zo snel had kunnen organiseren? Dan was het misschien anders gelopen en hadden de Londenaren geen moment het vertrouwen in hun politie verloren. Voor zoiets is een nieuw systeem nodig, een participatiesysteem dat een veel intensievere interactie met burgers mogelijk maakt. Maar dan moet je als ontwerper zorgen dat de burger zo’n systeem gaat vertrouwen.”

Hoe doe je dat?
“Ja, hoe ontwerp je vertrouwen? Voor ons is dit een belangrijke onderzoeksvraag, die je alleen door interdisciplinair onderzoek kunt beantwoorden. We beseffen al dat de informatie voor de gebruiker ‘dichtbij’ moet zijn. Als mensen bijvoorbeeld informatie geven aan de politie, moeten ze kunnen zien dat de politie daar iets mee doet. En je wekt natuurlijk ook vertrouwen door de veiligheid zo veel mogelijk te garanderen.”

Is het mogelijk een systeem te ontwerpen waar elke hacker de tanden op stuk bijt?
“Zulke veiligheid kun je nooit voor honderd procent garanderen. Je kunt wel je best doen om het ontwerp zo te maken dat het niet meteen uit elkaar valt, zoals bij de ov-chipkaart gebeurde.”

Kunstenaars spelen tegenwoordig een belangrijke rol in uw onderzoek. In oktober bouwden techneuten en kunstenaars onder leiding van Angelo Vermeulen, zelf kunstenaar en bioloog, een BioModd op TBM: een computersysteem dat lijkt te worden overwoekerd door de natuur. En na uw intreerede konden bezoekers zich even hullen in een met sensors en koptelefoon uitgeruste ‘data-sluier’.
“Dat was Tele-trust, een performance bedacht en ontworpen door Karen Lancel en Hermen Maat. Het gaat hen vooral om de vraag of je vertrouwen kunt opbouwen in een situatie waarin je de ander niet direct kunt zien en aanraken. En hoe dat vertrouwen-op-afstand ontstaat. Vragen die mij als onderzoeker ook bezighouden. Er zijn meer raakvlakken: kunstenaars ontwerpen ervaringen, en bij het ontwerp van participatiesystemen is het cruciaal hoe een gebruiker de interactie beleeft.”

Maakt het iets uit of je vanuit een positief of een negatief mensbeeld participatiesystemen ontwerpt?
“Ik heb een positief mensbeeld! Maar dat is niet hetzelfde als een naïef mensbeeld. Ik weet dat elk systeem misbruikt kan worden. Daarom is in het ontwerpproces een belangrijke rol weggelegd voor veiligheidsexperts.”

Nieuwe energiesystemen, met ruimte voor burgerparticipatie: dat betekent wellicht dat mensen elkaar van zelf opgewekte energie gaan voorzien. Roept zo’n scenario weerstand op?
“Er is wel eens tegen me gezegd: jullie maken energiebedrijven overbodig. Niet waar, al zal hun rol veranderen. Daar denkt men in de energiesector ook over na. Als systeemontwerper moet je zorgen dat de betrouwbaarheid en de robuustheid van de grote energienetwerken gegarandeerd blijven als burgers de energie voor een deel zelf gaan leveren.”

Hebben we ondanks die autonome burger straks nog altijd centrale instanties nodig?
“Waarschijnlijk wel. Maar je moet de taken tussen burger en centrale instantie op een slimmere manier verdelen. Als ik naar het elektronisch patiëntendossier kijk… Dat had niet fout hoeven gaan.”

Het elektronisch patiëntendossier moest de uitwisseling van patiëntgegevens tussen vooral huisartsen, apotheken en ziekenhuizen vergemakkelijken. Vorig jaar wees een meerderheid van de Eerste Kamer de wetgeving af, omdat de privacy onvoldoende gewaarborgd zou zijn. Terecht?
“Er zijn verkeerde ontwerpkeuzes gemaakt. Ik vind dat ik, en niemand anders, bij een dergelijk patiëntendossier de verantwoordelijkheid draag voor mijn gegevens. Mijn huisarts mag ze inzien, en ik heb een verklaring ondertekend dat de apotheker ze ook mag bekijken. Heel ‘dichtbij’ allemaal. Als ik in een ziekenhuis word opgenomen, bepaal ik welke gegevens ze daar mogen hebben. Desnoods via een door mij gemachtigde huisarts, vriend of familielid.”

Mensen zeggen soms: al dat gezeur over privacy - ik heb niks te verbergen, van mij mogen ze alles weten.
“Dat is calvinistisch Nederland: geen gesloten gordijnen, iedereen mag zien wat hier gebeurt. Maar het is niet waar. Als jij morgen ontdekt dat er privé-telefoongesprekken van jou zijn opgenomen, dan ben je niet blij. Ook al ben je geen wetsovertreder.
Nederland scoort wereldwijd het allerhoogst als het om telefoontaps gaat. Mensen denken ten onrechte dat het hier daarom veiliger is. Maar goed: Nederland is een rechtstaat, en als binnen die rechtstaat telefoontaps zijn toegestaan, kan ik daar mee leven, ook al ben ik het er niet mee eens. Dat Google en Facebook de gebruikers soms het hemd van het lijf vragen, terwijl ze die informatie juridisch gezien helemaal niet mogen opslaan, stoort me wel. Ik ga niet mijn geboortedatum geven om Google Docs te mogen gebruiken – een absurd ritueel, want ze zijn helemaal niet in staat om te controleren of een opgegeven geboortedatum klopt. Ik heb zelfs geen Facebook-account. Mijn data horen bij mij, en moeten niet voor doelen gebruikt worden waar ik het misschien mee oneens ben.”

Zijn jongere generaties daar niet veel gemakkelijker in?
“Ja. Jongeren bouwen online relaties op met mensen waarvan oudere mensen zouden zeggen: kan ik die wel vertrouwen, ik ken hem toch helemaal niet? Daarom wil ik juist naar die jongeren onderzoek doen. Er is sprake van nieuwe spelregels in een veranderende wereld, en om een goed participatiesysteem te ontwerpen moet je die leren kennen.
Jongeren vinden trouwens niet alles prima. Toen ik privacy en security doceerde aan de Vrije Universiteit, vertelde een van de informaticastudenten over een werkgever die de naam van een kansrijke sollicitant had gegoogled. Die werkgever was een filmpje tegengekomen waarin de potentiële werknemer als stomdronken student te zien was en had besloten hem niet aan te nemen. Studenten reageren verontwaardigd als ik ze vertel dat zoiets binnen de grenzen van de wet valt. Een wild filmpje mag geen rol spelen in de sollicitatieprocedure, vinden ze. Dat is privé, dat heeft niks met werk te maken.”

U noemde in uw intreerede het eeuwige optimisme van uw Britse ouders. Een belangrijke invloed?
“Ja. Ik wil geen karikatuur van mijn ouders neerzetten, de werkelijkheid is zoals altijd genuanceerd. Maar ze zijn zeer positief ingesteld. Ik ben opgevoed met het idee dat er nog veel valt te ontdekken.
Mijn vader was vliegtuigontwerper. Hij heeft ook meegewerkt aan de ontwikkeling van de hovercraft: een van mijn vroegste herinneringen is dat hij door de huiskamer loopt met een doos en een stofzuigerslang. Ik was de oudste dochter van een bètavader. Dat geldt voor veel vrouwen die voor technologie kiezen. Vraag me niet waarom.”

Begin jaren zeventig verlieten jullie New York, omdat uw vader bij Fokker ging werken.
“Ik was veertien, en meisjes van veertien vinden zo’n verandering niet fijn. Ik sprak natuurlijk geen Nederlands. Nu woon ik als enige van het gezin nog in Nederland; mijn ouders en broer en zus niet meer. Gelukkig is bellen goedkoper geworden. En ik heb een echtgenoot met twaalf broers en zusters!”

Hebt u altijd wetenschapper willen worden?
“Nee, eerder docent. Ik studeerde wiskunde – informatica bestond nog niet - aan de Vrije Universiteit, en maakte via een gastdocent kennis met een nieuw vakgebied: kunstmatige intelligentie. Dat boeide me. Ik dacht: om hier echt goed in te worden, moet ik meer weten over hoe mensen denken en leren. Dus ik nam als eerste wiskundestudent aan de Vrije Universiteit psychologie als bijvak. Het begin was moeilijk en spannend. Het was een totaal andere cultuur en een totaal ander referentiekader. Maar ik ben dat later als onderzoeker altijd blijven doen, werken met mensen uit heel andere disciplines. Daarom ben ik ook naar TBM overgestapt. Hier is de interdisciplinaire samenwerking met onder meer juristen, beleidsmakers en energie-experts mogelijk die een vereiste is voor mijn research. Dit onderzoek kan niemand alleen doen. We zullen samen deze dwarsverbanden moeten leggen, deze bruggen moeten bouwen.”