Menselijke controle over kunstmatige intelligentie

‘Computer says no.’ Zo’n tien jaar geleden signaleerden de makers van de televisieserie Little Brittain de opkomst van kunstmatige intelligentie in de dienstverlening. In die tijd werd kunstmatige intelligentie ook wel artificial incompetence genoemd vanwege onnavolgbare beslissingen van softwaresystemen, of omdat automatische karretjes vastliepen in de complexiteit van het verkeer.

Twee jaar geleden startte de VNSU (vereniging van universiteiten) het onderzoeksprogramma Digital Society omdat overal automatisering de kop opstak, en het maatschappelijk ongemak daarover voelbaar werd. Toenmalig rector prof.ir. Karel Luyben nam contact op met hoogleraren prof.dr.ir. Inald Lagendijk (computing-based society, EWI) en prof.dr. Jeroen van den Hoven (ethiek van de informatietechnologie, TBM) om te zien welke rol er voor de TU Delft in het onderzoeksprogramma was weggelegd.

Hoe houd je controle?
Bij een rondje over de campus zagen Lagendijk en Van den Hoven dat er op veel plekken met kunstmatige intelligentie of autonome systemen gewerkt werd. Dat betrof zowel pure software, zoals beslissingsondersteuningsprogramma’s, maar ook ingebedde programmatuur in robots, in min of meer autonome auto’s of in drones. Onderzoekers vertelden er enthousiast over, maar na enige aandrang gaven de meesten ook toe niet helemaal te begrijpen hoe zo’n kunstmatig brein werkt. En ook niet te weten wat de effecten zijn van fouten in de invoer of in de verwerking.

Lagendijk vertelt: “Iedereen loopt tegen dezelfde vragen op: hoe houd ik controle? Hoe snap ik wat er aan de hand is? Hoe verantwoord ik de keuzes die het systeem maakt? Juridische, ethische en sociale vragen doemen op. Daar zijn veel partijen mee bezig. Instituten leggen gedragslijnen op in de sfeer van ‘gij zult’, maar er is weinig aandacht over hoe dat technisch voor elkaar te krijgen door onderzoek, ontwerp en engineering.”

En dat is dus waar de TU Delft zich op heeft gericht met het onderzoeksprogramma AiTech: technische maatregelen die de menselijke controle over autonome systemen waarborgen. Het team werd versterkt door prof.dr. Elisa Giaccardi (IO) en prof.dr.ir. Martijn Wisse (3mE) en dr.ir. Luuk Mur als secretaris.

AiTech
De komende twee jaar zullen acht postdocs verdeeld over de faculteiten EWI, TBM, IO en 3mE onderzoek doen naar meaningful human control over kunstmatig intelligente systemen. Ze zullen hun tijd verdelen over twee faculteiten en over het AiTech centrum dat in de Bouwcampus wordt gehuisvest. De financiering van twee miljoen euro komt voor de helft van het college van bestuur en de andere helft van de aangesloten faculteiten.

De onderzoekers, die momenteel geworven worden, moeten bij hun sollicitatie een onderzoeksvoorstel indienen dat aan drie voorwaarden voldoet. Het moet bijdragen aan een grotere bewustwording van de menselijke controle over de toegepaste kunstmatige intelligentie. De onderzoeker moet criteria opstellen voor wat die menselijke controle in dit geval inhoudt, en dat ook kwantificeren. Tot slot moet het onderzoek uitmonden in een technische toepassing.

Die open benadering van AiTech staat bekend als ‘missie-gedreven onderzoeksinitiatief’. Bedacht als innovatiemodel door de Britse econoom Mariana Mazzucato, richt het programma zich op een ver doel, maar laat onderzoekers zelf hun pad uitstippelen. Ook, en vooral, als ze met elkaar concurreren. Lagendijk en Mur benadrukken dat ook anderen aan AiTech kunnen deelnemen. Het initiatief staat open voor iedereen die met de thematiek te maken heeft. Het open karakter zal waarschijnlijk vorm krijgen in lezingen en andere bijeenkomsten.

Wat verwacht Lagendijk over twee jaar aan resultaat? “Ik ben al erg tevreden als we vier of vijf voorbeelden hebben waarin we meaningful human control scherper hebben gedefinieerd en dat ingebouwd hebben in technische systemen.” De TU Delft hoopt met AiTech richtingen aan te geven voor clubs binnen overheid en bedrijfsleven die kunstmatige intelligentie willen toepassen, maar misschien onvoldoende hebben nagedacht over de consequenties op langere termijn. Want dat is volgens Lagendijk de taak van de universiteit: “Niet alleen het vingertje opsteken, maar ook oplossingen ontwikkelen.”

• Wie is verantwoordelijk?

Een bobbel in de weg veroorzaakt een noodstop bij een zelfrijdende auto. Dat gaat zo hard dat er een auto achterop knalt. Wie is verantwoordelijk? De wegenbouwer, de autofabrikant, de software leverancier, of toch de bumperklever? Dit soort kwesties zullen in de toekomst spelen. Van den Hoven pleit daarom voor een systeem van tracking (het systeem weet wat de gebruiker wil) en tracing (achteraf kunnen nagaan wat er gebeurd is) om controle te houden over autonome systemen.  Prof.dr. Bart van Arem wil die begrippen toepassen in de overgang van zelf rijden naar zelfrijdend.

• Wie mag eerst opladen?

In de nabije toekomst is het niet vanzelfsprekend dat je elektrische auto meteen oplaadt als je hem aan een laadpaal zet. Er is onvoldoende capaciteit en de kabels zijn niet dik genoeg. Dus wie gaat voor? Degene met een plusabonnement, de buurman die huisarts is, of de overbuurvrouw die vroeg weg moet? Hoe beslist een systeem daarover, en hoe maakt het die beslissing acceptabel en eerlijk in de beleving van de gebruikers? Dat is typisch het werkgebied van prof.dr. Elisa Giaccardi die interactief media design verzorgt bij IO.

• Een discreet hulpje

Een navigatiehulp voor visueel gehandicapten die flexibel genoeg is om de ene dag de bus te nemen en de volgende dag te helpen bij het oversteken, dat is een voorbeeld van een Socially Adaptive Electronic Partner (SAEP) waar dr. Birna van Riemsdijk (EWI) aan werkt. De onderliggende software moet zo flexibel zijn dat die zich soepel aanpast aan afwijkingen in onvoorziene omstandigheden. Want meestal ga je naar huis om te slapen, maar soms ook niet.

Dit artikel verscheen in het oktobernummer van Delft Integraal, het alumniblad van de TU Delft (pdf)