Overslaan en naar de inhoud gaan
Kunstmatige intelligentie is lang niet altijd onschuldig, betoogt columnist Noor van Driel. Wat we nodig hebben, maar vaak missen, is kritisch denkvermogen.
Noor van Driel: "Hier heb je wat data, hier heb je een vraag die misschien aansluit op die data, probeer maar wat leuks." (Foto: Sam Rentmeester)

Kunstmatige intelligentie is lang niet altijd onschuldig, betoogt columnist Noor van Driel. Wat we nodig hebben, maar vaak missen, is kritisch denkvermogen.

Read in English

Als er 26 geiten en 10 schapen aan boord van een schip zijn, hoe oud is dan de kapitein? Onderzoekers kwamen er een tijd geleden achter dat als je het aan kinderen van acht vraagt, driekwart zonder te twijfelen een antwoord geeft als ‘26+10 = 36, dus de kapitein is 36’.
Destijds leidde dat tot wat zorgen over het schoolsysteem, waar kinderen blijkbaar wel trucjes aanleerden, maar geen enkel kritisch denkvermogen. Bij een uitgebreider vervolgonderzoek bleek gelukkig, dat twee jaar oudere leerlingen meestal wel inzagen dat ze de vraag helemaal niet konden beantwoorden.

‘Hoe meer data, hoe beter’

Ik zou jullie graag vertellen dat je die lijn door kan trekken en dat TU-studenten nooit meer in zulke valkuilen trappen. Maar eerlijk gezegd is het niet heel lang geleden dat ik op een tentamen lukraak verschillende matrix-decomposities zat uit te proberen, op een vraag waar uiteindelijk een tikfout in bleek te staan. Dit wordt het ‘didactisch contract’ genoemd, wat als ik het goed begrijp betekent dat het vooral niet mijn schuld is.
Ik moet vaak aan dat onderzoek denken, als ik het enthousiasme hoor waarmee er op onze universiteit over kunstmatige intelligentie wordt gepraat. De vragen die we aan slimme computers willen stellen, komen vaak op hetzelfde neer als de vraag over de kapitein: hier heb je wat data, hier heb je een vraag die misschien aansluit op die data, probeer maar wat leuks.
Daar komen best vaak goede antwoorden uit, wat het enthousiasme verklaart. Hoe meer data, hoe beter, vandaar dat je een tijdje terug iedereen het nog over Big Data had, totdat de Snowdens en de Zuckerbergs van de wereld de nare implicaties van die term blootlegden. Behalve omgedoopt te worden naar Artificial Intelligence, lijkt de techniek er niet onder geleden te hebben.

‘Een computer heeft een nog minder kritische blik dan een kind van acht’

Maar een computer heeft natuurlijk een nog minder kritische blik dan een kind van acht. Als je het een beetje onhandig aanpakt, dan ben je een computer al snel aan het leren om sneeuw te herkennen, terwijl je probeerde onderscheid te maken tussen Siberische husky’s en wolven. Of, iets minder onschuldig, zit je als techgigant met beeldherkenningssoftware die zwarte mensen voor gorilla’s aanziet.
Of je creëert een algoritme om te bepalen wie er recht heeft op zorg, of waar je politie heen moet sturen, waarmee je per ongeluk bestaande ongelijkheid exploiteert en verder uitvergroot. Hopelijk niet de bedoeling, maar wel de realiteit.
Tegenwoordig leren kinderen natuurlijk geen hoofdrekenen meer. Niet in de laatste plaats omdat ze überhaupt geen juf of meester meer schijnen te hebben. Bovendien kon, toen ik op school zat, een “Juf, daar heb je toch een rekenmachine voor?” nog de kop ingedrukt worden met “Ja, maar je hebt niet altijd een rekenmachine bij je, of wel?”. Het lijkt me moeilijk om dat nu nog hard te maken. Laten we hopen dat het met het kritisch denkvermogen dan in elk geval wel goedkomt. Als kunstmatige intelligentie inderdaad de toekomst is, dan zullen we dat nog hard nodig hebben.  

Noor van Driel is aan het afstuderen bij systems & control (faculteit 3mE). Ze doet graag mee aan pubquizzen, maar ze heeft nog nooit gewonnen.

Krijg Delta updates

Click here to unsubscribe