Overslaan en naar de inhoud gaan
Technologische ontwikkelingen kunnen grote consequenties hebben. Delta vroeg vijf hoogleraren of en hoe dit te ondervangen is met verantwoord ontwerpen.
Anne Van Lieren maakte een toolkit voor ontwerpers om mensen op het juiste moment wakker te schudden. (Foto: Faculteit Industrieel Ontwerpen / Anne van Lieren)

Technologische ontwikkelingen kunnen grote gevolgen hebben, ook negatieve. Delta vroeg vijf hoogleraren of en hoe je dit kunt voorkomen met verantwoord ontwerpen.

Read this article in English

Veel ontwerpen zijn met slechte intenties tot stand gekomen. Neem de knieënsplijter of de folterkist, martelwerktuigen bedacht in de Middeleeuwen. Er zijn ook goedbedoelde uitvindingen met catastrofale gevolgen, zoals het insecticide Zyklon B dat in de Tweede Wereldoorlog werd gebruikt als gifgas in concentratiekampen.

De lijst van uitvindingen en ontwerpen met ongekende impact is groot en wordt almaar langer. Tijdens de 178ste verjaardag van de TU Delft was hier uitgebreid aandacht voor. Zowel het symposium als de viering stond in het teken van design for values: maatschappelijk verantwoord ontwerpen. Welke gevolgen kunnen ontwerpen hebben, hoe zorg je dat deze niet verkeerd uitpakken en legt ‘altijd het juiste doen’ ontwerpers creatieve beperkingen op? Delta vroeg het aan wetenschappers en sprekers op de  Dies.

Facebook, iPhones en verslavende games
Wat is eigenlijk het meest onethische ontwerp ooit? Ibo van de Poel, hoogleraar ethiek en technologie, noemt computergames die bewust zo ontworpen zijn dat ze verslavend zijn. “Ik vind Facebook ook hoog scoren. Enerzijds omdat het businessmodel gericht is op het exploiteren van persoonlijke data, maar ook vanwege onbedoelde negatieve effecten zoals nepnieuws of filterbubbels waar Facebook onvoldoende tegen doet.” Ook Roy Bendor, assistent-professor bij Industrieel Ontwerpen, noemt het gewetenloze misbruik van persoonlijke data als bron van kwaad.

‘De weg naar de hel is geplaveid met goede bedoelingen’

David Abbink nuanceert de vraag. Volgens de hoogleraar haptic human-robot interaction bij Werktuigbouwkunde, Maritieme Techniek en Technische Materiaalwetenschappen (3mE), zijn een groot deel van onethische gevolgen nooit als zodanig ontworpen. “Maar ook goed bedoelde ontwerpen hebben vaak onvoorziene consequenties. Volgens het oude adagium is ‘de weg naar de hel geplaveid met goede bedoelingen’. Als ontwerper kun je niet alle gevolgen voorzien en daar ook nog eens rekening mee houden in je ontwerp: je weet niet wat je niet weet.” Toch kunnen we sommige consequenties wel degelijk zien aankomen, stelt hij. “We weten bijvoorbeeld dat veiligheidssystemen in auto’s leiden tot risicovoller rijgedrag. Door hier in de ontwerpfase al rekening mee te houden, hebben ontwerpers laten zien te kunnen anticiperen op menselijke gedragsaanpassingen.”

Hogere lat voor ontwerpers
Is nadenken over ontwerpen iets van de laatste jaren? Nee, zegt hoogleraar filosofie en ethiek van de technologie, Jeroen van den Hoven. “We zijn er al 20 jaar mee bezig. Ook daarvoor lagen er waarden ten grondslag aan ontwerp, er waren alleen nog geen woorden voor. Zo zijn steden bijvoorbeeld zo ontworpen dat mensen zich op een bepaalde manier gedragen. Waarom zijn de straten in Parijs zo breed? Zo konden militairen snel van de ene naar de andere kant van de stad. De geschiedenis zit vol met dit soort voorbeelden.”

‘Het internet ondermijnt onze huidige democratie’

Toch zijn waarden voor ontwerp belangrijker dan ooit, vindt Van den Hoven. “Door technologische ontwikkelingen zijn de consequenties nu groter. Klimaatverandering vraagt om een nieuw ontwerp van onze economie. En het internet ondermijnt onze huidige democratie.”

“Daarom moeten ontwerpers tegenwoordig meer doen dan opdrachtgevers en consumenten tevreden stellen”, zegt Van de Poel. “Ze moeten naar een bredere set van waarden en ethische overwegingen kijken.”
Een voorbeeld hiervan is de afstudeeropdracht van Anne van Lieren (Industrieel Ontwerpen). Voor haar proefschrift onderzocht zij het concept nudging; hoe je met indirecte suggesties gedrag kunt beïnvloeden. Van Lieren maakte een toolkit voor ontwerpers. Zij kunnen deze gebruiken om mensen op het juiste moment wakker te schudden en stil te laten staan bij een belangrijk onderwerp, zegt Van Lieren.

Ethisch reflecteren
Het is van groot belang dat juist universiteiten aandacht besteden aan ontwerpethiek, meent Abbink. Universiteiten leiden de volgende generatie ontwerpers en ingenieurs op, en zij zullen invloedrijke rollen hebben in bedrijven, start-ups, overheden of universiteiten. Daarom is het essentieel studenten al vroeg te stimuleren kritisch te denken over de implicaties van technieken, en breed en diep na te denken over mogelijke langetermijngevolgen van ontwerpkeuzes voor technische systemen. Bedrijven doen dit over het algemeen te weinig, stelt Abbink. 

“Daarnaast sluit verantwoord ontwerpen aan bij de ambitie van de TU,” zegt Marja Elsinga, hoogleraar housing institutions and governance bij Bouwkunde. “Daarbij hoort dat maatschappelijke waarden een plek krijgen in onderwijs en onderzoek.”

Daarom is Delft Design for Values in het leven geroepen. Dit is een platform voor onderzoek, onderwijs, en samenwerking tussen faculteiten. Abbink: “Als universiteiten niet nadenken over de complexe vraag hoe je ethische overwegingen vertaalt naar concrete ontwerpen, wie dan wel?”

Rem op creativiteit?
Wordt door deze toegenomen voorwaarden aan ontwerpen, de creativiteit niet ingeperkt? Bendor denkt van niet. “Beperking van de ontwerpruimte moedigt creativiteit juist aan.”

‘In de beperking toont zich de meester’

Van den Hoven citeert Goethe: “In der Beschränkung zeigt sich der Meister” (In de beperking toont zich de meester –red.). “Juist doordat je je beperkt, kun je heel interessante ontwerpen krijgen.”

Toch kan het eindeloos uitdenken van een ontwerp afbreuk doen aan het enthousiasme en de creativiteit van de ontwerper, zegt hoogleraar computerwetenschappen Alan Hanjalic. Belangrijker is volgens hem dat ontwerpen toekomstbestendig zijn. Daarvoor moeten ontwerpers samenwerken met mensen met verschillende expertise, perspectieven en belangen. Hanjalic: “Een computerwetenschapper, AI- of big-data-specialist kan en mag nooit beweren een goede oplossing voor de wereld te hebben voordat hij heeft geluisterd naar de mensen die de wereld het beste begrijpen.” De belangrijkste les voor Hanjalic is dan ook: “Hoe spannend de nieuwe technologie ook is, het is iets waar we in de toekomst heel voorzichtig mee moeten zijn.”

Door: Sija van den Beukel en Marjolein van der Veldt

Krijg Delta updates

Click here to unsubscribe