04 februari 2021

‘AI-systeem moet eigen grenzen kennen’

Read in English

Elk kunstmatig intelligentiesysteem maakt fouten, vertelde prof.dr.ir. Inald Lagendijk tijdens zijn lezing ‘Engineering Meaningful Human Control’ afgelopen maandag voor het Bataafsch Genootschap. Voor een AI-systeem dat appels van peren moet kunnen onderscheiden, zijn foutjes misschien geestig, voor een HR-systeem dat kandidaten selecteert voor een baan een stuk minder.

Het is daarom van belang dat AI-systemen zo ontworpen worden dat ze zich bewust zijn van hun eigen beperkingen. Het moet dan de beslissing overdragen aan een verantwoordelijk persoon zodra een opgave zich buiten het getrainde domein bevindt. Bestaat zoiets al? Nee, zegt Lagendijk, maar daar moeten we wel naartoe. Inspanning binnen Delft AiTech  en de NL AI coalitie zijn erop gericht om morele waarden als privacy, eerlijkheid, veiligheid en transparantie integraal onderdeel te maken van AI-applicaties.