In de ban van algoritmes

Van mensen kunnen we accepteren en houden we er rekening mee dat ze fouten maken. Bovendien vinden we het niet zo erg als dat gebeurt, want die zijn meestal te goeder trouw. Van algoritmes gaan we er sneller vanuit dat ze onfeilbaar zijn. Maar de praktijk is dat ook deze fouten maken. Vraag is hoe we ervoor kunnen zorgen dat ook de beslissingen van algoritmes voldoende vertrouwen krijgen.

Sander Klous, hoogleraar big data ecosystemen aan de UvA, onderscheidt drie manieren waarmee algoritmen ‘uitlegbaar’ zijn. De eerste is een technische uitleg voor data scientists en auditors over de modelkeuzes, de dataselectie en de training van het model. De leek is daarin niet geïnteresseerd. Sterker nog, uit een experiment bij de Stanford University blijkt dat een uitleg met jargon het vertrouwen in algoritmes juist ondergraaft.

De tweede vorm is uitleggen van het proces. Aan de orde hierbij zijn de ingebouwde waarborgen, controles en beveiligingsmiddelen. Hiermee kun je zien waar iets misgaat en wie verantwoordelijk is. Daar zit de buitenstaander meer op te wachten. Dat geldt nog sterker voor een persoonlijke uitleg aan iemand die nadeel ondervindt van een algoritme (bijvoorbeeld omdat een lening niet wordt verstrekt). Verder is het belangrijk te benadrukken dat digitale processen van algoritmes volledig zijn te analyseren en menselijke beslissingen niet. Bovendien kunnen ook menselijke beslissingen gebaseerd zijn op maatschappelijke vooroordelen of stereotypen.

Interessante toekomstvisie op AI – Gratis download
AI voor bedrijven – Toepassingsmogelijkheden van artificial intelligence
Volledig artikel – Lees hier de complete tekst