Maak de black box van AI transparant - ICTberichten.nl

Maak de black box van AI transparant

Maak de black box van AI transparant
Om het vertrouwen van consumenten te winnen moeten organisaties verantwoorden hoe ze data gebruiken om AI modellen te bouwen. Wat komt daarbij kijken?

Het black box principe om AI modellen uit te rollen is niet meer houdbaar. Overheden, organisaties en consumenten willen weten wat de impact is van algoritmes en systemen voor AI en machine learning. Ze willen zeker weten dat algoritmen ethisch ingezet worden en bijvoorbeeld niet discrimineren. Criteria voor de bouwers van modellen zijn daarom: transparantie, uitlegbaarheid en aansprekende resultaten. Mensen zijn eerder geneigd om hun gegevens beschikbaar te stellen aan organisaties die hun vertrouwen weten te winnen. Vandaar dat de herleidbaarheid van data bij veel organisaties bovenaan de agenda staat en dat ze zicht willen hebben op de complete levenscyclus van gegevens.