Hulpmiddel 25: vraagtekens bij AI

Scheve IT kan voorkomen worden aan de hand van een kritisch onderzoek naar de vooronderstellingen bij de toepassing van beslisregels in software. En daarover is verantwoording af te leggen. Het wordt natuurlijk heel anders als op basis van een aantal specifieke kenmerken van bijvoorbeeld fraudegevallen het algoritme zelf de beslisregels opstelt, zoals dat bij AI gebeurt. Een beslisregel zoals bijvoorbeeld ‘deze burgers frauderen mogelijk’ komt dan generaliserend tot stand, bijvoorbeeld op grond van een aantal specifieke waarnemingen van fraude (soms een inkomen van meer dan zoveel euro, soms een vals adres, soms een te grote auto op de eigen naam, soms een taal- of schrijfachterstand, soms indicaties van huiselijk geweld, soms een strafblad, et cetera). Waar bij deductie de conclusie logisch en onvermijdelijk voortvloeit uit de beslisregels, is bij inductie de conclusie niet logisch en onvermijdelijk, maar waarschijnlijk. Dan is het oppassen geblazen. Daarnaast is het toepassen van AI ook te bezien als het maken van IT door de achteruitkijkspiegel. Niet een idee of een concrete vraag is het vertrekpunt voor de beslisregels in de software, maar een zeer grote hoeveelheid ongestructureerde data uit het verleden. De vraag rijst of die historische data en de beslisregels die daarvan worden afgeleid ook het heden verklaren. Een zeer kritische houding bij de inzet van AI is daarom op z’n plek. Dit hulpmiddel bestaat uit een beknopte lijst met vragen die u over het ontwerpen, toepassen en beheren van AI kunt stellen. Het hulpmiddel is los te koop, heeft u het boek Perfecte Driehoekverhoudingen gekocht, dan kunt u in de winkelwagen uw waardebon inwisselen en het gratis downloaden, het bevat geen extra bijlagen.

Benieuwd naar mijn bespiegelingen over o.a. de Kindertoeslagenaffaire? Lees dan mijn essay ‘ Stop de Verdrietmachine’.