Toch denk ik dat het heel moeilijk is om deze cultuur te veranderen en dat ze niet kunnen voorkomen dat het wel gebeurd. Het probleem is ook veel groter dan alleen bij de overheid. Kijk bijvoorbeeld naar de supermarkt waar je ook met een migratie achtergrond (zelfs van een paar generaties terug) sneller er uit gepikt wordt voor een steekproef. Dat is niet opgelost met zeggen, foei het mag niet, maar ik zou ook niet weten wat je zou moeten doen om dit te veranderen. En het gaat sowieso niet van de ene op de andere dag. Onderwijs is in ieder geval belangrijk en verder toch bewustwording. Maar wie moeten en kunnen die functie bekleden?
Maar als een systemen werken op algoritmes en blijkt daaruit dat die mensen vaker schuldig worden gevonden, is het dan nog racisme hoe pijnlijk het ook is voor die mensen met een "verkeerde " achternaam
er moet altijd een mens aan het eind staan om te dubbel checken je kunt niet gewoon de computer de schuld geven. het is bijna erg dat de regering niet voor de zekerheid een derde partij er bij wiklt hebben om na te kijken om zeker te zijn.
Algoritmes zijn eigenlijk heel dom. Ze kunnen niet redeneren en werken alleen op de data die ze gegeven zijn. Dit brengt met zich een paar problemen. Ten eerste kunnen ze geen verschil zien tussen correlatie en causaal verband. Dus als er correlatie is tussen achternamen en misdaad, doordat mensen met bepaalde achternamen vaker in een slechtere sociaal economische positie zitten, dan is dat niet iets waar een algoritme rekening mee gaat houden. Een algoritme zal niet zoeken naar diepere relaties, maar kan alleen werken met wat wij het gegeven hebben. Om daarop aan te sluiten, is het ook belangrijk dat de dataset zelf niet vooroordelen bevat. De dataset zelf is opgestelt door mensen. Mensen die ook bepaalde vooroordelen zullen hebben en deze kunnen dan, hoewel niet opzettelijk, in de dataset terecht komen. Erger nog is dat als het algoritme dan eenmaal werkt, zal deze volgens deze vooroordelen kunnen gaan handelen. Dit zorgt er dan bijvoorbeeld voor dat bepaalde mensen veel vaker gecontroleert worden dan andere, waardoor bepaalde groepen onevenredig gecontroleert worden. Deze resultaten worden dan gebruikt om verder te trainen wat de vooroordelen alleen maar erger zal maken. Dus algoritmes moet je nooit zien als een soort objectieve doos waar een resultaat uit komt dat altijd klopt met de werkelijkheid. Algoritmes en de data waarop ze getraint worden zijn gemaakt door mensen en hebben daardoor helaas ook veel van onze zwaktes.
@@mike140298 Niet perse. Je kan gewoon een menselijke controle doen voor alle gevallen waar het automatische systeem zegt dat er een probleem is. Maarja, dan moet de overheid wel meer geld investeren in de samenleving, en dat gaat hem met de huidige liberale en conservatieve partijen waarschijnlijk niet worden.
@@MasoMaria Dan krijg je alsnog de situatie dat als je de pech hebt om met een bepaalde nationaliteit of achternaam geboren te worden, de kans grote is dat je documenten moet opsturen en je moet verantwoorden. Verder word ook de pakkans groter als je een bepaalde achtergrond hebt, terwijl mensen met een andere achtergrond minder snel verdacht worden, en dus ook een kleinere pakkans ervaren.
Ze hebben meer prio op voorkomen dat het enige precedentwerking heeft. Terwijl het script ‘vraag om gegevens, stel een ‘geen-recht-situatie’ vast en sleur ze dan uit hun huis en neem ze alles af uit de Awir kwam en in alle toeslagen is toegepast!
jazeker. Als de nationaliteit niet relevant is, moet je het dus niet checken. Doe je het toch, dan discrimineer je, en heeft het toch checken ervan kennelijk een ander doel. Klaarblijkelijk heb jij geen naam of nationaliteit die je ten onrechte in een verdomhoekje stopt, anders zou je t wel begrijpen.
@@YoeriKarting365 het punt is niet dat 'al die buitenlanders' frauderen en door een 'slim' algoritme gepakt worden, het probleem is, dat mensen (met vooroordelen) kiezen welke gegevens het algoritme krijgt om verbanden in te zoeken. Het algoritme 'ontdekte' bij mensen met een andere afkomst vaker onregelmatigheden, dus werd er bij mensen met een andere afkomst vaker gecontroleerd, dus werd de pakkans groter, dus werd er vaker gecontroleerd. Overigens zijn niet alle onregelmatigheden fraude, het kan ook een gewone vergissing zijn omdat bureaucratie nu eenmaal ingewikkeld is. Dus de vraag is nu, komen die onregelmatigheden inderdaad meer voor bij mensen met een andere afkomst, of komt dat alleen omdat die mensen de hele tijd gecontroleerd worden, of hangt het samen met opleidingsniveau en socio-economische achtergrond? Daar kijkt een algoritme alleen naar als mensen hem daarop programmeren.
Volgende week moet ik wel even voorkomen dat ik niet naar de volgende aflevering kijk.
Waarom staan er geen langere fragmenten op TH-cam? Ieder weldenkend jeugdige zet geen voet op de NPO app.
Deze comment kan ik als 15 jarige zeer waarderen....
Toch denk ik dat het heel moeilijk is om deze cultuur te veranderen en dat ze niet kunnen voorkomen dat het wel gebeurd. Het probleem is ook veel groter dan alleen bij de overheid. Kijk bijvoorbeeld naar de supermarkt waar je ook met een migratie achtergrond (zelfs van een paar generaties terug) sneller er uit gepikt wordt voor een steekproef.
Dat is niet opgelost met zeggen, foei het mag niet, maar ik zou ook niet weten wat je zou moeten doen om dit te veranderen. En het gaat sowieso niet van de ene op de andere dag. Onderwijs is in ieder geval belangrijk en verder toch bewustwording. Maar wie moeten en kunnen die functie bekleden?
Bij mijn supermarkt heeft de beveiliger " een migratie achtergrond" , wat een balans
Dat gaat HIJ voorkomen 😂
De politiek gaat dit niet oplossen. Misschien wel de rechterlijke macht maar dan moet er wel aangeklaagd worden.
Maar als een systemen werken op algoritmes en blijkt daaruit dat die mensen vaker schuldig worden gevonden, is het dan nog racisme hoe pijnlijk het ook is voor die mensen met een "verkeerde " achternaam
er moet altijd een mens aan het eind staan om te dubbel checken je kunt niet gewoon de computer de schuld geven. het is bijna erg dat de regering niet voor de zekerheid een derde partij er bij wiklt hebben om na te kijken om zeker te zijn.
Algoritmes zijn eigenlijk heel dom. Ze kunnen niet redeneren en werken alleen op de data die ze gegeven zijn.
Dit brengt met zich een paar problemen.
Ten eerste kunnen ze geen verschil zien tussen correlatie en causaal verband. Dus als er correlatie is tussen achternamen en misdaad, doordat mensen met bepaalde achternamen vaker in een slechtere sociaal economische positie zitten, dan is dat niet iets waar een algoritme rekening mee gaat houden. Een algoritme zal niet zoeken naar diepere relaties, maar kan alleen werken met wat wij het gegeven hebben.
Om daarop aan te sluiten, is het ook belangrijk dat de dataset zelf niet vooroordelen bevat. De dataset zelf is opgestelt door mensen. Mensen die ook bepaalde vooroordelen zullen hebben en deze kunnen dan, hoewel niet opzettelijk, in de dataset terecht komen.
Erger nog is dat als het algoritme dan eenmaal werkt, zal deze volgens deze vooroordelen kunnen gaan handelen. Dit zorgt er dan bijvoorbeeld voor dat bepaalde mensen veel vaker gecontroleert worden dan andere, waardoor bepaalde groepen onevenredig gecontroleert worden. Deze resultaten worden dan gebruikt om verder te trainen wat de vooroordelen alleen maar erger zal maken.
Dus algoritmes moet je nooit zien als een soort objectieve doos waar een resultaat uit komt dat altijd klopt met de werkelijkheid. Algoritmes en de data waarop ze getraint worden zijn gemaakt door mensen en hebben daardoor helaas ook veel van onze zwaktes.
Dan moet je een afweging maken, is het belangrijker om de schuldigen te pakken? Of is het belangrijker om de brave burger met rust te laten?
@@mike140298 Niet perse. Je kan gewoon een menselijke controle doen voor alle gevallen waar het automatische systeem zegt dat er een probleem is. Maarja, dan moet de overheid wel meer geld investeren in de samenleving, en dat gaat hem met de huidige liberale en conservatieve partijen waarschijnlijk niet worden.
@@MasoMaria Dan krijg je alsnog de situatie dat als je de pech hebt om met een bepaalde nationaliteit of achternaam geboren te worden, de kans grote is dat je documenten moet opsturen en je moet verantwoorden. Verder word ook de pakkans groter als je een bepaalde achtergrond hebt, terwijl mensen met een andere achtergrond minder snel verdacht worden, en dus ook een kleinere pakkans ervaren.
Ze hebben meer prio op voorkomen dat het enige precedentwerking heeft. Terwijl het script ‘vraag om gegevens, stel een ‘geen-recht-situatie’ vast en sleur ze dan uit hun huis en neem ze alles af uit de Awir kwam en in alle toeslagen is toegepast!
Is het checken van nationaliteiten al racisme tegenwoordig? pffff
jazeker. Als de nationaliteit niet relevant is, moet je het dus niet checken. Doe je het toch, dan discrimineer je, en heeft het toch checken ervan kennelijk een ander doel. Klaarblijkelijk heb jij geen naam of nationaliteit die je ten onrechte in een verdomhoekje stopt, anders zou je t wel begrijpen.
@@wolfiesownx4893 De nationaliteit is juist relevant aangezien er een verband is tussen nationaliteit en (crimineel) gedrag of gedragskenmerken.
@@YoeriKarting365 het punt is niet dat 'al die buitenlanders' frauderen en door een 'slim' algoritme gepakt worden, het probleem is, dat mensen (met vooroordelen) kiezen welke gegevens het algoritme krijgt om verbanden in te zoeken. Het algoritme 'ontdekte' bij mensen met een andere afkomst vaker onregelmatigheden, dus werd er bij mensen met een andere afkomst vaker gecontroleerd, dus werd de pakkans groter, dus werd er vaker gecontroleerd. Overigens zijn niet alle onregelmatigheden fraude, het kan ook een gewone vergissing zijn omdat bureaucratie nu eenmaal ingewikkeld is.
Dus de vraag is nu, komen die onregelmatigheden inderdaad meer voor bij mensen met een andere afkomst, of komt dat alleen omdat die mensen de hele tijd gecontroleerd worden, of hangt het samen met opleidingsniveau en socio-economische achtergrond? Daar kijkt een algoritme alleen naar als mensen hem daarop programmeren.