Online17.01.2023

Autoriteit Persoonsgegevens gaat nu ook algoritmes checken

De Autoriteit Persoonsgegevens was altijd van de verwerking van gegevens, maar hield daarbij tot recent niet of weinig rekening met de algoritmes die in bedrijven worden gebruikt. Echter zorgen die algoritmes er soms voor dat er op een bevooroordeelde manier naar gegevens (en mensen) wordt gekeken. Mede daardoor zal de AP zich nu wel ook op algoritmes concentreren.

Algoritmes onder controle

Algoritmes worden onder andere gebruikt in sollicitatieprocedures om alvast een schifting te maken in kandidaten, maar ook gebruiken hypotheekverstrekkers ze om te helpen beoordelen of iemand een hypotheek kan worden verleend. Echter werd dat algoritme verder -behalve binnenshuis- nooit gecontroleerd. Bizar eigenlijk, want het is heel foutgevoelig. Dat heeft onder andere het grote, machtige en rijke Amazon ervaren. Zijn algoritme voor sollicitanten had op een gegeven moment geleerd om alle vrouwen per definitie niet door te laten. Oeps.

Algoritmes zitten overal in verweven. Ze bepalen bijvoorbeeld bij je online bestelling of je bij het plaatsen van je bestelling meteen moet betalen voor het pakje je kant op komt, of dat je gebruik mag maken van een dienst als Klarna om achteraf te betalen. Op zich is dat heel goed: zo wordt er gezorgd dat mensen met geldproblemen niet nog grotere schulden maken. En het zorgt bij solliciteren dat HR-mensen kunnen zorgen dat ze hun tijd aan andere zaken kunnen besteden.

Discriminatie

Tegelijkertijd zijn die algoritmes vaak heel veel waard voor een bedrijf. Kijk naar social media: Instagram en TikTok geven niet zomaar hun algoritme bloot. Ze willen de concurrentie voorblijven en daarnaast willen ze niet dat mensen precies weten hoe ze de algoritmes kunnen bespelen. Kijk maar naar Google dat eens in de zoveel tijd zijn zoekmachine weer iets aanpast, zodat iedereen zijn site weer even goed door moet akkeren om te kijken of de site nog wel goed gevonden wordt door het algoritme.

Vestigen deze bedrijven zich in Nederland, dan zullen ze toch met de Autoriteit Persoonsgegevens te maken krijgen. Nederlandse bedrijven moeten hun algoritmes straks blootgeven aan de AP om zo goed in beeld te hebben hoe zo’n beslisboom in een algoritme in elkaar steekt en of dat wel eerlijk is. En of het wel nodig is: je moet wel een goede argumentatie hebben voor het inzetten van deze vorm van technologie.

Autoriteit Persoonsgegevens

AP-voorzitter Aleid Wolfsen zegt: “Transparantie over het gebruik van algoritmes is cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen.”

Hoewel het goed nieuws lijkt, doet het ook terugdenken aan de Toeslagenaffaire, of liever gezegd: Toeslagentragedie van de Belastingdienst. Dit is een schrijnend voorbeeld van hoe algoritmen het niet aan het goede eind kunnen hebben, wat enorm grote invloed heeft op mensen. De Belastingdienst wordt dan ook gezien als het eerste bedrijf dat door de AP op de bon werd geslingerd, voor 2,75 miljoen euro.

Scherper toezicht

Het is spannend voor bedrijven die in house een algoritme hebben ontwikkeld en nu echt met de billen bloot moeten. Is het algoritme wel voldoende getest? Is er alles aan gedaan om discriminatie tegen te gaan? Hopelijk zet het idee van scherper toezicht bedrijven al meer aan het denken over discriminatie en fouten in algoritmen. Ze mogen dan veelal zelflerend zijn, het is uiteindelijk altijd de verantwoordelijkheid van mensen.

Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.

Deel dit artikel

...

Verder lezen over Kunstmatige Intelligentie

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

YouTube wordt een deejay en gaat muziek aan elkaar mixen

Wat als je een vette remix wil maken voor in je YouTube Shorts? Dat kan straks met AI. Al moet je er wel wat voor doen.

Video13.11.2024

YouTube wordt een deejay en gaat muziek aan elkaar mixen

Instagram krijgt straks avatars met kunstmatige intelligentie

Je kunt zelf een AI-foto uploaden, maar Instagram wil het duidelijk heel makkelijk maken voor mensen om voor een AI-profielfoto te kiezen.

Social Media12.11.2024

Instagram krijgt straks avatars met kunstmatige intelligentie

Waar begin je als je toch AI-content op je site wil?

We vragen zoveel aan AI, maar tot nu toe durven nog niet veel mensen het aan om AI te gebruiken voor grotere taken. Zonde, want je kunt samen met een AI-collga een heel succesvol blog runnen. Dat belooft in ieder geval Semrush, dat met ContentShake AI komt. Een manier om ongelimiteerde, publiciteitsklare content te genereren.

Marketing11.11.2024

Waar begin je als je toch AI-content op je site wil?

Baidu gaat een slimme AI-bril lanceren tijdens Baidu World

Volgende week zal Baidu zijn nieuwste product onthullen tijdens het Baidu World-evenement in Shanghai: een slimme op AI-gestuurde bril die de concurrentie aan moet gaan met Meta’s slimme Ray-Ban-brillen.

Tech in Asia08.11.2024

Baidu gaat een slimme AI-bril lanceren tijdens Baidu World

Zelfs Microsoft Notepad krijgt kunstmatige intelligentie

Het bekende kladblok op je PC is altijd zo lekker eenvoudig, maar dat betekent niet dat het niet slimmer kan.

Artificial Intelligence07.11.2024

Zelfs Microsoft Notepad krijgt kunstmatige intelligentie

Mews is het snelst groeiende bedrijf van Nederland in 2024

Hun cloudtechnologie voor bedrijven in de hospitalitysector resulteerde in een ongekende groei voor Mews – en dit is nog maar het begin. Nadat het bedrijf begin 2024 de unicorn-status behaalde, is Mews nu uitgeroepen tot het snelst groeiende bedrijf van Nederland, zo blijkt uit onderzoek van Erasmus Centre for Entrepreneurship.

Nieuws06.11.2024

Mews is het snelst groeiende bedrijf van Nederland in 2024

Winnaar van de Top 250 Golden Scaler Award

Verder lezen over Nederland

Wolven die niet worden bejaagd, worden steeds brutaler!

Biologen en wolvenexperts hebben het ons jarenlang verzekerd. Wolven zouden mensen mijden en van nature schuw zijn. Het tegendeel lijkt inmiddels echter waar te zijn. Wolven wandelden al meermaals onverschrokken door dorpen of wijken en mijden ook in de vrije natuur mensen bepaald niet. Als gevolg hiervan neemt de lijst van confrontaties met wolven alsmaar in omvang toe.

Nieuws14.11.2024

Wolven die niet worden bejaagd, worden steeds brutaler!

Jaarlijks wolvenafschot dringend noodzakelijk

10e editie WFFR: met een ode aan natuurliefhebbers en vertoningen in de wijk

Deze week is alweer de tiende editie van het Wildlife Film Festival Rotterdam (WFFR) van start gegaan! Deze feestelijke jubileumeditie opende met de wereldpremière van De Verwonderaars van de Rotterdamse filmmaker Rik van der Linden. Ook zijn er veel films van eigen bodem, thema- en shortprogramma’s en een filmtournee door de stad.

Events06.11.2024

10e editie WFFR: met een ode aan natuurliefhebbers en vertoningen in de wijk

5 dingen die we zullen missen van Blokker

Blokker gaat mogelijk failliet. Het is een Nederlands icoon dat verdwijnt. En daarmee ook veel Blokker-nostalgie, want die is er volop.

Nieuws05.11.2024

5 dingen die we zullen missen van Blokker

Den Haag ontvangt EU missie label voor duurzaamheid

Op 8 oktober ontving de gemeente Den Haag als eerste en enige Nederlandse stad het EU missie label ‘100 klimaat neutrale en slimme steden in 2030’. Ze krijgen deze erkenning omdat de gemeente Den Haag in Europa koploper is met haar innovatieve klimaatactiviteiten en -ambities. Deze erkenning is een steun in de rug voor de Haagse inwoners, ondernemers en met name de ondertekenaars van he Haags Klimaatakkoord.

Nieuws08.10.2024

Den Haag ontvangt EU missie label voor duurzaamheid

WeTransfer is geen Nederlands bedrijf meer: wordt overgenomen

De handige app WeTransfer, om bestanden te versturen, is uitgevonden in Nederland en altijd gerund vanuit ons land, maar dat is nu voorbij.

Online02.08.2024

WeTransfer is geen Nederlands bedrijf meer: wordt overgenomen

Ook het EK 2028 zie je bij de NOS

Het EK 2024 is nog in volle gang. Toch maakt de NOS nu al bekend dat het ook de rechten voor UEFA Euro 2028 heeft verworven. Ze hebben hierover een akkoord bereikt met de Europese voetbalbond. Daarnaast gaat de NOS de komende vier jaar ook alle wedstrijden van het Nederlands elftal en de finales van de UEFA Nations League tot medio 2028 uitzenden.

Media02.07.2024

Ook het EK 2028 zie je bij de NOS

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

8 redenen om de Q-Park parkeerapp te gebruiken

Rijd je rond in Amsterdam en weet je niet waar je allemaal kunt parkeren? Of heb je niet zoveel tijd om een parkeerkaartje te halen? Parkeren is een stuk makkelijker geworden sinds er apps zijn waarmee je dat heel eenvoudig kunt doen.

Automotive13.06.2024

8 redenen om de Q-Park parkeerapp te gebruiken

Verder lezen over Wetgeving

Waarom goede tattoos steeds duurder worden

Heb je tatoeages? Als je antwoord ja is, dan is de volgende vraag: weet je wel wat je in je lichaam hebt laten prikken?

Nieuws03.10.2024

Waarom goede tattoos steeds duurder worden

Temu wordt nu zelfs bestempeld als gevaarlijke malware

Een nieuwe rechtszaak tegen Temu stelt dat het Chinese platform er aantoonbaar ver in gaat: het zou je tekstberichten op je telefoon meelezen.

Cybercrime01.07.2024

Temu wordt nu zelfs bestempeld als gevaarlijke malware

Regulering van kunstmatige intelligentie – wat zal de EU AI Act bereiken?

De snelle ontwikkeling en verspreiding van kunstmatige intelligentie (AI) heeft geleid tot wereldwijde discussies over de noodzaak van passende regelgeving. De Europese Unie heeft op deze uitdaging gereageerd met het voorstel voor een EU-AI Act, die bedoeld is om voor het eerst een uitgebreid wettelijk kader voor AI te creëren.

Technology22.05.2024

Regulering van kunstmatige intelligentie – wat zal de EU AI Act bereiken?

Gebruik van persfoto’s zonder toestemming is auteursrechtinbreuk

Het zonder toestemming gebruiken van teksten, afbeeldingen en artikelen van anderen gebeurt aan de lopende band. Het kan echter vaak leiden tot auteursrechtinbreuk, ondanks verschillende argumenten die inbreukmakers opwerpen ter verdediging. Een recente rechtszaak over persfoto’s illustreert dit probleem.

Online17.05.2024

Gebruik van persfoto’s zonder toestemming is auteursrechtinbreuk

Booking.com moet er ook aan geloven: extra checks door EU

Als de EU een bedrijf als poortwachter markeert, moet het extra goed aan de regels voldoen. De nieuwe poortwachter is Booking.com.

Online15.05.2024

Booking.com moet er ook aan geloven: extra checks door EU

Booking.com moet extra gaan oppassen voor de EU

Standaardwachtwoorden zijn bij wet verboden in het Verenigd Koninkrijk

Gewoon 'wachtwoord' als standaardwachtwoord, lekker makkelijk toch? In het Verenigd Koninkrijk mag het niet meer.

Cybercrime30.04.2024

Standaardwachtwoorden zijn bij wet verboden in het Verenigd Koninkrijk

Webshop Shein moet oppassen met namaakkleding door EU-regels

Shein, het bekende Chinese online warenhuis, moet zich aan de strenge regels van de EU gaan houden en dat betekent: oppassen met nepperij.

Online26.04.2024

Webshop Shein moet oppassen met namaakkleding door EU-regels

Microsoft gaat het doen: Teams en Office scheiden

Veel mensen adviseren ertegen, maar Microsoft gaat het toch doen: Office en Teams scheiden. Het komt dan met een nieuwe versie van Microsoft 365 en Office 365 waarbij Teams er niet meer bij zit. Microsoft doet dat echter...

Marketing01.04.2024