Online17.01.2023

Autoriteit Persoonsgegevens gaat nu ook algoritmes checken


De Autoriteit Persoonsgegevens was altijd van de verwerking van gegevens, maar hield daarbij tot recent niet of weinig rekening met de algoritmes die in bedrijven worden gebruikt. Echter zorgen die algoritmes er soms voor dat er op een bevooroordeelde manier naar gegevens (en mensen) wordt gekeken. Mede daardoor zal de AP zich nu wel ook op algoritmes concentreren.

Algoritmes onder controle

Algoritmes worden onder andere gebruikt in sollicitatieprocedures om alvast een schifting te maken in kandidaten, maar ook gebruiken hypotheekverstrekkers ze om te helpen beoordelen of iemand een hypotheek kan worden verleend. Echter werd dat algoritme verder -behalve binnenshuis- nooit gecontroleerd. Bizar eigenlijk, want het is heel foutgevoelig. Dat heeft onder andere het grote, machtige en rijke Amazon ervaren. Zijn algoritme voor sollicitanten had op een gegeven moment geleerd om alle vrouwen per definitie niet door te laten. Oeps.

Algoritmes zitten overal in verweven. Ze bepalen bijvoorbeeld bij je online bestelling of je bij het plaatsen van je bestelling meteen moet betalen voor het pakje je kant op komt, of dat je gebruik mag maken van een dienst als Klarna om achteraf te betalen. Op zich is dat heel goed: zo wordt er gezorgd dat mensen met geldproblemen niet nog grotere schulden maken. En het zorgt bij solliciteren dat HR-mensen kunnen zorgen dat ze hun tijd aan andere zaken kunnen besteden.

Discriminatie

Tegelijkertijd zijn die algoritmes vaak heel veel waard voor een bedrijf. Kijk naar social media: Instagram en TikTok geven niet zomaar hun algoritme bloot. Ze willen de concurrentie voorblijven en daarnaast willen ze niet dat mensen precies weten hoe ze de algoritmes kunnen bespelen. Kijk maar naar Google dat eens in de zoveel tijd zijn zoekmachine weer iets aanpast, zodat iedereen zijn site weer even goed door moet akkeren om te kijken of de site nog wel goed gevonden wordt door het algoritme.

Vestigen deze bedrijven zich in Nederland, dan zullen ze toch met de Autoriteit Persoonsgegevens te maken krijgen. Nederlandse bedrijven moeten hun algoritmes straks blootgeven aan de AP om zo goed in beeld te hebben hoe zo’n beslisboom in een algoritme in elkaar steekt en of dat wel eerlijk is. En of het wel nodig is: je moet wel een goede argumentatie hebben voor het inzetten van deze vorm van technologie.

Autoriteit Persoonsgegevens

AP-voorzitter Aleid Wolfsen zegt: “Transparantie over het gebruik van algoritmes is cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen.”

Hoewel het goed nieuws lijkt, doet het ook terugdenken aan de Toeslagenaffaire, of liever gezegd: Toeslagentragedie van de Belastingdienst. Dit is een schrijnend voorbeeld van hoe algoritmen het niet aan het goede eind kunnen hebben, wat enorm grote invloed heeft op mensen. De Belastingdienst wordt dan ook gezien als het eerste bedrijf dat door de AP op de bon werd geslingerd, voor 2,75 miljoen euro.

Scherper toezicht

Het is spannend voor bedrijven die in house een algoritme hebben ontwikkeld en nu echt met de billen bloot moeten. Is het algoritme wel voldoende getest? Is er alles aan gedaan om discriminatie tegen te gaan? Hopelijk zet het idee van scherper toezicht bedrijven al meer aan het denken over discriminatie en fouten in algoritmen. Ze mogen dan veelal zelflerend zijn, het is uiteindelijk altijd de verantwoordelijkheid van mensen.

Laura Jenny
Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.

Verder lezen over Kunstmatige Intelligentie

Dit is Google Vids – de nieuwe Workspace app

Google Cloud heeft vandaag, tijdens het Google Cloud Next event in Las Vegas, nieuwe innovaties en verbeteringen aangekondigd voor Google Workspace.

Video10.04.2024

Dit is Google Vids – de nieuwe Workspace app

Het ultieme AI-apparaat draait niet om het apparaat

De ontwerper van de iPhone, John Ive, en de topman van OpenAI, Sam Altman, hebben elkaar helemaal gevonden. Ze zijn nu op zoek naar 1 miljard dollar aan investeringen om zo te maken wat dé ultieme AI-gadget moet worden....

Online08.04.2024

Het ultieme AI-apparaat draait niet om het apparaat

Google’s zoekmachine gaat geld kosten en dat komt door AI

De zoekmachine van Google wordt binnenkort waarschijnlijk betaald. Niet voor iedereen: de versie zoals we die nu kennen blijft wat het is. Er wordt echter AI aan toegevoegd en dat zal waarschijnlijk geld kosten. Het nieu...

Search04.04.2024

Google’s zoekmachine gaat geld kosten en dat komt door AI

Dall-E en ChatGPT verenigen zich: beeld aanpassen in de chat

OpenAI heeft steeds meer tools waarmee je AI in je voordeel kunt gebruiken: er is Dall-E, ChatGPT en dan ook nog Sora. Die werken normaal allemaal naast elkaar, maar Dall-E en ChatGPT zoeken elkaar wat meer op. Dall-E is...

Online04.04.2024

Dall-E en ChatGPT verenigen zich: beeld aanpassen in de chat

Na wetenschappers nu ook AI-brandbrief vanuit muziekindustrie

Billie Eilish, CAKE, J Balvin, Imagine Dragons, Jadakiss, Katy Perry, Kim Petras, Pearl Jam: allemaal staan ze op een brandbrief tegen AI. Kunstmatige intelligentie maakt veel mensen in vooral de creatieve industrie bang...

Online03.04.2024

Na wetenschappers nu ook AI-brandbrief vanuit muziekindustrie

Onverwachte wending: je kunt ChatGPT nu zonder account gebruiken

ChatGPT is nu te gebruiken zonder account. Waar OpenAI het eerst verplicht stelde dat je inlogde voordat je de AI-chatbot van een vragenvuur voorzag, is dat nu niet meer nodig. Je kunt als je nu naar chat.openai.com gaat...

Online02.04.2024

Onverwachte wending: je kunt ChatGPT nu zonder account gebruiken

​Apple WWDC 2024 vindt plaats op 10 juni: AI komt eraan

Apple heeft zijn ontwikkelaarsconferentie WWDC 2024 gepland voor 10 juni. Je zou denken dat dat alleen voor ontwikkelaars is en verder niet zo boeiend, maar er komen juist veel aankondigingen vandaan voor het grote publi...

Technology27.03.2024

​Apple WWDC 2024 vindt plaats op 10 juni: AI komt eraan

​5 voorbeelden van OpenAI’s Sora die je zullen verwonderen

OpenAI heeft met Sora heel interessante AI gelanceerd, hoewel het nog niet voor iedereen beschikbaar is. OpenAI heeft het wel aan verschillende visuele artiesten en filmmakers gegeven om hun ding te doen. En hun ding ded...

Online26.03.2024

​5 voorbeelden van OpenAI’s Sora die je zullen verwonderen

Verder lezen over Nederland

Alles wat je moet weten over het casino zonder Cruks

Welkom in de dynamische wereld van online gokken, waar iedere klik je kan brengen naar een nieuw avontuur. Precies in het midden van deze digitale ontdekkingsreis vinden we het casino zonder Cruks, een oase voor spelers...

Entertainment09.04.2024

Alles wat je moet weten over het casino zonder Cruks

De grootste hyperloop van Europa ligt in Nederland

Het is 420 meter lang en daarmee de langste hyperloop van Europa. We hebben het over het gloednieuwe European Hyperloop Center in Veendam. Het is te vinden bij Husa Logistics en kostte 7,5 miljoen euro om te bouwen. Spec...

Technology28.03.2024

De grootste hyperloop van Europa ligt in Nederland

Witte Donderdag, Pasen, Pinksteren: zo zit het met de feestdagen

We hebben komend weekend lekker een dagje langer vrij, omdat het Pasen is. Een welbekende vraag tijdens deze feestdag is natuurlijk: wat gebeurde er eigenlijk met Pasen? Je hoeft niet een hele bijbel door te akkeren om d...

Nieuws26.03.2024

Witte Donderdag, Pasen, Pinksteren: zo zit het met de feestdagen

​Dit zijn de beste Nederlandse steden voor padellers

Er is tennis, er is squash en er is padel. Steeds vaker zien we in Nederland padelbanen verschijnen en dat is niet vreemd: het is een enorm goede sport. Nu blijkt volgens een onderzoek van Holidu dat er bepaalde steden i...

lifestyle20.03.2024

​Dit zijn de beste Nederlandse steden voor padellers

Wie is de Mol S24 – Finale: wie is uiteindelijk De Mol?

Het was weer een mooie reis die we als kijker met de kandidaten van Wie is de Mol? hebben meegemaakt. Mexico natuurlijk, maar ook de reis die we elke week weer doormaakten met het ontdekken wie dan toch De Mol is. Er zij...

Entertainment09.03.2024

Wie is de Mol S24 – Finale: wie is uiteindelijk De Mol?

En de Mol is...
​Drones & AI helpen boeren bij het voldoen aan Europese milieuregels

Onderzoekers van Unmanned Valley, Greenport Duin- en Bollenstreek en NL Space Campus zijn erin geslaagd om een AI-model te ontwikkelen waarmee drones botrytis kunnen herkennen. Het model gebruikt kunstmatige intelligenti...

Nieuws07.03.2024

​Drones & AI helpen boeren bij het voldoen aan Europese milieuregels

​Hoe je vele honderden euro’s per jaar kunt besparen op boodschappen

Hieronder deel ik een bewezen strategie voor het besparen van vele honderden euro's per jaar op boodschappen. Het vergt slechts een iets verder vooruit kijken dan de dagelijkse of wekelijkse boodschappen. Per persoon kan...

Nieuws04.03.2024

​Hoe je vele honderden euro’s per jaar kunt besparen op boodschappen

​Het einde van een tijdperk: het luchtalarm verdwijnt

Het is vandaag de eerste maandag van de maand en dat betekent dat we om 12:00 uur weer kunnen genieten van een wieee-oeeehhh-geluid dat door de straten schalt. Voor sommige toeristen is dat even schrikken, dat testmoment...

Nieuws04.03.2024

​Het einde van een tijdperk: het luchtalarm verdwijnt

Verder lezen over Wetgeving

Alles wat je moet weten over het casino zonder Cruks

Welkom in de dynamische wereld van online gokken, waar iedere klik je kan brengen naar een nieuw avontuur. Precies in het midden van deze digitale ontdekkingsreis vinden we het casino zonder Cruks, een oase voor spelers...

Entertainment09.04.2024

Alles wat je moet weten over het casino zonder Cruks

Microsoft gaat het doen: Teams en Office scheiden

Veel mensen adviseren ertegen, maar Microsoft gaat het toch doen: Office en Teams scheiden. Het komt dan met een nieuwe versie van Microsoft 365 en Office 365 waarbij Teams er niet meer bij zit. Microsoft doet dat echter...

marketing01.04.2024

Microsoft gaat het doen: Teams en Office scheiden

​Je kind van 13 op social media? Het is op deze plek verboden

Je kinderen onder de 14 jaar op TikTok? In Florida kun je daarvoor worden gestraft. Er is een wet aangenomen die het strafbaar maakt voor kinderen onder de 14 om zich op social media te begeven. De wet gaat pas per 1 jan...

social media27.03.2024

​Je kind van 13 op social media? Het is op deze plek verboden

​Verenigde Staten klaagt Apple aan voor telefoonmonopolie

De Verenigde Staten klagen Apple aan omdat het meent dat het misbruik maakt van zijn macht in de smartphonewereld. Of het geïnspireerd is door de vele klachten en onderzoeken van de EU rondom monopolies is onbekend. Wel...

mobile22.03.2024

​Verenigde Staten klaagt Apple aan voor telefoonmonopolie

De EU doet onderzoek naar Apple’s keuzes voor de App Store

Het feit dat Apple ontwikkelaars een extra vergoeding aanrekent wanneer hun apps meer dan 1 miljoen keer worden gedownload in een jaar is niet bij iedereen positief geland. Sterker nog, bij ongeveer iedereen behalve Appl...

mobile21.03.2024

De EU doet onderzoek naar Apple’s keuzes voor de App Store

​Webshops pas op: de nieuwe cookiewet wordt volop overtreden

We horen wel veel over de Digital Markets Act vanuit het oogpunt van grote techbedrijven, maar vergis je niet: ook als je een kleine webshop runt krijg je hiermee te maken. Sinds vorige week is er nieuwe cookiewetgeving...

Online11.03.2024

​Webshops pas op: de nieuwe cookiewet wordt volop overtreden

​Europa geeft Apple gigaboete van 1,84 miljard door Spotify

Apple moet een grote boete betalen van 1,84 miljard euro. De reden is dat Spotify heeft geklaagd. De EU is het niet eens met de regels in de App Store en dat Apple het niet toelaat voor muziekdiensten om goedkopere abonn...

Technology05.03.2024

​Europa geeft Apple gigaboete van 1,84 miljard door Spotify

​Je kunt straks apps sideloaden op je iPhone: dit betekent het

Apple staat bekend om zijn redelijk dichtgetimmerde ecosysteem, maar nu moet het toch met de billen bloot: het moet sideloading mogelijk maken. Bij het sideloaden van apps is het mogelijk om naast de App Store een app al...

mobile26.01.2024

​Je kunt straks apps sideloaden op je iPhone: dit betekent het