Online17.01.2023

Autoriteit Persoonsgegevens gaat nu ook algoritmes checken

De Autoriteit Persoonsgegevens was altijd van de verwerking van gegevens, maar hield daarbij tot recent niet of weinig rekening met de algoritmes die in bedrijven worden gebruikt. Echter zorgen die algoritmes er soms voor dat er op een bevooroordeelde manier naar gegevens (en mensen) wordt gekeken. Mede daardoor zal de AP zich nu wel ook op algoritmes concentreren.

Algoritmes onder controle

Algoritmes worden onder andere gebruikt in sollicitatieprocedures om alvast een schifting te maken in kandidaten, maar ook gebruiken hypotheekverstrekkers ze om te helpen beoordelen of iemand een hypotheek kan worden verleend. Echter werd dat algoritme verder -behalve binnenshuis- nooit gecontroleerd. Bizar eigenlijk, want het is heel foutgevoelig. Dat heeft onder andere het grote, machtige en rijke Amazon ervaren. Zijn algoritme voor sollicitanten had op een gegeven moment geleerd om alle vrouwen per definitie niet door te laten. Oeps.

Algoritmes zitten overal in verweven. Ze bepalen bijvoorbeeld bij je online bestelling of je bij het plaatsen van je bestelling meteen moet betalen voor het pakje je kant op komt, of dat je gebruik mag maken van een dienst als Klarna om achteraf te betalen. Op zich is dat heel goed: zo wordt er gezorgd dat mensen met geldproblemen niet nog grotere schulden maken. En het zorgt bij solliciteren dat HR-mensen kunnen zorgen dat ze hun tijd aan andere zaken kunnen besteden.

Discriminatie

Tegelijkertijd zijn die algoritmes vaak heel veel waard voor een bedrijf. Kijk naar social media: Instagram en TikTok geven niet zomaar hun algoritme bloot. Ze willen de concurrentie voorblijven en daarnaast willen ze niet dat mensen precies weten hoe ze de algoritmes kunnen bespelen. Kijk maar naar Google dat eens in de zoveel tijd zijn zoekmachine weer iets aanpast, zodat iedereen zijn site weer even goed door moet akkeren om te kijken of de site nog wel goed gevonden wordt door het algoritme.

Vestigen deze bedrijven zich in Nederland, dan zullen ze toch met de Autoriteit Persoonsgegevens te maken krijgen. Nederlandse bedrijven moeten hun algoritmes straks blootgeven aan de AP om zo goed in beeld te hebben hoe zo’n beslisboom in een algoritme in elkaar steekt en of dat wel eerlijk is. En of het wel nodig is: je moet wel een goede argumentatie hebben voor het inzetten van deze vorm van technologie.

Autoriteit Persoonsgegevens

AP-voorzitter Aleid Wolfsen zegt: “Transparantie over het gebruik van algoritmes is cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen.”

Hoewel het goed nieuws lijkt, doet het ook terugdenken aan de Toeslagenaffaire, of liever gezegd: Toeslagentragedie van de Belastingdienst. Dit is een schrijnend voorbeeld van hoe algoritmen het niet aan het goede eind kunnen hebben, wat enorm grote invloed heeft op mensen. De Belastingdienst wordt dan ook gezien als het eerste bedrijf dat door de AP op de bon werd geslingerd, voor 2,75 miljoen euro.

Scherper toezicht

Het is spannend voor bedrijven die in house een algoritme hebben ontwikkeld en nu echt met de billen bloot moeten. Is het algoritme wel voldoende getest? Is er alles aan gedaan om discriminatie tegen te gaan? Hopelijk zet het idee van scherper toezicht bedrijven al meer aan het denken over discriminatie en fouten in algoritmen. Ze mogen dan veelal zelflerend zijn, het is uiteindelijk altijd de verantwoordelijkheid van mensen.

Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.

Deel dit artikel

Verder lezen over Kunstmatige Intelligentie

Welzijn op de werkplek met AI collega’s

De Maand van de Mentale Gezondheid is afgelopen, maar het belang neemt alleen maar toe. Een grote stap hierin is het aanpakken van mentale gezondheidsproblemen op de werkplek. Veelvoorkomende uitdagingen zijn onder andere burn-out, stress en tijdsgebrek. Dit heeft invloed op het welzijn en de productiviteit van werknemers. Statistieken tonen aan dat een aanzienlijk deel van de tijd verloren gaat aan repetitieve en uitputtende taken.

Artificial Intelligence24.07.2024

Welzijn op de werkplek met AI collega’s

Je kunt deepfakes spotten dankzij ruimtetechnologie

Online23.07.2024

Je kunt deepfakes spotten dankzij ruimtetechnologie

Alles is te zien in de poppetjes van je ogen

AI-app Claude is nu beschikbaar op je smartphone

Claude. Niet de zanger van dat catchy half-Franse nummer, maar de kunstmatige intelligentie-tool.

Online17.07.2024

AI-app Claude is nu beschikbaar op je smartphone

YouTube biedt je nu AI-playlists binnen YouTube Music

AI wordt onder andere omarmd door YouTube Music, dat nu door kunstmatige intelligentie samengestelde afspeellijsten ondersteunt.

Online16.07.2024

YouTube biedt je nu AI-playlists binnen YouTube Music

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Van de 400 operaties die ze hebben verricht is er 98 procent volledig goed gegaan. Leg je hart in robothanden.

Technology10.07.2024

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'

Dit is de nieuwe OPPO Reno12 Series

De langverwachte OPPO Reno12 Series is vanaf vandaag verkrijgbaar op de Nederlandse markt. Met de Reno12 en de Reno12 Pro introduceert OPPO twee gloednieuwe AI-telefoons met verschillende functies die de productiviteit en creativiteit verbeteren.

Mobile03.07.2024

Dit is de nieuwe OPPO Reno12 Series

Straks heb je elke dag een originele profielfoto op WhatsApp

Een Lensa-achtige functie komt nu van Meta zelf naar WhatsApp. Zo heb je elke dag een originele profielfoto, als je dat wil natuurlijk.

Social Media02.07.2024

Straks heb je elke dag een originele profielfoto op WhatsApp

Verder lezen over Nederland

Ook het EK 2028 zie je bij de NOS

Het EK 2024 is nog in volle gang. Toch maakt de NOS nu al bekend dat het ook de rechten voor UEFA Euro 2028 heeft verworven. Ze hebben hierover een akkoord bereikt met de Europese voetbalbond. Daarnaast gaat de NOS de komende vier jaar ook alle wedstrijden van het Nederlands elftal en de finales van de UEFA Nations League tot medio 2028 uitzenden.

Media02.07.2024

Ook het EK 2028 zie je bij de NOS

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

8 redenen om de Q-Park parkeerapp te gebruiken

Rijd je rond in Amsterdam en weet je niet waar je allemaal kunt parkeren? Of heb je niet zoveel tijd om een parkeerkaartje te halen? Parkeren is een stuk makkelijker geworden sinds er apps zijn waarmee je dat heel eenvoudig kunt doen.

Automotive13.06.2024

8 redenen om de Q-Park parkeerapp te gebruiken

Voordelig reizen door heel Nederland. Met deze tips kunnen autoreizigers geld besparen op hun reis

Elke reis vereist voorbereiding en planning. Als mensen op reis gaan, zoeken ze op de een of andere manier naar de beste opties op basis van hun financiële mogelijkheden. En, om zo eerlijk mogelijk te zijn, het is onwaarschijnlijk dat iemand zou weigeren om geld te besparen op zijn reis, omdat dit geld kan worden besteed aan verschillende soorten entertainment.

Lifestyle29.05.2024

Voordelig reizen door heel Nederland. Met deze tips kunnen autoreizigers geld besparen op hun reis

Nederlandse online casinobonussen uitgelegd

Spelers die bij Nederlandse online casino's gaan spelen kunnen gebruik maken van diverse soorten bonussen. Niet alleen krijgen nieuwe spelers vaak de mogelijkheid om hiervan te profiteren, ook voor bestaande gokkers die al langer een account hebben zijn er allerlei promoties.

Lifestyle21.05.2024

Nederlandse online casinobonussen uitgelegd

5 dingen om op te letten als je je eigen bedrijf start

Eigen tarieven bepalen en eigen werktijden: hoe fijn is dat? Het geeft een enorm gevoel van vrijheid, maar dat betekent niet dat er niet een paar dingen zijn die je toch echt wel even moet regelen. Deze 5 dingen zijn verstandig om op te letten als je je eigen bedrijf start.

Startups15.05.2024

5 dingen om op te letten als je je eigen bedrijf start

Getir stopt met flitsbezorging in Nederland

Getir, gezien als een van de pioniers op het gebied van flitsbezorgingen van boodschappen, heeft vandaag (29 april 2024) aangekondigd dat zij het Verenigd Koninkrijk, Duitsland, Nederland en de Verenigde Staten gaat verlaten.

Nieuws29.04.2024

Getir stopt met flitsbezorging in Nederland

Ook weg uit de UK, US en Duitsland

Het is Koningsdag! Dit zijn de leukste tweets en inhakers

Het is Koningsdag: de dag waarop je spullen kunt verkopen of blij kunt worden van een mooie aankoop voor weinig. Dit zijn de leukste tweets.

Nieuws27.04.2024

Het is Koningsdag! Dit zijn de leukste tweets en inhakers

Verder lezen over Wetgeving

Temu wordt nu zelfs bestempeld als gevaarlijke malware

Een nieuwe rechtszaak tegen Temu stelt dat het Chinese platform er aantoonbaar ver in gaat: het zou je tekstberichten op je telefoon meelezen.

Cybercrime01.07.2024

Temu wordt nu zelfs bestempeld als gevaarlijke malware

Regulering van kunstmatige intelligentie – wat zal de EU AI Act bereiken?

De snelle ontwikkeling en verspreiding van kunstmatige intelligentie (AI) heeft geleid tot wereldwijde discussies over de noodzaak van passende regelgeving. De Europese Unie heeft op deze uitdaging gereageerd met het voorstel voor een EU-AI Act, die bedoeld is om voor het eerst een uitgebreid wettelijk kader voor AI te creëren.

Technology22.05.2024

Regulering van kunstmatige intelligentie – wat zal de EU AI Act bereiken?

Gebruik van persfoto’s zonder toestemming is auteursrechtinbreuk

Het zonder toestemming gebruiken van teksten, afbeeldingen en artikelen van anderen gebeurt aan de lopende band. Het kan echter vaak leiden tot auteursrechtinbreuk, ondanks verschillende argumenten die inbreukmakers opwerpen ter verdediging. Een recente rechtszaak over persfoto’s illustreert dit probleem.

Online17.05.2024

Gebruik van persfoto’s zonder toestemming is auteursrechtinbreuk

Booking.com moet er ook aan geloven: extra checks door EU

Als de EU een bedrijf als poortwachter markeert, moet het extra goed aan de regels voldoen. De nieuwe poortwachter is Booking.com.

Online15.05.2024

Booking.com moet er ook aan geloven: extra checks door EU

Booking.com moet extra gaan oppassen voor de EU

Standaardwachtwoorden zijn bij wet verboden in het Verenigd Koninkrijk

Gewoon 'wachtwoord' als standaardwachtwoord, lekker makkelijk toch? In het Verenigd Koninkrijk mag het niet meer.

Cybercrime30.04.2024

Standaardwachtwoorden zijn bij wet verboden in het Verenigd Koninkrijk

Webshop Shein moet oppassen met namaakkleding door EU-regels

Shein, het bekende Chinese online warenhuis, moet zich aan de strenge regels van de EU gaan houden en dat betekent: oppassen met nepperij.

Online26.04.2024

Webshop Shein moet oppassen met namaakkleding door EU-regels

Alles wat je moet weten over het casino zonder Cruks

Welkom in de dynamische wereld van online gokken, waar iedere klik je kan brengen naar een nieuw avontuur. Precies in het midden van deze digitale ontdekkingsreis vinden we het casino zonder Cruks, een oase voor spelers...

Entertainment09.04.2024

Alles wat je moet weten over het casino zonder Cruks

Microsoft gaat het doen: Teams en Office scheiden

Veel mensen adviseren ertegen, maar Microsoft gaat het toch doen: Office en Teams scheiden. Het komt dan met een nieuwe versie van Microsoft 365 en Office 365 waarbij Teams er niet meer bij zit. Microsoft doet dat echter...

Marketing01.04.2024