Technology03.10.2018

​Oordelen over vooroordelen in AI


Ik had van het weekend voor het eerst de openhaard weer aan. Knetterend haardvuur vermengde zich met de geur van rode wijn. Op de achtergrond hoorde ik de muziek van George Michael “Listen without Prejudice!” Typisch iets menselijks om bevooroordeeld ergens mee bezig te zijn dacht ik nog en mijn gedachten dwaalden gelijk af naar de uitdaging waar wij mensen voor staan; Hoe zorgen wij ervoor dat er betrouwbare AI systemen kunnen worden ontwikkelt en kunnen verklaren hoe AI-systemen tot bepaalde keuzes zijn gekomen? Op welke wijze maken wij de keuzes transparant en kunnen we de resultaten vertrouwen en onderbouwen?

Blackbox

Veel mensen ervaren AI als een blackbox. Voor de meeste mensen is het onduidelijk wat er gebeurd binnen een AI-systeem. Normaliter zou een Data Scientist een eind komen maar helaas hebben wij als gewone stervelingen niet allemaal deze kennis voorhanden. Hoe komt een zelflerend systeem aan zijn resultaten, op basis van welke databronnen, modellen, criteria en algoritmen. Kunnen de resultaten zonder tussenkomst van mensen worden gebruikt voor wettelijke compliance (GDPR) of andere beslissingen in een goedkeuring proces? Hoe betrouwbaar, volledig en accuraat is het AI-systeem. Zijn de systemen zonder vooroordelen getraind gebruikmakend van verschillende machine-learning technieken zoals Supervised, Un-Supervised en/of Deep-Learning technologie.

Vooroordelen

Maar waar komen deze vooroordelen vandaan? Er zijn ongeveer 180 verschillende menselijke vooroordelen geïdentificeerd. De brongegevens waarvan AI-algoritmen afhankelijk zijn, zijn vaak de oorzaak van het probleem. Met behulp van algoritmen voor het leren van machines zijn ze opgeleid met behulp van historische gegevens en doorgaans zijn gegevens gemaakt van historische menselijke beslissingen die op dezelfde manier tot stand zijn gekomen. Het kan ook ontstaan doordat de enorme hoeveelheden data-algoritmen die worden opgeleid, niet altijd voldoende divers zijn.

Soms hebben de menselijke beslissingen sporen van een vooroordeel of dat impliciet of expliciet is om verschillende redenen. Dus als het machine-learning model is getraind op basis van deze bevooroordeelde getrainde datasets, zal het die vooroordelen erven en repliceren. Met alle gevolgen van dien.

Detecteren en verhelpen

We zijn gelukkig nu in staat om vooroordelen te detecteren in Runtime. We noemen dit “Trust and Transparency” services, zie: Trust and Transparency for AI on the Cloud.

Het verklaard hoe het AI systeem tot bepaalde resultaten gekomen is ook op basis van welke factoren. Het detecteert vooroordelen in de datamodellen wanneer beslissingen worden genomen en detecteert oneerlijke uitkomsten. Daarnaast geeft het ook aan welke databronnen additioneel gebruikt moet worden om het trainingsmodel opnieuw te trainen om de vooroordelen eruit te krijgen.

Het kan gebruikt worden voor verschillende Machine Learning Frameworks zoals: Tensorflow, SparkML, AWS Sagemaker, AzureML en IBM Watson. Een goede stap naar betrouwbare AI systemen die gebruikt kunnen worden om ons mensen te ondersteunen bij het nemen van complexe beslissingen. Hierdoor ben je dus in staat om Ethische principes te vertalen naar praktische oplossingen.

Nationale AI-agenda

Bovenstaande zou een zeer belangrijk onderdeel moeten worden in de nog op te zetten Nationale AI agenda. In deze agenda moeten alle aspecten rondom kunstmatige intelligentie aan de orde komen, zoals onderzoek, onderwijs, publiek-private samenwerking, nationale educatie, regelgeving en ethiek. We moeten zorgen dat we als B.V. Nederland aan de top mee kunnen blijven draaien op zowel Europees als Wereldwijd niveau. De eerste stappen worden hierin gezet.

[Afbeelding © Sikov – Adobe Stock]

AI spreekt onze taal en heeft dus ook onze vooroordelen​Innovaties die ons leven helpen veranderen binnen 5 jaar​Cognitief ondernemen in een denkende maatschappij
Gerard Smit

Gerard Smit is Chief Technology Officer van IBM Benelux onderdeel van de Europese CTO Office, IBM Distinguished Engineer en lid van de IBM Academy of Technology. Gerard is nieuwgierig naar nieuwe technologische ontwikkelingen en houdt ervan om creatief en buiten de kaders naar oplossingen te zoeken. Hij is sterk verbonden met onderzoeksinstellingen, trendwatchers, analisten en andere externe innovatie instellingen.

Deel dit artikel
...

Verder lezen over IBM

Wat is een quantumcomputer en waarom is het interessant?

Er is een grote doorbraak geweest in de wereld van kwantumcomputers, maar de kans is groot dat je daar niets over hebt gehoord. Het is namelijk niet echt een wereld waarvan grote aantallen mensen op de hoogte zijn. Wat e...

Technology10.02.2023

Wat is een quantumcomputer en waarom is het interessant?
​De toekomst van computers?

Zou het mogelijk zijn als we de intelligentie van Einstein, de context van Gandhi en het geheugen van de gehele mensheid geconsolideerd kunnen aanbieden op een hybride computerplatform? Zijn we in staat, in de nabije toe...

Technology04.05.2020

​De toekomst van computers?
Google bevestigt doorbraak in kwantumcomputerkracht

Google heeft laten weten dat het bedrijf een nieuwe doorbraak in kwantumkracht heeft bereikt in een artikel dat is gepubliceerd in het wetenschappelijke tijdschrift: Nature. De aankondiging komt precies een maand nadat...

Technology25.10.2019

Google bevestigt doorbraak in kwantumcomputerkracht
​Zijn wij drenkelingen op een houten vlot?

De technologische ontwikkelingen in onze maatschappij volgen zich in quantum snelheid op. We krijgen dagelijks zoveel informatie op ons af waardoor we steeds meer ondersteuning nodig hebben van intelligente systemen die...

Technology23.09.2019

​Zijn wij drenkelingen op een houten vlot?
IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Microsoft heeft veel voor LinkedIn betaald toen ze die in 2016 kochten voor meer dan 26 miljard dollar, maar dat kan niet op tegen de 34 miljard dollar (in cash!) die IBM heeft gespendeerd aan het kopen van Red Hat. Dit...

Technology29.10.2018

IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Techreus koopt ander model voor de toekomst
Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

IBM Research is in de geurtjes gegaan. Ze zijn namelijk gaan samenwerken met Symrise, een van de grootste bedenkers van smaken en geuren. Daar is een AI uitgekomen die Philyra heet, naar de Griekse godin van de geur. Die...

Technology25.10.2018

Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

'Eau d'intelligence artificielle'
Call for code: kan jouw code helpen bij natuur- en klimaatrampen?

We hebben het al eerder gehad over Call for Code, een competitie die ontwikkelaars uitdaagt om technische oplossingen te vinden die voor, tijdens of na klimaat- en natuurrampen kunnen helpen. Maar wat kun je bedenken dat...

Technology07.07.2018

Call for code: kan jouw code helpen bij natuur- en klimaatrampen?
Jouw code kan levens redden – en IBM wil je daarbij helpen

IBM heeft zich aangesloten bij de David Clark Cause om een nieuw project op te starten: het Call for Code Global Initiative'. Dat heeft zich tot taak gesteld om de wereld beter te wapenen tegen klimaat- en andere natuurr...

Online02.07.2018

Jouw code kan levens redden – en IBM wil je daarbij helpen

Verder lezen over Kunstmatige Intelligentie

ClimateGPT: De volgende stap in klimaatonderzoek?

Op woensdag 13 november 2024 kwamen ambtenaren en beleidsmakers samen voor de AI en Overheid conferentie, georganiseerd door iBestuur, het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, LEF future center, Rijkswaterstaat en de Nederlandse AI Coalitie. Tijdens deze bijeenkomst presenteerde Daniel Erasmus ClimateGPT, een innovatief AI-model dat is ontworpen om beleidsmakers te ondersteunen in de strijd tegen klimaatverandering. Naast Erasmus kreeg ook ik de kans om te spreken en mijn inzichten te delen over de toepassing van AI binnen de overheid.

Technology20.11.2024

ClimateGPT: De volgende stap in klimaatonderzoek?
Wortell opent nieuw next-gen Cyber Defense Center

Op donderdag 14 november heeft Wortell samen met relaties en partners de feestelijke opening van haar nieuwe next-gen Cyber Defense Center (CDC) gevierd. Dit innovatieve centrum biedt organisaties wereldwijd een geavanceerde oplossing voor 24/7 proactieve beveiliging, detectie en herstel van IT-landschappen. Het CDC speelt in op de groeiende dreiging van cyberaanvallen door bedrijven te helpen hun digitale weerbaarheid te versterken en altijd een stap voor te blijven op potentiële aanvallen.

Cybercrime20.11.2024

Wortell opent nieuw next-gen Cyber Defense Center
Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Niantic was zo’n vijf jaar geleden enorm bekend door zijn game Pokémon Go. Het spelletje waarin je fysiek naar locaties moet gaan. Nu gebruikt Niantic die locatie-foto's.

Mobile20.11.2024

Je Pokémon Go-data wordt nu gebruikt om AI te trainen
Je kunt straks een andere taal spreken in Microsoft Teams

Het idee is dat je hardop tegen je computer of telefoon praat en vervolgens zorgt de AI voor een nabootsing van wat je zegt in een andere taal. In jouw stemgeluid.

Online19.11.2024

Je kunt straks een andere taal spreken in Microsoft Teams
Komt er een moment waarop AI niet meer kan verbeteren?

Zo zou de verandering van het huidige top-AI-model van OpenAI naar het volgende een vrij kleine sprong zijn. 

Online19.11.2024

Komt er een moment waarop AI niet meer kan verbeteren?
Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots
Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa
YouTube wordt een deejay en gaat muziek aan elkaar mixen

Wat als je een vette remix wil maken voor in je YouTube Shorts? Dat kan straks met AI. Al moet je er wel wat voor doen.

Video13.11.2024

YouTube wordt een deejay en gaat muziek aan elkaar mixen

Verder lezen over Toekomst

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI
Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst
Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee
In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen
Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis
De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go