Social Media06.09.2021

​Facebook labelt zwarte mannen als ‘primaten’ en zegt sorry


Het komt niet vaak voor dat Facebook excuses maakt, maar het heeft het nu -zeer terecht- wel gedaan. De kunstmatige intelligentie van het social medium labelde een video met zwarte mensen namelijk als.. primaten. Facebook noemt het zelf onacceptabel. Dat is het ook, maar het legt wel de vinger op de zere plek.

Discriminatie door AI

We weten inmiddels al vele jaren dat kunstmatige intelligentie enorm last heeft van discriminatie. Is het niet de HR-recruitmentbot van Amazon die alleen maar mannen op gesprek laat komen, dan is het wel een Face-ID die aanzienlijk minder goed blijkt te werken als je een zwarte huidskleur hebt.

Kunstmatige intelligentie wordt in zodanig witte werelden ontwikkeld, dat de technologie veel te veel witte beelden te verwerken krijgt. Hierdoor gaat het soms mis wanneer iemand zwart is. Dat ligt overigens niet alleen aan de beelden die in machine learning gevoed zijn: het heeft ook te maken met de lichtval. Een witte huid ziet er bij elk licht nagenoeg hetzelfde uit, terwijl een zwarte huid meer schakeringen kent of minder goed zichtbaar is in een minder goed verlichte ruimte.

Niet gewoon een foutje

Hoewel er zeker technologiebedrijven zijn die zich over de kwestie buigen, gebruiken we kunstmatige intelligentie al volop. Zo ook Facebook, dat het handig vindt om mensen te helpen bij het labelen van content. Zo kon het echter gebeuren dat een video met zwarte mannen als label ‘primaten’ kreeg aangeraden. Facebook noemt het niet gewoon een foutje: het vindt het een onacceptabele fout en het gaat onderzoeken hoe het kan zorgen dat dit nooit meer voorkomt.

Dat is een goed plan, maar als je echt wil dat dit zo snel mogelijk niet zal gebeuren, dan kun je deze AI beter even offline halen, toch? Je wil niet dat mensen dit zien en vervolgens krijgen: “Wil je meer video’s over primaten bekijken?” Gelukkig realiseerde Facebook dit ook, waardoor het inderdaad de optie offline heeft gehaald. Het weet dat zijn AI niet perfect is, dus zelfs als het straks weer online komt dan kan er alsnog gender- of rassendiscriminatie plaatsvinden.

Facebook moet oppassen

Hoewel het nooit tof is om iemand een aap te noemen, lijkt het door kunstmatige intelligentie vaker voor te komen bij zwarte mensen. Google’s Photos-app noemde zwarte mensen in 2015 nog gorilla’s. De Federal Trade Commission in Amerika houdt het scherp in de gaten. Want, zo stelt het: “Maak jezelf verantwoordelijk, anders doen wij het voor je.” En zo is het maar niet: kunstmatige intelligentie ‘denkt’ misschien wel zelf, het kan dat alleen doen door wat wij mensen het hebben geleerd.

Laura Jenny
Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.

...

Verder lezen over Facebook

Zuckerberg: ‘Social media geen directe invloed op geestelijke gezondheid’

Eerst bood hij zijn excuses aan, maar nu zegt Zuckerberg: sociale media hebben geen causaal verband met geestelijke problemen van tieners.

Social Media26.09.2024

Zuckerberg: ‘Social media geen directe invloed op geestelijke gezondheid’

Meta opent AI Studio zodat iedereen eigen AI-chatbot kan maken

Geen zin om met al je fans te praten? Laat je AI-avatar het voor je doen. Meta introduceert het nu voor iedereen. Of althans, ook voor niet-influencers in de VS.

Social Media30.07.2024

Meta opent AI Studio zodat iedereen eigen AI-chatbot kan maken

Meta gaat de strijd aan met Yahoo Boys en sluit duizenden accounts

Meta treedt harder op tegen Yahoo Boys en andere kwaadwillenden op Facebook en Instagram om meer slachtoffers te voorkomen.

Online25.07.2024

Meta gaat de strijd aan met Yahoo Boys en sluit duizenden accounts

Kun je Facebook wel gratis noemen? De EU vindt van niet

Het internet lijkt wel gratis, maar dat is het eigenlijk nooit. Vaak moet je naar advertenties kijken, gegevens invoeren, klikken, liken, enzovoorts.

Social Media22.07.2024

Kun je Facebook wel gratis noemen? De EU vindt van niet

Facebook geeft gebruikers onvoldoende kans om van gepersonaliseerde ads af te komen

De EU en de Digital Markets Act slaan weer toe: niet alleen Apple hangt een miljardenboete boven het hoofd: ook Meta.

Social Media01.07.2024

Facebook geeft gebruikers onvoldoende kans om van gepersonaliseerde ads af te komen

Krijgt Meta een miljardenboete?
Zo zorg je dat Instagram en Facebook je foto’s niet gebruiken om AI te trainen

Instagram en Facebook gaan je foto's gebruiken om kunstmatige intelligentie te trainen. Zie je dat niet zitten, dan is er een uitweg.

Social Media28.05.2024

Zo zorg je dat Instagram en Facebook je foto’s niet gebruiken om AI te trainen

Vijfpunts snelcursus nepnieuws herkennen!

Internet en sociale media hebben het podium voor nepnieuws enorm vergroot. Doordat iedereen kan publiceren en daarmee in potentie een groot publiek bereiken kan, is nepnieuws niet eerder in onze geschiedenis zo wijdverspreid geweest.

Nieuws15.05.2024

Vijfpunts snelcursus nepnieuws herkennen!

​Je kunt je Facebook-berichten straks doorposten op Threads

De wereld van social media verandert steeds meer. Enerzijds omdat Meta nu eenmaal de meeste succesvolle social media-platforms in handen heeft, anderzijds omdat de EU ook zijn zegje doet. En dat zegje komt met veel regel...

Social Media22.02.2024

​Je kunt je Facebook-berichten straks doorposten op Threads

Verder lezen over Kunstmatige Intelligentie

Deze AI-functies van Booking.com maken het plannen van je volgende reis slimmer & eenvoudiger

Booking.com breidt zijn AI-functies uit om reizigers nog makkelijker en sneller te helpen bij het vinden van hun ideale verblijf. Met de nieuwe tools Smart Filter, Property Q&A en Review Samenvattingen maakt Booking.com gebruik van Generatieve AI (GenAI) om belangrijke stappen in de reisplanning simpel en toegankelijk te maken. Hierdoor kunnen reizigers sneller de perfecte accommodatie vinden, beoordelingen vergelijken en met een gerust hart boeken.

Technology22.11.2024

Deze AI-functies van Booking.com maken het plannen van je volgende reis slimmer & eenvoudiger

ClimateGPT: De volgende stap in klimaatonderzoek?

Op woensdag 13 november 2024 kwamen ambtenaren en beleidsmakers samen voor de AI en Overheid conferentie, georganiseerd door iBestuur, het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, LEF future center, Rijkswaterstaat en de Nederlandse AI Coalitie. Tijdens deze bijeenkomst presenteerde Daniel Erasmus ClimateGPT, een innovatief AI-model dat is ontworpen om beleidsmakers te ondersteunen in de strijd tegen klimaatverandering. Naast Erasmus kreeg ook ik de kans om te spreken en mijn inzichten te delen over de toepassing van AI binnen de overheid.

Technology20.11.2024

ClimateGPT: De volgende stap in klimaatonderzoek?

Wortell opent nieuw next-gen Cyber Defense Center

Op donderdag 14 november heeft Wortell samen met relaties en partners de feestelijke opening van haar nieuwe next-gen Cyber Defense Center (CDC) gevierd. Dit innovatieve centrum biedt organisaties wereldwijd een geavanceerde oplossing voor 24/7 proactieve beveiliging, detectie en herstel van IT-landschappen. Het CDC speelt in op de groeiende dreiging van cyberaanvallen door bedrijven te helpen hun digitale weerbaarheid te versterken en altijd een stap voor te blijven op potentiële aanvallen.

Cybercrime20.11.2024

Wortell opent nieuw next-gen Cyber Defense Center

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Niantic was zo’n vijf jaar geleden enorm bekend door zijn game Pokémon Go. Het spelletje waarin je fysiek naar locaties moet gaan. Nu gebruikt Niantic die locatie-foto's.

Mobile20.11.2024

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Je kunt straks een andere taal spreken in Microsoft Teams

Het idee is dat je hardop tegen je computer of telefoon praat en vervolgens zorgt de AI voor een nabootsing van wat je zegt in een andere taal. In jouw stemgeluid.

Online19.11.2024

Je kunt straks een andere taal spreken in Microsoft Teams

Komt er een moment waarop AI niet meer kan verbeteren?

Zo zou de verandering van het huidige top-AI-model van OpenAI naar het volgende een vrij kleine sprong zijn. 

Online19.11.2024

Komt er een moment waarop AI niet meer kan verbeteren?

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa