Het komt niet vaak voor dat Facebook excuses maakt, maar het heeft het nu -zeer terecht- wel gedaan. De kunstmatige intelligentie van het social medium labelde een video met zwarte mensen namelijk als.. primaten. Facebook noemt het zelf onacceptabel. Dat is het ook, maar het legt wel de vinger op de zere plek.
We weten inmiddels al vele jaren dat kunstmatige intelligentie enorm last heeft van discriminatie. Is het niet de HR-recruitmentbot van Amazon die alleen maar mannen op gesprek laat komen, dan is het wel een Face-ID die aanzienlijk minder goed blijkt te werken als je een zwarte huidskleur hebt.
Kunstmatige intelligentie wordt in zodanig witte werelden ontwikkeld, dat de technologie veel te veel witte beelden te verwerken krijgt. Hierdoor gaat het soms mis wanneer iemand zwart is. Dat ligt overigens niet alleen aan de beelden die in machine learning gevoed zijn: het heeft ook te maken met de lichtval. Een witte huid ziet er bij elk licht nagenoeg hetzelfde uit, terwijl een zwarte huid meer schakeringen kent of minder goed zichtbaar is in een minder goed verlichte ruimte.
Hoewel er zeker technologiebedrijven zijn die zich over de kwestie buigen, gebruiken we kunstmatige intelligentie al volop. Zo ook Facebook, dat het handig vindt om mensen te helpen bij het labelen van content. Zo kon het echter gebeuren dat een video met zwarte mannen als label ‘primaten’ kreeg aangeraden. Facebook noemt het niet gewoon een foutje: het vindt het een onacceptabele fout en het gaat onderzoeken hoe het kan zorgen dat dit nooit meer voorkomt.
Dat is een goed plan, maar als je echt wil dat dit zo snel mogelijk niet zal gebeuren, dan kun je deze AI beter even offline halen, toch? Je wil niet dat mensen dit zien en vervolgens krijgen: “Wil je meer video’s over primaten bekijken?” Gelukkig realiseerde Facebook dit ook, waardoor het inderdaad de optie offline heeft gehaald. Het weet dat zijn AI niet perfect is, dus zelfs als het straks weer online komt dan kan er alsnog gender- of rassendiscriminatie plaatsvinden.
Hoewel het nooit tof is om iemand een aap te noemen, lijkt het door kunstmatige intelligentie vaker voor te komen bij zwarte mensen. Google’s Photos-app noemde zwarte mensen in 2015 nog gorilla’s. De Federal Trade Commission in Amerika houdt het scherp in de gaten. Want, zo stelt het: “Maak jezelf verantwoordelijk, anders doen wij het voor je.” En zo is het maar niet: kunstmatige intelligentie ‘denkt’ misschien wel zelf, het kan dat alleen doen door wat wij mensen het hebben geleerd.
Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.
Verder lezen over Facebook
Social Media26.09.2024
Social Media30.07.2024
Online25.07.2024
Social Media22.07.2024
Social Media01.07.2024
Social Media28.05.2024
Nieuws15.05.2024
Social Media22.02.2024
Verder lezen over Kunstmatige Intelligentie
Search01.11.2024
Artificial Intelligence31.10.2024
Artificial Intelligence30.10.2024
Artificial Intelligence29.10.2024
Mobile29.10.2024
Technology28.10.2024
Artificial Intelligence25.10.2024
Artificial Intelligence24.10.2024