Erdinç Saçan
Senior Docent en Onderzoeker bij Fontys ICT in Eindhoven. Voorheen gewerkt bij Corendon, TradeDoubler en Prijsvrij.nl.
Sinds de opkomst van sociale netwerken, smartphones en online adverteren monitoren veel bedrijven ons dagelijks. Gedrag, bewegingen, sociale relaties, interesses, zwakheden en privémomenten worden realtime vastgelegd, geëvalueerd en geanalyseerd. Eerder schreef ik over de technieken die techbedrijven gebruiken om gebruikers verslaafd te maken aan hun programma’s.
De relatie tussen databedrijven en individuen wordt nogal eens vergeleken met een pokerspel waarbij een van de spelers zijn hand open heeft en de ander zijn kaarten tegen de borst houdt. De meeste gebruikers proberen hun data te beschermen met privacy-instellingen. Maar geeft dit voldoende garantie? Want wat gebeurt er achter de schermen bij techbedrijven? Een voorbeeld: de iPhone X kan met zijn TrueDepth-camera zowel gezichten als uitdrukkingen herkennen. Apple wil app-ontwikkelaars nu beperkte toegang geven tot die gezichtsdata. Zou jij, als gebruiker, hiervoor ook toestemming geven als je deze ontwikkeling had voorzien? Misschien niet. Het punt is dat wij tools als WhatsApp, Telegram, Facebook Messenger gebruiken zonder na te denken over wie er allemaal aan de haal kan gaan met de data die wij genereren.
Meer data
Ook steeds meer andere apparaatjes, zoals smartwatches voor lichaamsfuncties, monitoren ons continu. En thuis luisteren de digitale praatpalen van Google Home en Amazon Echo mee met privégesprekken. Wanneer we slapen, wanneer we wakker worden, waar we naar toe gaan, wat we kopen. In de afgelopen jaren zijn Visa en MasterCard begonnen met het beschikbaar maken van gegevens over de aankopen van hun klanten voor het digitale volg- en profileeruniversum.
Google verklaarde dat het ‘ongeveer 70 procent van de credit- en debetkaarttransacties in de VS’ monitort via ‘externe partnerships’. Ook in Nederland zijn er voorbeelden hiervan. Incassobureaus overtreden de privacywet bij massale verkoop van gegevens over schuldenaren. Databedrijven hebben de afgelopen jaren profielen aangelegd van vrijwel alle Nederlandse huishoudens zonder dat die daarover zijn geïnformeerd.
Virtual Reality
Het wordt alleen maar meer. “Facebook investeert nu in Virtual Reality, de volgende stap, dat mensen zich met hun zintuigen compleet onderdompelen in een door een techbedrijf gecreëerde wereld. Misschien dat sommige mensen het gevaar niet inzien van zo’n innige verstrengeling met machines. Maar besef wel: je versmelt niet alleen met die machines, maar ook met de bedrijven die die machines beheren.” (Franklin Foer, Ontzielde Wereld, de existentiële dreiging van Big Tech).
De Britse journalist John Lanchester noemt Facebook ‘de grootste op surveillance gebaseerde onderneming in de geschiedenis van de mensheid’. Een heel creepy artikel over Facebook is laatst geschreven door Kashmir Hill van Gizmodo: “Achter het Facebook-profiel dat je zelf hebt gebouwd, is een ander profiel, een schaduwprofiel, opgebouwd uit de inboxen en smartphones van andere Facebook-gebruikers”. Ze somt een reeks voorbeelden van mensen die de meest onverwachte, niet gewenste vriend suggesties krijgen.
Niet alleen via apparaten in de buurt van je lichaam of thuis maar ook in de openbare ruimte word je in de gaten gehouden. Er is een enorme groei van het aantal sensoren in de openbare ruimte. Camera’s, bewegingsmelders en geluidsmeters zijn in steeds grotere aantallen aanwezig in de winkelstraat. Dat constateert Geonovum, een organisatie die geografische informatie toegankelijk maakt voor overheden.
Weapons of Math Destruction
Volgens Cathy O’Neil, auteur van de bestseller Weapons of Math Destruction, worden hele groepen door algoritmen gediscrimineerd.In de afgelopen jaren hebben geautomatiseerde programma’s op basis van vooringenomen datasets tal van schandalen veroorzaakt. In 2016, toen een studente naar Google-afbeeldingen zocht naar ‘onprofessionele kapsels voor werk’, toonden de resultaten vooral foto’s van zwarte mensen; toen de student de eerste zoekterm veranderde in ‘professioneel’, plaatste Google voornamelijk afbeeldingen van witten. Maar dit was niet het gevolg van vooringenomenheid van de programmeurs van Google; het weerspiegelde eerder hoe mensen afbeeldingen op het internet hadden gelabeld.
Andrew Reece van Harvard en Chris Danforth van de Universiteit van Vermont ontwikkelden een algoritme dat van foto’s op Instagram kan zien of iemand lijdt aan depressiviteit. Zoiets wil je toch niet aan de grote klok hangen? Tieners gebruiken Finstagram – Fake Instagram – een tweede Instagram-account waar ze, ondanks die naam, zichzelf kunnen zijn. Op deze besloten accounts, alleen toegankelijk voor een paar goede vrienden, worden ook de niet-selfiewaardige momenten gedeeld.
The dark side
“Technologie is overgestoken naar de donkere kant. Het komt voor jou; het komt voor ons allemaal, en we kunnen zijn opmars misschien niet overleven.” Een angstaanjagende zin geschreven door Farhad Manjoo in de New York Times. Een recent voorbeeld hiervan is wat China wenst te gaan implementeren. De Chinese regering is van plan haar (Social Credit System)-kredietsysteem in 2020 te lanceren. China wil hiermee de betrouwbaarheid beoordelen van zijn 1,3 miljard inwoners.
In de Financial Times een recent artikel uit de hand van Rana Foroohar: “Waarom we de technische platforms moeten reguleren. Bedrijven moeten de zwarte doos van hun algoritmen openen.” Hierin grijpt Foroohar terug op de voorbeeld van de 19de-eeuwse spoorwegbaronnen. Zij domineerden ook de economie en samenleving. Ze konden prijzen hoog houden, concurrenten opkopen en belastingen en regelgeving vermijden. Dit alles werd teniet gedaan door het in het leven roepen van de Interstate Commerce Commission.
Foroohar adviseert nu om een Internet Commerce Commission op te richten. In het Financieel Dagblad pleit Bas Boorsma van Cisco Noord –Europa een soortgelijke strategie “Zonder modern ethisch kader gaat digitalisering met ons op de loop” Boorsma vervolgt met “we hebben te maken met twee kampen: technologie-evangelisten en technologie-doemdenkers. Hun standpunten liggen mijlenver uit elkaar, terwijl we juist een synthese van deze denkwerelden nodig hebben”. Boorsma houdt een pleidooi voor een ‘New Digital Deal” waarin ethiek en digitalisering samenkomen.
Overheid
Ook overheden hebben moeite met wat ze met data aan moeten. Het is zelfs zo dat sommige data bewust wordt weggelaten of niet meer zichtbaar is. “Wil je gedetailleerde informatie over arrestaties, moorden en bende-moorden in 2016? Wat te denken van smeltend poolijs? Je kunt ze niet meer goed vinden. Alle gegevens met zelfs maar een vleugje potentiële tegenspraak gaan rechtstreeks uit het raam” suggereert een artikel in the Wired.
Dit staat haaks op de open data movement die steeds meer terrein wint, waardoor vooral overheden data beschikbaar stellen.
In een hoofdartikel van Der Spiegel hoopt Armin Mahler (Hoofdredacteur Wetenschap) dat de Duitse regering die zich ten doel heeft gesteld om de digitalisering in Duitsland te bevorderen het volgende: “Dat is correct en het is belangrijk. Maar het is net zo belangrijk om tegelijkertijd de problemen in verband met digitaal kapitalisme aan te pakken. Anders zullen slechts enkele bedrijven onze toekomstige economie domineren.” “Vormen sociale media een bedreiging voor de democratie?” Kopte The Economist een paar dagen geleden. Ook hierin een betoog richting tech bedrijven om toch meer effort in de juiste berichtgeving te geven om fake news en manipulaties van gebruikers tegen te gaan.
Machine learning
De meest spectaculaire ontwikkelingen in AI komen uit een data-intensieve techniek die bekend staat als machine learning. Machine learning vereist veel gegevens om de AI te maken, te testen en te “trainen”. Data en AI zijn onlosmakelijk met elkaar verbonden.
Volgens AI-Ontwikkelaar Nick Bostrom en schrijver van het boek ‘Superintelligence’: “We staan we op het punt een zelflerend systeem te ontwikkelen dat het menselijk denken ver overstijgt. We hebben maar een kans om het goed te doen”.
Volgens Holger Hoos, Leiden hoogleraar Machine Learning, is “een menselijk niveau van kunstmatige intelligentie, hoewel intellectueel boeiend, niet wenselijk. In plaats daarvan moeten we ons erop concentreren dat kunstmatige intelligentie onze capaciteiten aanvult en onze zwakke punten compenseert.” “Big Data kan alleen kwantificeren en niets kwalificeren. Alle informatie die eruit komt, verdient een menselijk oordeel” aldus journalist en onderzoeker Timandra Harkness.
Het is een feit dat techniek en technologische ontwikkelingen niet tegen gehouden kunnen worden. “De kunst is om technologie niet te zien als een soort grote demon die zich tegenover ons plaatst en ons wil wegdrukken, maar als iets dat ons vormt tot wie we zijn.” zegt filosoof Peter-Paul Verbeek.
Arianna Huffington, CEO of Thrive Global, zegt: “We moeten de technologie omarmen om ons te bevrijden van diezelfde technologie, zodat we ons weer kunnen verbinden met de mensen om ons heen.”
Conclusie
Zolang wij, de consumenten, de individuen weten wat er met onze data kan gebeuren, kunnen wij ons hiertegen ook in bescherming nemen, tot op een zekere hoogte. Er zijn al jaren bedrijven die beweren dat ze niets doen met onze data, of dat echt zo is… Misschien toch maar met zijn allen overstappen naar Signal (i.p.v. Whatsapp), Duckduckgo, WolframAlpha (i.p.v. Google) etc.
...
Verder lezen over Bedrijven
Search22.11.2024
Waarom SEO ook belangrijk is als je een klein bedrijf hebt
Lifestyle20.11.2024
4 dingen om op te letten als je een zaaltje huurt
Technology18.11.2024
Onderzoek: Mkb heeft behoefte aan ondersteuning bij digitalisering
gebrek aan kennis en expertise
Nieuws06.11.2024
Mews is het snelst groeiende bedrijf van Nederland in 2024
Winnaar van de Top 250 Golden Scaler Award
DC Business11.10.2024
5 voordelen van een zakelijk postadres voor je bedrijf
DC Business07.10.2024
Backbase opent wereldwijde hoofdkantoor in Amsterdam
Search26.09.2024
Pas op: Google pakt bedrijven met nepreviews op Google Maps
DC Business23.09.2024
Flintfox lanceert snelle real-time pricing engine nu ook voor SAP-klanten
Verder lezen over Consument
Nieuws16.11.2024
Consumentenbond: ‘zonnestroomsubsidie’ als alternatief voor salderingsregeling
Online04.09.2024
Consument is onvoldoende geïnformeerd over duurzaamheid van online winkelen
Media06.03.2024
RTL & Buienradar komen met het energieweerbericht op tv
Cybercrime05.02.2024
Consumenten bezuinigen op kosten, maar helaas ook op privacy en security
Marketing01.02.2024
Onderzoek: veel consumenten bezorgd over het geven van persoonlijke gegevens aan retailers
Automotive24.01.2024
Lexus is volgens de consumentenbond het meest betrouwbare merk
scoort gemiddeld een 9,6 in betrouwbaarheidsonderzoek
Gadgets22.12.2023
Massaclaim: Je krijgt mogelijk geld als je een tv hebt gekocht
Met vriendelijke groet, Samsung?
Mobile01.11.2023
ACM en Apple komen er maar niet uit met datingapps
Verder lezen over Data
Technology27.06.2024
Dit is de innovatieve Control Room van Team Visma | Lease a Bike
Cybercrime27.06.2024
Veel zorginstellingen hebben last van DDoS-ransomware aanvallen
Online31.10.2023
Zoveel datacenters: wat zijn de voors en tegens?
Technology20.09.2023
Doek valt definitief voor een datacenter in Zeewolde
Online25.08.2023
Er komen beperkingen op de cloudopslag van Dropbox
Online11.07.2023
Europa en Amerika gaan datadelen weer toestaan
Komt Threads dan nu wel naar Europa?
Cybercrime28.06.2023
Nieuw onderzoek: datalekken in de zorgsector nemen nog steeds toe
41% van de gezondheidszorgorganisaties sinds 2021 te maken heeft gehad met een datalek
Cybercrime26.05.2023
Autoriteit Persoonsgegevens onderzoekt mogelijk datalek bij Tesla
Verder lezen over Privacy
Cybercrime30.09.2024
Hoe bescherm je de data in je brein?
Cybercrime16.09.2024
Eenvoudige tips voor meer privacy tijdens het reizen met openbaar vervoer
zorgen om privacy tijdens woon-werkverkeer
Social Media09.09.2024
Telegram modereert privégesprekken toch niet
Online24.04.2024
Dating-app Grindr aangeklaagd om delen HIV-status met anderen
Cybercrime15.04.2024
Bescherm jij je online identiteit wel genoeg?
Online18.03.2024
Digitaal mijmeren: Zullen AI’s op het internet op enig moment ontwaken?
Mogelijk ontwikkelen AI's een vorm van gedecentraliseerd interactiviteitsbewustzijn
Online15.02.2024
Je AI-geliefde is onbetrouwbaar: onveilig en uit op geld
Doe het veilig
Cybercrime05.02.2024