Technology12.04.2022

​Ontwikkelen AI’s in de toekomst mogelijk concurrerend bewustzijn?


Het vormt een ongekend populair thema binnen veel SF-verhalen. Maar ook in real-life hebben vooraanstaande wetenschappers inmiddels van zich laten horen over de potentiële gevaren. Ik doel hierbij op AI oftewel Artificial Intelligence, in goed Nederlands beter bekend als Kunstmatige Intelligentie. Niettemin hanteer ik het begrip AI met betrekking tot de wetenschap en AI’s voor de afzonderlijke entiteiten.

Vooraanstaande wetenschappers waarschuwen voor de gevaren van AI

De oproep van vooraanstaande wetenschappers richt zich zowel op de algemene gevaren van AI binnen digitale algoritmen als op de specifieke gevaren met betrekking tot autonome wapensystemen. Zelflerende digitale algoritmen ontwikkelen zich volgens het principe van een zgn. ‘black-box’ deels tot autonome algoritmen waarvan uiteindelijk niemand meer weet op grond van welke criteria ze exact selecteren of functioneren. Onbedoelde discriminatie en uitsluiting van individuen of groepen liggen hiermee op de loer.

De implicaties hiervan uitten zich eerder binnen sociale media platformen en bij de opsporing van inkomensfraude. De toeslagenaffaire bij de Belastingdienst is hieraan mogelijk deels toe te schrijven en ook de uitvoering van de Bijstandswet door gemeenten heeft eerder geleid tot de inzet van dergelijke systemen. De inzet van AI binnen autonome wapensystemen kan in de toekomst mogelijk leiden tot de ontwikkeling van zgn. kill-robots die zonder menselijke interventies kunnen beslissen over leven en dood. Maar ook op andere manieren blijkt AI te kunnen bijdragen aan de gruwelen en ellende van oorlogsvoering.

AI vormt een potentieel gevaar voor de maatschappelijke rechtsorde en de mensenrechten

Zelflerende digitale algoritmen kunnen onder bepaalde omstandigheden daarom zeker een potentiële bedreiging vormen voor nationale maatschappelijke rechtsorden en mensenrechten. Een potentiële wereldwijde apocalyps valt op grond van bovenstaande voorbeelden echter niet te verwachten. Met betrekking tot de gevaren voor de maatschappelijke rechtsorde en de mensenrechten heb ik eerder twee interessante artikelen geschreven. Om precies te zijn over de gevaren van zelflerende digitale algoritmen voor opsporingsdoeleinden. Daarnaar verwijs ik helemaal onderaan dit artikel.

De apocalyptische gevaren van AI zoals aangehaald binnen het SF-genre

Daarentegen lijken AI-scenario’s binnen populaire SF-verhalen wel degelijk te leiden tot een potentiële wereldwijde apocalyps? Precies daarover wil ik het in het vervolg van dit artikel hebben. En dan met name over hoe zulke scenario’s zich verhouden tot de evolutie van bewustzijn en of dergelijke scenario’s inderdaad werkelijkheid kunnen worden in onze wereld en toekomst?

De desbetreffende scenario’s voltrekken zich eigenlijk altijd op min of meer dezelfde wijze. Binnen een geavanceerde technologische samenleving – met AI’s collectief dienend ten behoeve van de dominante levensvorm – verwerven bepaalde AI-entiteiten van de ene op de andere dag een concurrerende vorm van bewustzijn. Dit brengt deze AI’s in collectief conflict met de dominante levensvorm op die planeet. Daarbij lijken de AI’s over het algemeen het initiatief te nemen tot de gewelddadigheden. Dit leidt uiteindelijk tot een bittere overlevingsstrijd tussen de dominante levensvorm en de AI’s uitmondend in een wereldwijde apocalyps.

Voordat ik echter kan ingaan op de vraag of een dergelijk scenario werkelijkheid kan worden, zal ik in onderstaand mini-college van twee delen eerst ingaan op datgene dat wij weten en vermoeden over de evolutie van bewustzijn.

(Mini-college deel I)

Concurrerend roofdierbewustzijn als belangrijkste bron van collectieve conflicten

In evolutionair opzicht heeft bewustzijn vanzelfsprekend de functie om organismen beter in staat te stellen om te overleven en zich voort te planten. Bij roofdiersoorten draagt bewustzijn onder andere bij aan de vaardigheden om potentiële territoriale bedreigingen te identificeren en te neutraliseren. Als collectief levende roofdiersoorten min of meer concurrerende collectief levende roofdiersoorten treffen, dan is de kans niet denkbeeldig dat er collectieve concurrentie om voedsel, middelen of gebieden ontstaat. Met name het treffen van een bepaalde mate van concurrerend roofdierbewustzijn zal daarom leiden tot vormen van territoriale concurrentie en vormt daarmee waarschijnlijk de belangrijkste bron van collectieve conflicten tussen collectief levende roofdiersoorten.

Bekende voorbeelden uit het dierenrijk zijn leeuwentroepen, hyenaclans, wolvenroedels of groepen chimpansees die in collectief conflict raken met soortgenoten. Bekende humane voorbeelden zijn de bijna-uitroeiing van de Inca’s door de Spanjaarden en de bijna-uitroeiing van de Indianen door Europese immigranten. Hedendaagse voorbeelden zijn de conflicten in Noord-Ierland en het Midden-Oosten. Conflicten tussen naties of staten zijn eveneens grotendeels terug te voeren op het treffen van een concurrerend roofdierbewustzijn (i.c. onszelf) en de daarmee gepaard gaande territoriale concurrentie.

(Mini-college deel II)

Het humane bewustzijn heeft een extra territoriale bewustzijnsdimensie gecreëerd

Humane evolutie lijkt echter naast de traditionele territoriale bewustzijnsdimensies van concurrentie om voedsel, middelen of gebieden een extra territoriale bewustzijnsdimensie te hebben gecreëerd. Dit betreft een hoofdzakelijk psychologisch element dat door ons bewustzijn gemakkelijk kan worden geassocieerd met een territoriale fysieke bedreiging. Ik heb het dan over afwijkende culturele normen en waarden. Xenofobie, racisme en rassenhaat zijn hier de bekendste uitvloeisels van. De afwijkende culturele normen en waarden van andere groepen worden daarbij door ons bewustzijn geassocieerd met een territoriale fysieke bedreiging, waarop potentiële uitsluiting of geweld volgt.

Het ontstaan van een dergelijke territoriale bewustzijnsdimensie was mogelijk voordelig toen de mensheid zich nog hoofdzakelijk in kleinere stamverbanden bewoog. Gegarandeerde afkeer van en wantrouwen tussen niet-verwante stammen zorgde er wellicht voor dat dergelijke stammen elkaar grotendeels meden, waarmee gevaarlijkere territoriale conflicten werden vermeden. Nu de mensheid echter niet langer in kleine stamverbanden leeft, werkt een dergelijke territoriale bewustzijnsdimensie vaker contraproductief en leidt het in politiek opzicht vaak tot ‘olie op het vuur’ tussen groepen en naties.

In de loop van onze geschiedenis is niet zelden de vraag gesteld waarom de mensheid – in tegenstelling tot de meeste andere diersoorten – zo vaak in collectief conflict raakt met soortgenoten? Zelfs als er nauwelijks sprake lijkt te zijn van territoriale concurrentie om voedsel, middelen of gebieden? Persoonlijk zoek ik het antwoord daarop in onze extra territoriale bewustzijnsdimensie van afwijkende culturele normen en waarden. Afwijkende normen en waarden die gemakkelijk door ons bewustzijn kunnen worden geassocieerd met een territoriale fysieke bedreiging. Dit zou weleens datgene kunnen zijn wat ons het meest van de dieren onderscheidt?

A) Kan AI op termijn überhaupt leiden tot het ontstaan van bewustzijn?

De vraag of AI op termijn kan leiden tot vormen van bewustzijn is erg moeilijk te beantwoorden. Het is de wetenschap vooralsnog namelijk volstrekt onbekend wat de randvoorwaarden zijn voor het ontstaan van bewustzijn. Deze vraag is daarom in alle redelijkheid geenszins rationeel te beantwoorden. Dit reduceert deze vraag daarom tot een geloofskwestie. Persoonlijk geloof ik dat bewustzijn spontaan kan ontstaan als gevolg van de ontwikkeling van steeds complexere zelflerende digitale algoritmen. Het is immers al eens eerder ontstaan en wel op deze planeet!

B) Bewuste AI’s kunnen leiden tot een collectief conflict met de mensheid

Op grond van voorgaand mini-college kan er vanuit worden gegaan dat concurrerend roofdierbewustzijn voor de mensheid de belangrijkste bron en voorspeller van collectieve conflicten vormt. De mensheid lijkt hier als collectief levende roofdiersoort en voorzien van een extra territoriale bewustzijnsdimensie bovendien extreem gevoelig voor te zijn. Daarom is het niet zo heel moeilijk om te voorspellen wat er gebeurt als AI’s daadwerkelijk een vorm van concurrerend roofdierbewustzijn ontwikkelen. In dat geval zal het slechts een kwestie van tijd zijn, voordat de mensheid zich op de één of andere manier collectief bedreigd zou voelen. Collectieve bedreiging eindigt tenslotte meestal in uitsluiting of geweld.

C) Bewuste AI’s zullen vooral overeenkomsten vertonen met gedomesticeerd vee

Of bewuste AI’s zich daarentegen ook snel collectief bedreigd zouden voelen, is overigens nog maar zeer de vraag. Daarvoor zou de opmaak van hun bewustzijn namelijk overeen moeten komen met dat van een collectief levende roofdiersoort. Gezien de dienende omstandigheden waarin ze verkeren, lijkt de kans veel groter dat hun bewustzijn aanvankelijk evolueert naar een bewustzijn dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

D) AI’s ontwikkelen niet van de een op de andere dag concurrerend roofdierbewustzijn

Gezien de benodigde tijd die het ons heeft gekost om bewustzijn te evolueren, lijkt het uitgesloten dat AI’s van de ene op de andere dag een bewustzijnsniveau ontwikkelen dat kan concurreren met het onze (i.c. concurrerend roofdierbewustzijn). Hoewel het in vergelijking met onze evolutie waarschijnlijk veel sneller zou gaan, zullen er niettemin verschillende ontwikkelingsstadia van een potentiële AI-bewustzijnsontwikkeling te onderscheiden zijn. Min of meer vergelijkbaar met de graduele bewustzijnsniveaus die de soortenontwikkeling op aarde heeft doorgemaakt.

Dit betekent dat AI-bewustzijn zich geleidelijk zal ontwikkelen. Grofweg langs de stijgende lijn van weekdieren, insecten, reptielen, zoogdieren en mensen. Ook moet in ogenschouw worden genomen dat AI’s naar alle waarschijnlijkheid aanvankelijk een bewustzijn ontwikkelen dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

E) De toekomstige mensheid zal bewustzijn bij AI’s al snel volledig verbieden

De toekomstige mensheid zal overigens al gauw beseffen dat verdere ontwikkeling van bewustzijn bij AI’s op termijn kan leiden tot potentiële concurrentie op grond van concurrerend roofdierbewustzijn. De toekomstige mensheid zal vervolgens niet langer kunnen negeren dat ontwikkeling richting een concurrerend AI-roofdierbewustzijn een bron van potentiële collectieve conflicten vormt. Op grote schaal bewuste AI’s zou je daarnaast vroeg of laat bepaalde rechten moeten toekennen, wat het vervolgens weer ingewikkelder maakt om verdere bewustzijnsontwikkeling te voorkomen. Daarom zal de toekomstige mensheid ongetwijfeld wetgeving implementeren die alle vormen van bewustzijn bij AI’s resoluut verbiedt en onmogelijk maakt.

Dergelijke wetgeving zal misschien niet volledig kunnen verhinderen dat er bij tijd en wijle criminele bewuste AI’s of bewuste AI’s voor onderzoeksdoeleinden worden ontwikkeld. Maar het kan wel degelijk voorkomen dat de mensheid wordt geconfronteerd met een potentiële apocalyps als gevolg van alom tegenwoordige AI’s met concurrerend roofdierbewustzijn.

F) Een apocalyps als gevolg van bewuste AI’s lijkt te worden ontkracht

In zoverre lijkt een populair SF-sprookje dus te worden ontkracht op grond van de meervoudige argumenten C, D en E. Daarbij dient te worden aangetekend dat de gebruikte argumenten de aangehaalde SF-scenario’s als relatief onwaarschijnlijk neerzetten, maar niet als volstrekt onmogelijk! Het ontwikkelingspotentieel van AI’s met bewustzijn blijft namelijk in essentie een grote onbekende.

Zoals wel vaker het geval blijkt binnen populaire sprookjes vormen de gewelddadige bewuste AI’s met name een spiegel waarin wij onszelf weerkaatst zien. Roofdierachtig en gemakkelijk te verleiden tot een collectief conflict.

[Fotocredits –
phonlamaiphoto © Adobe Stock &
Creative Commons License: Daniel Oberhaus, 2017]

Art Huiskes
Art Huiskes

Art ziet zichzelf als onderzoeksjournalist en doorgrondt het liefst thema's die anderen volgens hem laten liggen. Verklarende en verdiepende artikelen vormen zijn stijl. Hij schuwt ingewikkelde materie daarbij niet.

...

Verder lezen over Kunstmatige Intelligentie

Deze AI-functies van Booking.com maken het plannen van je volgende reis slimmer & eenvoudiger

Booking.com breidt zijn AI-functies uit om reizigers nog makkelijker en sneller te helpen bij het vinden van hun ideale verblijf. Met de nieuwe tools Smart Filter, Property Q&A en Review Samenvattingen maakt Booking.com gebruik van Generatieve AI (GenAI) om belangrijke stappen in de reisplanning simpel en toegankelijk te maken. Hierdoor kunnen reizigers sneller de perfecte accommodatie vinden, beoordelingen vergelijken en met een gerust hart boeken.

Technology22.11.2024

Deze AI-functies van Booking.com maken het plannen van je volgende reis slimmer & eenvoudiger

ClimateGPT: De volgende stap in klimaatonderzoek?

Op woensdag 13 november 2024 kwamen ambtenaren en beleidsmakers samen voor de AI en Overheid conferentie, georganiseerd door iBestuur, het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, LEF future center, Rijkswaterstaat en de Nederlandse AI Coalitie. Tijdens deze bijeenkomst presenteerde Daniel Erasmus ClimateGPT, een innovatief AI-model dat is ontworpen om beleidsmakers te ondersteunen in de strijd tegen klimaatverandering. Naast Erasmus kreeg ook ik de kans om te spreken en mijn inzichten te delen over de toepassing van AI binnen de overheid.

Technology20.11.2024

ClimateGPT: De volgende stap in klimaatonderzoek?

Wortell opent nieuw next-gen Cyber Defense Center

Op donderdag 14 november heeft Wortell samen met relaties en partners de feestelijke opening van haar nieuwe next-gen Cyber Defense Center (CDC) gevierd. Dit innovatieve centrum biedt organisaties wereldwijd een geavanceerde oplossing voor 24/7 proactieve beveiliging, detectie en herstel van IT-landschappen. Het CDC speelt in op de groeiende dreiging van cyberaanvallen door bedrijven te helpen hun digitale weerbaarheid te versterken en altijd een stap voor te blijven op potentiële aanvallen.

Cybercrime20.11.2024

Wortell opent nieuw next-gen Cyber Defense Center

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Niantic was zo’n vijf jaar geleden enorm bekend door zijn game Pokémon Go. Het spelletje waarin je fysiek naar locaties moet gaan. Nu gebruikt Niantic die locatie-foto's.

Mobile20.11.2024

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Je kunt straks een andere taal spreken in Microsoft Teams

Het idee is dat je hardop tegen je computer of telefoon praat en vervolgens zorgt de AI voor een nabootsing van wat je zegt in een andere taal. In jouw stemgeluid.

Online19.11.2024

Je kunt straks een andere taal spreken in Microsoft Teams

Komt er een moment waarop AI niet meer kan verbeteren?

Zo zou de verandering van het huidige top-AI-model van OpenAI naar het volgende een vrij kleine sprong zijn. 

Online19.11.2024

Komt er een moment waarop AI niet meer kan verbeteren?

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Verder lezen over Movie

Dit zijn de meest bekeken films en series op Google TV in 2024

Google onthult vast welke films en series het goed deden op Google TV dit jaar. Ideaal als je op zoek bent naar inspiratie voor series en films om te kijken.

Entertainment22.11.2024

Dit zijn de meest bekeken films en series op Google TV in 2024

Ga even zitten: dit is de trailer van A Minecraft Movie

Gamefilms worden beter. Echter, de teaser van Minecraft was toch voor veel gamers even slikken. Geldt dat ook voor de trailer?

Gaming19.11.2024

Ga even zitten: dit is de trailer van A Minecraft Movie

De biopic van zanger Robbie Williams gaat over een aap

We hebben de afgelopen jaren geweldige biopics gezien. Maar, wat als de zanger in kwestie in een nieuwe biopic een aap is?

Entertainment15.11.2024

De biopic van zanger Robbie Williams gaat over een aap

3 dingen die Red One een leuke film maken

In de bioscoop kun je ook al diverse sinterklaasfilms kijken en daar is sinds deze week een kerstfilm bij: Red One.

Entertainment08.11.2024

3 dingen die Red One een leuke film maken

‘Er is een nieuwe Star Wars-trilogie in de maak’

In een galaxy far far away… is Lucasfilm bezig met het schrijven van een nieuwe Star Wars-trilogie, en wel door Simon Kinberg (X-Men).

Entertainment08.11.2024

‘Er is een nieuwe Star Wars-trilogie in de maak’

10e editie WFFR: met een ode aan natuurliefhebbers en vertoningen in de wijk

Deze week is alweer de tiende editie van het Wildlife Film Festival Rotterdam (WFFR) van start gegaan! Deze feestelijke jubileumeditie opende met de wereldpremière van De Verwonderaars van de Rotterdamse filmmaker Rik van der Linden. Ook zijn er veel films van eigen bodem, thema- en shortprogramma’s en een filmtournee door de stad.

Events06.11.2024

10e editie WFFR: met een ode aan natuurliefhebbers en vertoningen in de wijk

Er is een Game of Thrones-film in de maak bij Warner Bros

We hebben op de redactie wel eens een aflevering op het witte doek gezien en dat was al vrij tof, maar een hele film moet helemaal in de smaak vallen.

Entertainment01.11.2024

Er is een Game of Thrones-film in de maak bij Warner Bros

Deze Buzz Lightyear is zo realistisch dat je geen films meer nodig hebt

Nu kunnen speelgoedmakers dat natuurlijk ook al heel lang maken, maar de Buzz Lightyear ‘robot’ die nu is gemaakt, die is wel heel realistisch.

Gadgets20.10.2024

Deze Buzz Lightyear is zo realistisch dat je geen films meer nodig hebt

Verder lezen over Toekomst

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI

Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go