Technology12.04.2022

​Ontwikkelen AI’s in de toekomst mogelijk concurrerend bewustzijn?


Het vormt een ongekend populair thema binnen veel SF-verhalen. Maar ook in real-life hebben vooraanstaande wetenschappers inmiddels van zich laten horen over de potentiële gevaren. Ik doel hierbij op AI oftewel Artificial Intelligence, in goed Nederlands beter bekend als Kunstmatige Intelligentie. Niettemin hanteer ik het begrip AI met betrekking tot de wetenschap en AI’s voor de afzonderlijke entiteiten.

Vooraanstaande wetenschappers waarschuwen voor de gevaren van AI

De oproep van vooraanstaande wetenschappers richt zich zowel op de algemene gevaren van AI binnen digitale algoritmen als op de specifieke gevaren met betrekking tot autonome wapensystemen. Zelflerende digitale algoritmen ontwikkelen zich volgens het principe van een zgn. ‘black-box’ deels tot autonome algoritmen waarvan uiteindelijk niemand meer weet op grond van welke criteria ze exact selecteren of functioneren. Onbedoelde discriminatie en uitsluiting van individuen of groepen liggen hiermee op de loer.

De implicaties hiervan uitten zich eerder binnen sociale media platformen en bij de opsporing van inkomensfraude. De toeslagenaffaire bij de Belastingdienst is hieraan mogelijk deels toe te schrijven en ook de uitvoering van de Bijstandswet door gemeenten heeft eerder geleid tot de inzet van dergelijke systemen. De inzet van AI binnen autonome wapensystemen kan in de toekomst mogelijk leiden tot de ontwikkeling van zgn. kill-robots die zonder menselijke interventies kunnen beslissen over leven en dood. Maar ook op andere manieren blijkt AI te kunnen bijdragen aan de gruwelen en ellende van oorlogsvoering.

AI vormt een potentieel gevaar voor de maatschappelijke rechtsorde en de mensenrechten

Zelflerende digitale algoritmen kunnen onder bepaalde omstandigheden daarom zeker een potentiële bedreiging vormen voor nationale maatschappelijke rechtsorden en mensenrechten. Een potentiële wereldwijde apocalyps valt op grond van bovenstaande voorbeelden echter niet te verwachten. Met betrekking tot de gevaren voor de maatschappelijke rechtsorde en de mensenrechten heb ik eerder twee interessante artikelen geschreven. Om precies te zijn over de gevaren van zelflerende digitale algoritmen voor opsporingsdoeleinden. Daarnaar verwijs ik helemaal onderaan dit artikel.

De apocalyptische gevaren van AI zoals aangehaald binnen het SF-genre

Daarentegen lijken AI-scenario’s binnen populaire SF-verhalen wel degelijk te leiden tot een potentiële wereldwijde apocalyps? Precies daarover wil ik het in het vervolg van dit artikel hebben. En dan met name over hoe zulke scenario’s zich verhouden tot de evolutie van bewustzijn en of dergelijke scenario’s inderdaad werkelijkheid kunnen worden in onze wereld en toekomst?

De desbetreffende scenario’s voltrekken zich eigenlijk altijd op min of meer dezelfde wijze. Binnen een geavanceerde technologische samenleving – met AI’s collectief dienend ten behoeve van de dominante levensvorm – verwerven bepaalde AI-entiteiten van de ene op de andere dag een concurrerende vorm van bewustzijn. Dit brengt deze AI’s in collectief conflict met de dominante levensvorm op die planeet. Daarbij lijken de AI’s over het algemeen het initiatief te nemen tot de gewelddadigheden. Dit leidt uiteindelijk tot een bittere overlevingsstrijd tussen de dominante levensvorm en de AI’s uitmondend in een wereldwijde apocalyps.

Voordat ik echter kan ingaan op de vraag of een dergelijk scenario werkelijkheid kan worden, zal ik in onderstaand mini-college van twee delen eerst ingaan op datgene dat wij weten en vermoeden over de evolutie van bewustzijn.

(Mini-college deel I)

Concurrerend roofdierbewustzijn als belangrijkste bron van collectieve conflicten

In evolutionair opzicht heeft bewustzijn vanzelfsprekend de functie om organismen beter in staat te stellen om te overleven en zich voort te planten. Bij roofdiersoorten draagt bewustzijn onder andere bij aan de vaardigheden om potentiële territoriale bedreigingen te identificeren en te neutraliseren. Als collectief levende roofdiersoorten min of meer concurrerende collectief levende roofdiersoorten treffen, dan is de kans niet denkbeeldig dat er collectieve concurrentie om voedsel, middelen of gebieden ontstaat. Met name het treffen van een bepaalde mate van concurrerend roofdierbewustzijn zal daarom leiden tot vormen van territoriale concurrentie en vormt daarmee waarschijnlijk de belangrijkste bron van collectieve conflicten tussen collectief levende roofdiersoorten.

Bekende voorbeelden uit het dierenrijk zijn leeuwentroepen, hyenaclans, wolvenroedels of groepen chimpansees die in collectief conflict raken met soortgenoten. Bekende humane voorbeelden zijn de bijna-uitroeiing van de Inca’s door de Spanjaarden en de bijna-uitroeiing van de Indianen door Europese immigranten. Hedendaagse voorbeelden zijn de conflicten in Noord-Ierland en het Midden-Oosten. Conflicten tussen naties of staten zijn eveneens grotendeels terug te voeren op het treffen van een concurrerend roofdierbewustzijn (i.c. onszelf) en de daarmee gepaard gaande territoriale concurrentie.

(Mini-college deel II)

Het humane bewustzijn heeft een extra territoriale bewustzijnsdimensie gecreëerd

Humane evolutie lijkt echter naast de traditionele territoriale bewustzijnsdimensies van concurrentie om voedsel, middelen of gebieden een extra territoriale bewustzijnsdimensie te hebben gecreëerd. Dit betreft een hoofdzakelijk psychologisch element dat door ons bewustzijn gemakkelijk kan worden geassocieerd met een territoriale fysieke bedreiging. Ik heb het dan over afwijkende culturele normen en waarden. Xenofobie, racisme en rassenhaat zijn hier de bekendste uitvloeisels van. De afwijkende culturele normen en waarden van andere groepen worden daarbij door ons bewustzijn geassocieerd met een territoriale fysieke bedreiging, waarop potentiële uitsluiting of geweld volgt.

Het ontstaan van een dergelijke territoriale bewustzijnsdimensie was mogelijk voordelig toen de mensheid zich nog hoofdzakelijk in kleinere stamverbanden bewoog. Gegarandeerde afkeer van en wantrouwen tussen niet-verwante stammen zorgde er wellicht voor dat dergelijke stammen elkaar grotendeels meden, waarmee gevaarlijkere territoriale conflicten werden vermeden. Nu de mensheid echter niet langer in kleine stamverbanden leeft, werkt een dergelijke territoriale bewustzijnsdimensie vaker contraproductief en leidt het in politiek opzicht vaak tot ‘olie op het vuur’ tussen groepen en naties.

In de loop van onze geschiedenis is niet zelden de vraag gesteld waarom de mensheid – in tegenstelling tot de meeste andere diersoorten – zo vaak in collectief conflict raakt met soortgenoten? Zelfs als er nauwelijks sprake lijkt te zijn van territoriale concurrentie om voedsel, middelen of gebieden? Persoonlijk zoek ik het antwoord daarop in onze extra territoriale bewustzijnsdimensie van afwijkende culturele normen en waarden. Afwijkende normen en waarden die gemakkelijk door ons bewustzijn kunnen worden geassocieerd met een territoriale fysieke bedreiging. Dit zou weleens datgene kunnen zijn wat ons het meest van de dieren onderscheidt?

A) Kan AI op termijn überhaupt leiden tot het ontstaan van bewustzijn?

De vraag of AI op termijn kan leiden tot vormen van bewustzijn is erg moeilijk te beantwoorden. Het is de wetenschap vooralsnog namelijk volstrekt onbekend wat de randvoorwaarden zijn voor het ontstaan van bewustzijn. Deze vraag is daarom in alle redelijkheid geenszins rationeel te beantwoorden. Dit reduceert deze vraag daarom tot een geloofskwestie. Persoonlijk geloof ik dat bewustzijn spontaan kan ontstaan als gevolg van de ontwikkeling van steeds complexere zelflerende digitale algoritmen. Het is immers al eens eerder ontstaan en wel op deze planeet!

B) Bewuste AI’s kunnen leiden tot een collectief conflict met de mensheid

Op grond van voorgaand mini-college kan er vanuit worden gegaan dat concurrerend roofdierbewustzijn voor de mensheid de belangrijkste bron en voorspeller van collectieve conflicten vormt. De mensheid lijkt hier als collectief levende roofdiersoort en voorzien van een extra territoriale bewustzijnsdimensie bovendien extreem gevoelig voor te zijn. Daarom is het niet zo heel moeilijk om te voorspellen wat er gebeurt als AI’s daadwerkelijk een vorm van concurrerend roofdierbewustzijn ontwikkelen. In dat geval zal het slechts een kwestie van tijd zijn, voordat de mensheid zich op de één of andere manier collectief bedreigd zou voelen. Collectieve bedreiging eindigt tenslotte meestal in uitsluiting of geweld.

C) Bewuste AI’s zullen vooral overeenkomsten vertonen met gedomesticeerd vee

Of bewuste AI’s zich daarentegen ook snel collectief bedreigd zouden voelen, is overigens nog maar zeer de vraag. Daarvoor zou de opmaak van hun bewustzijn namelijk overeen moeten komen met dat van een collectief levende roofdiersoort. Gezien de dienende omstandigheden waarin ze verkeren, lijkt de kans veel groter dat hun bewustzijn aanvankelijk evolueert naar een bewustzijn dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

D) AI’s ontwikkelen niet van de een op de andere dag concurrerend roofdierbewustzijn

Gezien de benodigde tijd die het ons heeft gekost om bewustzijn te evolueren, lijkt het uitgesloten dat AI’s van de ene op de andere dag een bewustzijnsniveau ontwikkelen dat kan concurreren met het onze (i.c. concurrerend roofdierbewustzijn). Hoewel het in vergelijking met onze evolutie waarschijnlijk veel sneller zou gaan, zullen er niettemin verschillende ontwikkelingsstadia van een potentiële AI-bewustzijnsontwikkeling te onderscheiden zijn. Min of meer vergelijkbaar met de graduele bewustzijnsniveaus die de soortenontwikkeling op aarde heeft doorgemaakt.

Dit betekent dat AI-bewustzijn zich geleidelijk zal ontwikkelen. Grofweg langs de stijgende lijn van weekdieren, insecten, reptielen, zoogdieren en mensen. Ook moet in ogenschouw worden genomen dat AI’s naar alle waarschijnlijkheid aanvankelijk een bewustzijn ontwikkelen dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

E) De toekomstige mensheid zal bewustzijn bij AI’s al snel volledig verbieden

De toekomstige mensheid zal overigens al gauw beseffen dat verdere ontwikkeling van bewustzijn bij AI’s op termijn kan leiden tot potentiële concurrentie op grond van concurrerend roofdierbewustzijn. De toekomstige mensheid zal vervolgens niet langer kunnen negeren dat ontwikkeling richting een concurrerend AI-roofdierbewustzijn een bron van potentiële collectieve conflicten vormt. Op grote schaal bewuste AI’s zou je daarnaast vroeg of laat bepaalde rechten moeten toekennen, wat het vervolgens weer ingewikkelder maakt om verdere bewustzijnsontwikkeling te voorkomen. Daarom zal de toekomstige mensheid ongetwijfeld wetgeving implementeren die alle vormen van bewustzijn bij AI’s resoluut verbiedt en onmogelijk maakt.

Dergelijke wetgeving zal misschien niet volledig kunnen verhinderen dat er bij tijd en wijle criminele bewuste AI’s of bewuste AI’s voor onderzoeksdoeleinden worden ontwikkeld. Maar het kan wel degelijk voorkomen dat de mensheid wordt geconfronteerd met een potentiële apocalyps als gevolg van alom tegenwoordige AI’s met concurrerend roofdierbewustzijn.

F) Een apocalyps als gevolg van bewuste AI’s lijkt te worden ontkracht

In zoverre lijkt een populair SF-sprookje dus te worden ontkracht op grond van de meervoudige argumenten C, D en E. Daarbij dient te worden aangetekend dat de gebruikte argumenten de aangehaalde SF-scenario’s als relatief onwaarschijnlijk neerzetten, maar niet als volstrekt onmogelijk! Het ontwikkelingspotentieel van AI’s met bewustzijn blijft namelijk in essentie een grote onbekende.

Zoals wel vaker het geval blijkt binnen populaire sprookjes vormen de gewelddadige bewuste AI’s met name een spiegel waarin wij onszelf weerkaatst zien. Roofdierachtig en gemakkelijk te verleiden tot een collectief conflict.

[Fotocredits –
phonlamaiphoto © Adobe Stock &
Creative Commons License: Daniel Oberhaus, 2017]

Art Huiskes
Art Huiskes

Art ziet zichzelf als onderzoeksjournalist en doorgrondt het liefst thema's die anderen volgens hem laten liggen. Verklarende en verdiepende artikelen vormen zijn stijl. Hij schuwt ingewikkelde materie daarbij niet.

...

Verder lezen over Kunstmatige Intelligentie

Amazon vertelt wat er in je serie gebeurde nadat je in slaap viel

Amazon voegt nieuwe kunstmatige intelligentie toe aan zijn streamingdienst waarmee het samenvattingen kan geven over de serie die je kijkt.

Artificial Intelligence05.11.2024

Amazon vertelt wat er in je serie gebeurde nadat je in slaap viel

ChatGPT gaat strijd aan met Google: start eigen zoekmachine

Enerzijds omdat jongeren bijvoorbeeld al vaker zoeken via social media zoals TikTok en Instagram, maar binnenkort ook omdat AI-bonzen zich er nu mee gaan bemoeien.

Search01.11.2024

ChatGPT gaat strijd aan met Google: start eigen zoekmachine

Microsoft stelt release van AI-meekijker Recall weer uit

Eerst leek de wereld er nog niet klaar voor en nu is het juist Microsoft zelf dat er niet klaar voor is. Recall is weer uitgesteld.

Artificial Intelligence31.10.2024

Microsoft stelt release van AI-meekijker Recall weer uit

Een kwart van het programmeerwerk bij Google wordt gedaan door AI

Van alle nieuwe code die momenteel bij Google wordt gemaakt schijnt een kwart te zijn gemaakt door computers, in plaats van mensen.

Artificial Intelligence30.10.2024

Een kwart van het programmeerwerk bij Google wordt gedaan door AI

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI

Apple Intelligence komt ook naar jouw iPhone

Binnenkort kun je Apple’s AI ook gebruiken op jouw iPhone. Hoewel, ‘binnenkort’: dit is pas in april 2025, dus nog een klein half jaar van nu.

Mobile29.10.2024

Apple Intelligence komt ook naar jouw iPhone

Air France-KLM legt fundament voor AI met sterk metadatamanagement

Metadatamanagement is de sleutel tot het ontsluiten van de waarde van data. Air France-KLM bouwde met behulp van het Data Intelligence Platform van SAP-partner Collibra een ‘data catalog’. Hiermee kunnen gebruikers snel achterhalen welke data beschikbaar zijn, waar deze te vinden zijn en wie verantwoordelijk is voor de kwaliteit.

Technology28.10.2024

Air France-KLM legt fundament voor AI met sterk metadatamanagement

Wees niet bang voor Yahoo boys, maar voor deepfake lovers

Kinderen worden erdoor gechanteerd, Taylor Swift nagedaan, maar er is nu nog een nieuwe variant: de deepfake lover.

Artificial Intelligence25.10.2024

Wees niet bang voor Yahoo boys, maar voor deepfake lovers

Van Yahoo boy naar Yahoo bot

Verder lezen over Movie

Er is een Game of Thrones-film in de maak bij Warner Bros

We hebben op de redactie wel eens een aflevering op het witte doek gezien en dat was al vrij tof, maar een hele film moet helemaal in de smaak vallen.

Entertainment01.11.2024

Er is een Game of Thrones-film in de maak bij Warner Bros

Deze Buzz Lightyear is zo realistisch dat je geen films meer nodig hebt

Nu kunnen speelgoedmakers dat natuurlijk ook al heel lang maken, maar de Buzz Lightyear ‘robot’ die nu is gemaakt, die is wel heel realistisch.

Gadgets20.10.2024

Deze Buzz Lightyear is zo realistisch dat je geen films meer nodig hebt

The Electric State is Netflix’ nieuwe gooi naar sci-fi-succes

Millie Bobby Brown gaat een nieuw Netflix-avontuur aan met The Electric State. Wat komt 'Eleven' nu weer tegen?

Entertainment17.10.2024

The Electric State is Netflix’ nieuwe gooi naar sci-fi-succes

5 x hoe Lonely Planet bewijst dat romcoms moeten moderniseren

We willen meer: niet meer Lonely Planet, maar meer verscheidenheid in romcoms. Dit is waarom een romcom als Lonely Planet niet meer werkt.

Entertainment17.10.2024

5 x hoe Lonely Planet bewijst dat romcoms moeten moderniseren

Apple maakt short voor Vision Pro waardoor je naar adem hapt

Immersive video klinkt het in het Engels, maar in het Nederlands kun je dat het beste meeslepend noemen, iets waar je volledig in opgaat.

Video07.10.2024

Apple maakt short voor Vision Pro waardoor je naar adem hapt

Joker: Folie à Deux is de rauwste musical die je ooit zag

Entertainment02.10.2024

Joker: Folie à Deux is de rauwste musical die je ooit zag

Babygirl-trailer: de Nicole Kidman-film van Halina Reijn

Halina Reijn weet na Bodies Bodies Bodies nu ook de wat meer arthouse-minnende critici voor zich te winnen. Dat doet ze met Babygirl: dit is de trailer.

Entertainment01.10.2024

Babygirl-trailer: de Nicole Kidman-film van Halina Reijn

Dit zijn de 5 beste horrorfilms van 2024

Het wordt alweer vroeg donker en dat is reden genoeg om op de bank te kruipen met een dekentje. Niet voor de kou, maar om je te verstoppen bij het kijken naar de beste horrorfilms van 2024.

Entertainment30.09.2024

Dit zijn de 5 beste horrorfilms van 2024

Verder lezen over Toekomst

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI

Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go