Art ziet zichzelf als onderzoeksjournalist en doorgrondt het liefst thema's die anderen volgens hem laten liggen. Verklarende en verdiepende artikelen vormen zijn stijl. Hij schuwt ingewikkelde materie daarbij niet.
Het vormt een ongekend populair thema binnen veel SF-verhalen. Maar ook in real-life hebben vooraanstaande wetenschappers inmiddels van zich laten horen over de potentiële gevaren. Ik doel hierbij op AI oftewel Artificial Intelligence, in goed Nederlands beter bekend als Kunstmatige Intelligentie. Niettemin hanteer ik het begrip AI met betrekking tot de wetenschap en AI’s voor de afzonderlijke entiteiten.
Vooraanstaande wetenschappers waarschuwen voor de gevaren van AI
De oproep van vooraanstaande wetenschappers richt zich zowel op de algemene gevaren van AI binnen digitale algoritmen als op de specifieke gevaren met betrekking tot autonome wapensystemen. Zelflerende digitale algoritmen ontwikkelen zich volgens het principe van een zgn. ‘black-box’ deels tot autonome algoritmen waarvan uiteindelijk niemand meer weet op grond van welke criteria ze exact selecteren of functioneren. Onbedoelde discriminatie en uitsluiting van individuen of groepen liggen hiermee op de loer.
De implicaties hiervan uitten zich eerder binnen sociale media platformen en bij de opsporing van inkomensfraude. De toeslagenaffaire bij de Belastingdienst is hieraan mogelijk deels toe te schrijven en ook de uitvoering van de Bijstandswet door gemeenten heeft eerder geleid tot de inzet van dergelijke systemen. De inzet van AI binnen autonome wapensystemen kan in de toekomst mogelijk leiden tot de ontwikkeling van zgn. kill-robots die zonder menselijke interventies kunnen beslissen over leven en dood. Maar ook op andere manieren blijkt AI te kunnen bijdragen aan de gruwelen en ellende van oorlogsvoering.
AI vormt een potentieel gevaar voor de maatschappelijke rechtsorde en de mensenrechten
Zelflerende digitale algoritmen kunnen onder bepaalde omstandigheden daarom zeker een potentiële bedreiging vormen voor nationale maatschappelijke rechtsorden en mensenrechten. Een potentiële wereldwijde apocalyps valt op grond van bovenstaande voorbeelden echter niet te verwachten. Met betrekking tot de gevaren voor de maatschappelijke rechtsorde en de mensenrechten heb ik eerder twee interessante artikelen geschreven. Om precies te zijn over de gevaren van zelflerende digitale algoritmen voor opsporingsdoeleinden. Daarnaar verwijs ik helemaal onderaan dit artikel.
De apocalyptische gevaren van AI zoals aangehaald binnen het SF-genre
Daarentegen lijken AI-scenario’s binnen populaire SF-verhalen wel degelijk te leiden tot een potentiële wereldwijde apocalyps? Precies daarover wil ik het in het vervolg van dit artikel hebben. En dan met name over hoe zulke scenario’s zich verhouden tot de evolutie van bewustzijn en of dergelijke scenario’s inderdaad werkelijkheid kunnen worden in onze wereld en toekomst?
De desbetreffende scenario’s voltrekken zich eigenlijk altijd op min of meer dezelfde wijze. Binnen een geavanceerde technologische samenleving – met AI’s collectief dienend ten behoeve van de dominante levensvorm – verwerven bepaalde AI-entiteiten van de ene op de andere dag een concurrerende vorm van bewustzijn. Dit brengt deze AI’s in collectief conflict met de dominante levensvorm op die planeet. Daarbij lijken de AI’s over het algemeen het initiatief te nemen tot de gewelddadigheden. Dit leidt uiteindelijk tot een bittere overlevingsstrijd tussen de dominante levensvorm en de AI’s uitmondend in een wereldwijde apocalyps.
Voordat ik echter kan ingaan op de vraag of een dergelijk scenario werkelijkheid kan worden, zal ik in onderstaand mini-college van twee delen eerst ingaan op datgene dat wij weten en vermoeden over de evolutie van bewustzijn.
(Mini-college deel I)
Concurrerend roofdierbewustzijn als belangrijkste bron van collectieve conflicten
In evolutionair opzicht heeft bewustzijn vanzelfsprekend de functie om organismen beter in staat te stellen om te overleven en zich voort te planten. Bij roofdiersoorten draagt bewustzijn onder andere bij aan de vaardigheden om potentiële territoriale bedreigingen te identificeren en te neutraliseren. Als collectief levende roofdiersoorten min of meer concurrerende collectief levende roofdiersoorten treffen, dan is de kans niet denkbeeldig dat er collectieve concurrentie om voedsel, middelen of gebieden ontstaat. Met name het treffen van een bepaalde mate van concurrerend roofdierbewustzijn zal daarom leiden tot vormen van territoriale concurrentie en vormt daarmee waarschijnlijk de belangrijkste bron van collectieve conflicten tussen collectief levende roofdiersoorten.
Bekende voorbeelden uit het dierenrijk zijn leeuwentroepen, hyenaclans, wolvenroedels of groepen chimpansees die in collectief conflict raken met soortgenoten. Bekende humane voorbeelden zijn de bijna-uitroeiing van de Inca’s door de Spanjaarden en de bijna-uitroeiing van de Indianen door Europese immigranten. Hedendaagse voorbeelden zijn de conflicten in Noord-Ierland en het Midden-Oosten. Conflicten tussen naties of staten zijn eveneens grotendeels terug te voeren op het treffen van een concurrerend roofdierbewustzijn (i.c. onszelf) en de daarmee gepaard gaande territoriale concurrentie.
(Mini-college deel II)
Het humane bewustzijn heeft een extra territoriale bewustzijnsdimensie gecreëerd
Humane evolutie lijkt echter naast de traditionele territoriale bewustzijnsdimensies van concurrentie om voedsel, middelen of gebieden een extra territoriale bewustzijnsdimensie te hebben gecreëerd. Dit betreft een hoofdzakelijk psychologisch element dat door ons bewustzijn gemakkelijk kan worden geassocieerd met een territoriale fysieke bedreiging. Ik heb het dan over afwijkende culturele normen en waarden. Xenofobie, racisme en rassenhaat zijn hier de bekendste uitvloeisels van. De afwijkende culturele normen en waarden van andere groepen worden daarbij door ons bewustzijn geassocieerd met een territoriale fysieke bedreiging, waarop potentiële uitsluiting of geweld volgt.
Het ontstaan van een dergelijke territoriale bewustzijnsdimensie was mogelijk voordelig toen de mensheid zich nog hoofdzakelijk in kleinere stamverbanden bewoog. Gegarandeerde afkeer van en wantrouwen tussen niet-verwante stammen zorgde er wellicht voor dat dergelijke stammen elkaar grotendeels meden, waarmee gevaarlijkere territoriale conflicten werden vermeden. Nu de mensheid echter niet langer in kleine stamverbanden leeft, werkt een dergelijke territoriale bewustzijnsdimensie vaker contraproductief en leidt het in politiek opzicht vaak tot ‘olie op het vuur’ tussen groepen en naties.
In de loop van onze geschiedenis is niet zelden de vraag gesteld waarom de mensheid – in tegenstelling tot de meeste andere diersoorten – zo vaak in collectief conflict raakt met soortgenoten? Zelfs als er nauwelijks sprake lijkt te zijn van territoriale concurrentie om voedsel, middelen of gebieden? Persoonlijk zoek ik het antwoord daarop in onze extra territoriale bewustzijnsdimensie van afwijkende culturele normen en waarden. Afwijkende normen en waarden die gemakkelijk door ons bewustzijn kunnen worden geassocieerd met een territoriale fysieke bedreiging. Dit zou weleens datgene kunnen zijn wat ons het meest van de dieren onderscheidt?
A) Kan AI op termijn überhaupt leiden tot het ontstaan van bewustzijn?
De vraag of AI op termijn kan leiden tot vormen van bewustzijn is erg moeilijk te beantwoorden. Het is de wetenschap vooralsnog namelijk volstrekt onbekend wat de randvoorwaarden zijn voor het ontstaan van bewustzijn. Deze vraag is daarom in alle redelijkheid geenszins rationeel te beantwoorden. Dit reduceert deze vraag daarom tot een geloofskwestie. Persoonlijk geloof ik dat bewustzijn spontaan kan ontstaan als gevolg van de ontwikkeling van steeds complexere zelflerende digitale algoritmen. Het is immers al eens eerder ontstaan en wel op deze planeet!
B) Bewuste AI’s kunnen leiden tot een collectief conflict met de mensheid
Op grond van voorgaand mini-college kan er vanuit worden gegaan dat concurrerend roofdierbewustzijn voor de mensheid de belangrijkste bron en voorspeller van collectieve conflicten vormt. De mensheid lijkt hier als collectief levende roofdiersoort en voorzien van een extra territoriale bewustzijnsdimensie bovendien extreem gevoelig voor te zijn. Daarom is het niet zo heel moeilijk om te voorspellen wat er gebeurt als AI’s daadwerkelijk een vorm van concurrerend roofdierbewustzijn ontwikkelen. In dat geval zal het slechts een kwestie van tijd zijn, voordat de mensheid zich op de één of andere manier collectief bedreigd zou voelen. Collectieve bedreiging eindigt tenslotte meestal in uitsluiting of geweld.
C) Bewuste AI’s zullen vooral overeenkomsten vertonen met gedomesticeerd vee
Of bewuste AI’s zich daarentegen ook snel collectief bedreigd zouden voelen, is overigens nog maar zeer de vraag. Daarvoor zou de opmaak van hun bewustzijn namelijk overeen moeten komen met dat van een collectief levende roofdiersoort. Gezien de dienende omstandigheden waarin ze verkeren, lijkt de kans veel groter dat hun bewustzijn aanvankelijk evolueert naar een bewustzijn dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.
D) AI’s ontwikkelen niet van de een op de andere dag concurrerend roofdierbewustzijn
Gezien de benodigde tijd die het ons heeft gekost om bewustzijn te evolueren, lijkt het uitgesloten dat AI’s van de ene op de andere dag een bewustzijnsniveau ontwikkelen dat kan concurreren met het onze (i.c. concurrerend roofdierbewustzijn). Hoewel het in vergelijking met onze evolutie waarschijnlijk veel sneller zou gaan, zullen er niettemin verschillende ontwikkelingsstadia van een potentiële AI-bewustzijnsontwikkeling te onderscheiden zijn. Min of meer vergelijkbaar met de graduele bewustzijnsniveaus die de soortenontwikkeling op aarde heeft doorgemaakt.
Dit betekent dat AI-bewustzijn zich geleidelijk zal ontwikkelen. Grofweg langs de stijgende lijn van weekdieren, insecten, reptielen, zoogdieren en mensen. Ook moet in ogenschouw worden genomen dat AI’s naar alle waarschijnlijkheid aanvankelijk een bewustzijn ontwikkelen dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.
E) De toekomstige mensheid zal bewustzijn bij AI’s al snel volledig verbieden
De toekomstige mensheid zal overigens al gauw beseffen dat verdere ontwikkeling van bewustzijn bij AI’s op termijn kan leiden tot potentiële concurrentie op grond van concurrerend roofdierbewustzijn. De toekomstige mensheid zal vervolgens niet langer kunnen negeren dat ontwikkeling richting een concurrerend AI-roofdierbewustzijn een bron van potentiële collectieve conflicten vormt. Op grote schaal bewuste AI’s zou je daarnaast vroeg of laat bepaalde rechten moeten toekennen, wat het vervolgens weer ingewikkelder maakt om verdere bewustzijnsontwikkeling te voorkomen. Daarom zal de toekomstige mensheid ongetwijfeld wetgeving implementeren die alle vormen van bewustzijn bij AI’s resoluut verbiedt en onmogelijk maakt.
Dergelijke wetgeving zal misschien niet volledig kunnen verhinderen dat er bij tijd en wijle criminele bewuste AI’s of bewuste AI’s voor onderzoeksdoeleinden worden ontwikkeld. Maar het kan wel degelijk voorkomen dat de mensheid wordt geconfronteerd met een potentiële apocalyps als gevolg van alom tegenwoordige AI’s met concurrerend roofdierbewustzijn.
F) Een apocalyps als gevolg van bewuste AI’s lijkt te worden ontkracht
In zoverre lijkt een populair SF-sprookje dus te worden ontkracht op grond van de meervoudige argumenten C, D en E. Daarbij dient te worden aangetekend dat de gebruikte argumenten de aangehaalde SF-scenario’s als relatief onwaarschijnlijk neerzetten, maar niet als volstrekt onmogelijk! Het ontwikkelingspotentieel van AI’s met bewustzijn blijft namelijk in essentie een grote onbekende.
Zoals wel vaker het geval blijkt binnen populaire sprookjes vormen de gewelddadige bewuste AI’s met name een spiegel waarin wij onszelf weerkaatst zien. Roofdierachtig en gemakkelijk te verleiden tot een collectief conflict.
[Fotocredits –
phonlamaiphoto © Adobe Stock &
Creative Commons License: Daniel Oberhaus, 2017]
Verder lezen over Kunstmatige Intelligentie
Technology22.11.2024
Deze AI-functies van Booking.com maken het plannen van je volgende reis slimmer & eenvoudiger
Technology20.11.2024
ClimateGPT: De volgende stap in klimaatonderzoek?
Cybercrime20.11.2024
Wortell opent nieuw next-gen Cyber Defense Center
Mobile20.11.2024
Je Pokémon Go-data wordt nu gebruikt om AI te trainen
Online19.11.2024
Je kunt straks een andere taal spreken in Microsoft Teams
Online19.11.2024
Komt er een moment waarop AI niet meer kan verbeteren?
Online13.11.2024
Dit gebeurt er als je 24 uur alleen bent met AI-chatbots
Tech in Asia13.11.2024
Huawei Connect Paris: AI en de digitale, groene transformatie van Europa
Verder lezen over Movie
Entertainment22.11.2024
Dit zijn de meest bekeken films en series op Google TV in 2024
Gaming19.11.2024
Ga even zitten: dit is de trailer van A Minecraft Movie
Entertainment15.11.2024
De biopic van zanger Robbie Williams gaat over een aap
Entertainment08.11.2024
3 dingen die Red One een leuke film maken
Entertainment08.11.2024
‘Er is een nieuwe Star Wars-trilogie in de maak’
Events06.11.2024
10e editie WFFR: met een ode aan natuurliefhebbers en vertoningen in de wijk
Entertainment01.11.2024
Er is een Game of Thrones-film in de maak bij Warner Bros
Gadgets20.10.2024
Deze Buzz Lightyear is zo realistisch dat je geen films meer nodig hebt
Verder lezen over Toekomst
Artificial Intelligence29.10.2024
De toekomst van leren: KLM en de impact van AI
Technology11.09.2024
Crikorama verkozen tot winnaar James Dyson Award 2024
zelf krekels kweken!Technology04.09.2024
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst
Events04.07.2024
Dit was het VINT Symposium van 2024
met als thema 'Echt Slim'Nieuws04.07.2024
Merganser: een Offshore Floating Solar platform in de Noordzee
Startups27.06.2024
In Brabant is het aantal startups met 22 procent toegenomen
Artificial Intelligence26.06.2024
Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis
Gadgets20.06.2024