Trotse en blije gezichten binnen de EU nu er een voorlopig akkoord is bereikt over de regulering van AI binnen de Europese Unie. Onder de noemer van ‘AI act’ spitst het akkoord zich met name toe op Europese waarden met betrekking tot democratie, rechtstaat, privacy en mensenrechten. Vooralsnog beperkt de AI act zich echter hoofdzakelijk tot content op sociale media en de onbelemmerde toegang via de allergrootste digitale (internet)platformen.
Ongetwijfeld een mijlpaal voor bestuurders en bureaucraten. Echter, de AI act lijkt zich hiermee hoofdzakelijk te richten op zorgen met betrekking tot de invloed van sociale media en toegankelijk internet. Regulering van sociale media, onbelemmerde internettoegang en integratie van AI daarbinnen vormen weliswaar legitieme zorgen, maar je kunt je hardop afvragen of de AI act nog iets substantieels toevoegt aan de recent ingevoerde Digital Services Act (DSA) en Digital Markets Act (DMA)?
Research & Development (onderzoek & innovatie) worden tot mijn stijgende verbazing juist expliciet uitgezonderd van de AI act. Terwijl dit nu bij uitstek een gebied is waar de toepassing van AI in de toekomst finaal uit de klauwen kan lopen. Ik wil dit proberen aannemelijk te maken aan de hand van potentiële ontwikkelingen binnen de bio-engineering.
Zoals wel vaker lijken beleidsmakers nauwelijks in staat om verder te kijken dan de direkt in het oog springende maatschappelijke ontwikkelingen. Dit terwijl de bedreigingen en gevaren van AI zich onvoorstelbaar veel groter kunnen manifesteren dan mondaine problemen rondom sociale media en onbelemmerde internettoegang en als zodanig zelfs een potentiële verklaring kunnen vormen voor de Fermiparadox.
De Fermiparadox is de paradox waarin de grote statistische waarschijnlijkheid van het bestaan van intelligent buitenaards leven in schril contrast staat met het gebrek aan bewijs daarvoor (Bron: Wikipedia). Eén potentiële verklaring voor de Fermiparadox is dat al het intelligent leven zichzelf vroeg of laat door eigen toedoen vernietigt.
In dat licht moeten we het dringend hebben over bio-engineering. De toepassing van de complexe kennis met betrekking tot het ontstaan en het voortbestaan van al het leven op aarde. Bio-engineering bemoeit zich actief met de complexe moleculaire machinerie die al het leven mogelijk maakt: DNA, RNA, aminozuren en eiwitten.
Agro-engineering maakt hier bijvoorbeeld onderdeel van uit en houdt zich met name bezig met bestrijdingsmiddelen, resistentie en genetische manipulatie binnen land-, tuinbouw en veeteelt. Onderzoek naar medicinale toepassingen, resistentie en genetische manipulatie binnen de bacteriologie, mycologie (schimmels), virologie en botanica (planten) maken vanzelfsprekend eveneens onderdeel uit van bio-engineering.
Ik zal je trachten mee te nemen in mijn betoog, zonder dat je alle details hoeft te kennen met betrekking tot de moleculaire machinerie van het leven. In essentie valt de machinerie van het leven namelijk terug te brengen naar die eenvoudige plastic vormpjes die kinderen geacht worden door de juiste gaten te duwen. Ja, echt waar, zo simpel is het in essentie.
DNA, RNA, aminozuren en eiwitten werken op een moleculaire schaal feitelijk precies eender. Ze fungeren letterlijk als chemische en fysieke sjablonen voor elkaars opbouw en toepassingen. Als gevolg van hun complexe ruimtelijke bouw en de manier van het vouwen van hun ketens stimuleren ze andere verbindingen en structuren. In de loop van de evolutie is uit deze moleculaire sjablonen een complexe manier van het coderen van erfelijke informatie (DNA en RNA) en het opbouwen van moleculaire celstructuren (RNA, aminozuren en eiwitten) ontstaan. Zodanig dat de totale moleculaire machinerie in staat is om zichzelf eindeloos te blijven kopiëren. Dit vormt de basis van al het leven, zoals wij dat kennen.
Bacteriën, virussen schimmels, planten en meercellige dieren interacteren op onvoorstelbare manieren met elkaar. Hoewel het op het eerste gezicht volstrekt gescheiden werelden lijken, vinden er op evolutionaire schaal nog wel degelijk genenuitwisselingen tussen de verschillende levensvormen plaats. Hieraan wordt gerefereerd als horizontaal genen transport. De consequentie is dat alle levensvormen op aarde in essentie van min of meer dezelfde codering van erfelijke informatie en opbouw van eiwitstructuren gebruik (blijven) maken. Natuurlijk bestaan er de nodige verschillen tussen soorten onderling. Echter de onderliggende mechanismen waarlangs organismen zichzelf manifesteren, verschillen hierdoor in essentie niet of nauwelijks.
Inmiddels is er een flinke hoeveelheid wetenschappelijke kennis opgebouwd. Kennis over hoe erfelijke informatie codeert voor structurele informatie. Kennis over hoe structurele informatie uiteindelijk converteert naar vetzuren, eiwitten, enzymen en organismen. Organismen zijn namelijk grotendeels opgebouwd uit vetzuren, eiwitten en enzymen. De allergrootste uitdaging hierbij is dat de intrinsieke functionaliteit (i.c. de sjabloonfunctie) van complexe eiwitten en hun enzymen bijzonder lastig in kaart te brengen is. De intrinsieke functionaliteit van vooralsnog onbekende complexe eiwitten en hun enzymen is zo mogelijk nog moeilijker te voorspellen. Dit heeft alles te maken met de ruimtelijke structuren van eiwitten en de vooralsnog onvoorspelbare wijzen waarop hun ketens zich kunnen vouwen.
Toepassingen van AI zullen hierbinnen hoogstwaarschijnlijk een ware revolutie teweeg brengen. Met behulp van AI-systemen kunnen onderzoekers veel gerichter te werk gaan als het gaat om het ontwarren van de intrinsieke functionaliteit van complexe eiwitten en hun enzymen. Totdat op enig moment AI-systemen eveneens in staat zullen zijn om de intrinsieke functionaliteit van vooralsnog onbekende complexe eiwitten en hun enzymen te voorspellen.
Natuurlijk gehoorzamen ook complexe eiwitten gewoon bepaalde universele chemische en fysische regels. Regels die AI bij uitstek in staat moet worden geacht om te ontwarren. Vooralsnog heeft de reguliere wetenschap in dat opzicht nog maar enkele krasjes gemaakt op de formidabele hoeveelheid impliciet besloten kennis binnen de moleculaire machinerie van onze cellen.
Het moment dat AI in staat wordt geacht om de intrinsieke functionaliteit (i.c. de sjabloonfunctie) van onbekende complexe eiwitten en enzymen met meer dan een paar procent waarschijnlijkheid te voorspellen, is waarschijnlijk tevens het moment dat deze technologie een potentiële bedreiging voor de mensheid kan gaan vormen. Beeld je in dat met 5% accuratesse AI het al in 1 op 20 situaties bij het juiste eind heeft. Bovendien zal het AI-systeem zich vanaf dat moment hoogstwaarschijnlijk exponentieel verder ontwikkelen.
Met voldoende voorspellende kracht met betrekking tot de moleculaire machinerie van het leven kunnen er uiteindelijk bacteriën, virussen, schimmels en enzymen worden ontwikkeld (geprogrammeerd) die het leven enerzijds kunnen helen of anderzijds juist ernstig kunnen beschadigen. Met de ultieme kennis van de codering van erfelijke en structurele informatie valt het leven in al zijn aspecten te beheersen of juist te vernietigen. De belangrijkste bescherming (safeguard) op dit moment is dat niemand een compleet overzicht of begrip heeft van alle erfelijke en structurele informatie op cellulair niveau die organismen tot levende organismen maakt. Volledige kennis van de moleculaire machinerie van het leven zou weleens de ultieme ‘Doos van Pandora’ kunnen blijken.
Wetenschappers weten weliswaar globaal hoe organismen op cellulair niveau functioneren, maar ontberen de gedetailleerde genetische en structurele verbanden tussen de schier eindeloze hoeveelheid samenhangende factoren. Hieraan zou je namelijk eindeloos moeten rekenen om ze op te helderen, terwijl je van AI op korte termijn waarschijnlijk al veel meer kunt verwachten. Dit op grond van de veel efficiëntere neuraal netwerk benadering die AI kenmerkt, in tegenstelling tot het recht toe recht aan redeneren op grond van strikt fysische formules (wiskunde). AI is op basis van discrepanties, accurate feedback en eindeloze herhalingen hoogstwaarschijnlijk in staat om vooraf niet geformuleerde genetische en structurele verbanden met een duizelingwekkende snelheid en hoge accuratesse op te helderen. Is dat niet meer binnen dit, dan toch wel minimaal binnen het volgende decennium.
Je kunt deze kennis ten goede aanwenden á la Star Trek en alle ziekten en erfelijke aandoeningen daadkrachtig behandelen of je kunt deze kennis ten kwade aanwenden en bacteriën, virussen, schimmels en enzymen programmeren die soorten, populaties, rassen, geslachten of individuen – al dan niet in bepaalde subregio’s – ernstig ziek maken en gedeeltelijk of zelfs volledig uitroeien.
Je kunt bijvoorbeeld bacteriën, virussen, schimmels en enzymen programmeren die bij uitstek schade aanrichten aan dragers van bepaalde varianten of allelen van een gen. Hiermee kun je je in theorie richten op een doorsnee van bewoners uit specifieke geografische, demografische of etnische regio’s. Hoe maatschappij bedreigend wil je het hebben op onze overbevolkte en licht ontvlambare aarde?
Ik veronderstel dat je geen overactieve fantasie hoeft te bezitten om je voor te stellen wat er gebeurt als een dergelijke kennis en technologie in de verkeerde handen valt. Op onze overbevolkte en licht ontvlambare aarde vormt namelijk elke levensbedreigende technologie die je relatief anoniem kunt inzetten een immens veiligheidsrisico. Overigens wil ik benadrukken dat ik het hier uitsluitend heb over door mensen gecoördineerde en beheerde AI-systemen. Dus geenszins over nog niet-bestaande autonome AI-systemen.
De waarschijnlijk voornaamste reden dat kernwapens vooralsnog niet hebben geleid tot onze totale vernietiging is dat je ze niet anoniem kunt inzetten. Het concept van wederzijdse vernietiging is hetgeen ons er vooralsnog van heeft weerhouden om kernwapens op een globale schaal in te zetten. Wat zal iemand er echter van weerhouden om een doelgerichte infectie te verspreiden als diegene zichzelf, zijn naasten, zijn etnische groep of zijn landgenoten kan vaccineren of anderszins effectief van infectie kan vrijwaren?
Met het ontzagwekkende en weerzinwekkende perspectief van het programmeren van bacteriën, virussen, schimmels en enzymen kun je in principe relatief anoniem te werk gaan. Anonieme biologische oorlogsvoering en het plegen van onvoorstelbare terreurdaden kunnen als gevolg van een dergelijke inzet van AI vroeg of laat realiteit worden. Hetgeen misschien wel het sterkste argument vormt voor het feit dat intelligent leven zichzelf – overeenkomstig de Fermiparadox – uiteindelijk vernietigt.
De AI act dient bio-engineering daarom alsnog als een expliciet aandachtsgebied op te nemen. Door een AI bio-engineeringspanel van vooraanstaande bio-engineering wetenschappers zou continu moeten worden gemonitoord of de inzet van AI binnen bio-engineering in de nabije toekomst bepaalde veiligheidsdrempels kan overschrijden. Indien dit het geval is, dienen er tijdig waarborgen te worden ingebouwd die voorkomen dat dergelijke technologieën expliciet en zonder het juiste overheidstoezicht worden toegepast.
Wat we kunnen ondernemen tegen bedenkelijke regimes die een dergelijke technologie vroeg of laat ook in handen zullen krijgen, ligt daarentegen een stuk ingewikkelder. Bio-engineering kan tegen die tijd echter ongetwijfeld zowel pro als contra worden toegepast. Vroegtijdig in EU-verband inzetten op de ontwikkeling van generieke vormen van antibiotica, antimycotica en anti-virale middelen alsmede universele vaccins lijkt mij daarom de enige manier om de Fermiparadox voor te kunnen blijven? Anders zal het op een gegeven moment weleens over en uit kunnen zijn voor de mensheid zoals jij en ik die nu kennen!
[Fotocredits – © Dragon Claws – Adobe Stock]
