We hadden eerder al een brandbrief van experts om de overheid te vertellen dat er écht actie moet komen op de ontwikkeling van kunstmatige intelligentie: desnoods met een soort pauze om orde op zaken te stellen. Nu is er iets nieuws: AI-experts hebben nu gezegd dat AI in staat is om de mens te laten uitsterven en dat het bij politici net zo belangrijk en dreigend moet worden gemaakt als bijvoorbeeld een pandemie of nucleaire dreiging.
De verklaring heet het Statement of AI risks en hier is onder andere in te lezen dat het beperken van de risico’s van uitsterving der mensheid door AI een prioriteit zou moeten hebben over de hele wereld. Hoewel de experts het nog redelijk als een mogelijkheid zien, kruipt het wel steeds dichterbij: de experts zelf kunnen amper nog bijhouden hoe AI zich ontwikkelt. Terwijl zij nota bene zelf tot de groep behoren die de innovaties binnen kunstmatige intelligentie leiden. Maar dat lijkt steeds meer ‘lijden’ te worden. Dat er nu al voor de tweede keer in zeer korte tijd een noodklok wordt geluid, spreekt boekdelen.
Laatst was er trouwens nog een noodklok, zij het maar van één man: een van de geestelijk vaders van AI-ontwikkeling, Geoffrey Hinton van Google, verliet zijn baan omdat hij het niet meer de baas kon. Hij vertrok om te waarschuwen voor AI. Het begint inmiddels steeds vaker in het hoofd te schieten: “We’ve created a monster”. Maar misschien is dat wel te mild: een monster kunnen we als mensheid meestal wel de baas, maar een zelflerend systeem dat al slimmer is dan menig mens, die leert ondertussen natuurlijk vrolijk voort. Hooggeplaatsen in de AI-wereld, waaronder de ceo van OpenAI (het bedrijf achter ChatGPT) en Yoshua Bengio, die ook ongeveer aan de wieg stond van AI, hebben hun naam onder dit manifest gezet.
Het lijkt een beetje raar om mensen in de politiek te waarschuwen en ergens ook een soort van ter verantwoording te roepen, terwijl de mensen die dat doen het zelf hebben gemaakt. Rutte en consorten hebben niet op hun computers die AI in elkaar zitten te maken. Aan de andere kant is het ook wel logisch dat overheden worden aangeschreven: zij moeten wet- en regelgeving maken die moet helpen misbruik tegen te gaan en AI binnen de perken te houden. Het nadeel is alleen dat de politiek er én weinig van weet, én altijd erg lang doet over beslissingen nemen. Als AI al te snel gaat voor de makers van AI, laat staan hoe veel het te snel gaat voor de politiek.
Het is de vraag of dit soort brandbrieven helpen. Moeten deskundigen elkaar niet juist aanspreken op het ontwikkelen van AI? Moeten we de gekte hieromheen en de hevige concurrentiestrijd niet juist tegengaan? Dat doen ze ergens ook wel: veel deskundigen zeggen ook dat heel veel mensen wel ‘doemdenken’ over AI, maar ze die zorgen vaker thuis in privésferen bespreken dan dat ze het op tafel gooien in de boardmeeting.
Er ligt natuurlijk veel druk op techbedrijven. Maar ja, die druk moet niet betekenen dat we straks in een soort Terminator-achtige wereld terecht gaan komen, waarbij belangrijke informatie niet langer via het internet wordt gedeeld, maar we teruggaan naar postduiven om op die manier te waarschuwen voor de vijand. Een jaar geleden was dit een raar verzinsel, maar zeg nou eerlijk: we weten niet waar het heengaat met AI. Of het helpt om brandbrieven te schrijven, dat is de vraag: wie voelt zich nu immers aangesproken? En wie zou zich aangesproken moeten voelen? Misschien is dat straks wel AI zelf…
