We kennen allemaal het verhaal van The Terminator. De strijd om de heerschappij over de aarde tussen mens en machine. Waarbij de leider van de machines is een geavanceerde supercomputer is die door de Amerikaanse Defensie is ontwikkeld. Met als doel, de mens te vervangen op het slagveld. De film krijgt het stempel Science-Fiction toegewezen. Maar dit is mogelijk toch een stuk dichterbij dan we met zijn allen denken.
Ondermeer Steve Wozniak, Elon Musk en Stephen Hawking hebben namelijk een brief ondertekend die tegen het gebruik van robots en autonome wapens is.
Buskruit
Het begon allemaal met buskruit, nu zijn er nucleaire wapens, en de volgende evolutie op dit gebied zal gedefinieerd worden (zo vreest men) door robots, of beter gezegd door de afwezigheid van menselijke besluitvorming.
Open brief
In een open brief, die gisteren tijdens de International Joint Conference over Artificial Intelligence werd gepresenteerd, wordt door onderzoekers op gebied van AI en robotica opgeroepen voor een (preventieve) ban op autonome wapens.
AI als wapen
Natuurlijk heeft AI de toekomst, en zijn er genoeg manieren waarop het ingezet kan worden. Maar… “If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable,” zo is in de brief, gepubliceerd door het Future of Life Institute, te lezen. Elon Musk, Stephen Hawking, Noam Chomsky, Steve Wozniak, Demis Hassabis en vele anderen hebben de brief inmiddels ondertekend.
Musk heeft eerder al AI omschreven als potentieel gevaarlijker dan kernwapens, en Hawking vertelde de BBC vorig jaar dat AI wel eens het einde van het menselijk ras in kon luiden.
Goedkoop
In de brief is te lezen dat in tegenstelling tot kernwapens, die enorme financiële investeringen en zeldzame grondstoffen nodig hebben om te kunnen ontwikkelen, automatische of autonome wapens relatief goedkoop zijn en dus makkelijker op grote schaal zijn te produceren. De deskundigen beweren dat deze wapens zo alomtegenwoordig kunnen worden dat het slechts een kwestie van tijd zal zijn voordat ze worden doorverkocht op de zwarte markt, en er killer robots bij de verkeerde mensen in handen komen.
[Afbeelding via Fotolia]
