Fout in computerprogramma laat de verkeerde gevangenen vrij

Programmeren is mensenwerk. En mensen maken fouten. Zo ook in de Verenigde Staten waar naar schatting 450 gevangenen ten onrechte -zonder supervisie- zijn vrijgelaten.

Net zoals zoveel andere landen, heeft ook de USA te maken met overvolle gevangenissen. In januari 2010 werd daarom in California een programma gestart om binnen twee jaar, ongeveer 30.000 van de 143.335 gevangenen onder bepaalde voorwaarden vrij te laten. De bedoeling was dat gevangenen waarvan ingeschat werd dat het risico van herhaling van crimineel gedrag laag was, uit de gevangenis mochten. Zij werden dan vrijgelaten zonder “proeftijd” zodat ze zich niet meer hoefden te melden en er dus mankracht vrij kwam om de zwaardere criminelen te kunnen monitoren. Leden van criminele organisaties, veroordeelden van geweldsdelicten en seksuele misdrijven of veroordeelden waarvan de kans op herhaling groot was werden uitgesloten van dit programma. Althans, dat was de bedoeling.

Doordat de programmeurs van het programma wat moest bepalen wie voor deze vorm van vrijlating in aanmerking kwamen, het criminele verleden van de veroordeelden niet in de variabelen hadden opgenomen, zijn naar schatting 15% van de veroordeelden ten onrechte zonder proeftijd vrijgekomen. Het gaat om ongeveer 450 criminelen in de eerste 7 maanden waarin het programma liep. Dit is natuurlijk kwalijk, zeker nu blijkt dat één van de criminelen al in een schietincident met 2 agenten verzeild is geraakt. Maar het geeft ook te denken wat de effecten zullen zijn op langere termijn van het door de computer overnemen van menselijke processen. Als zelfs de nieuwe Panda-update van Google niet meer door de eigen mensen van Google begrepen wordt, omdat het programma voor een deel ontwikkeld is door computers te voeden met informatie waaruit zij zelf een programma moesten schrijven, wat zo complex is dat het voor de meest knappe koppen binnen het concern niet meer te volgen is, blijven we dan nog wel controle houden over de effecten? Dit is natuurlijk geen nieuwe vraag, maar wel een die we ons moeten blijven afvragen.