OpenAI heeft deze week een zogenoemd ‘Bug Bounty’ programma gelanceerd. Gebruikers die bugs en andere onvolkomenheden in de AI-systemen van het bedrijf ontdekken, en melden bij OpenAI, worden daarvoor betaald. Dat begint bij 200 dollar en kan oplopen tot maximaal 20.000 dollar.
OpenAI wil met het Bug Bounty programma bepaalde functionaliteit van ChatGPT en het raamwerk van hoe OpenAI-systemen communiceren en gegevens delen met applicaties van derden verbeteren. Gebruikers worden dan ook specifiek uitgenodigd zich op die functionaliteiten te focussen.
Dat betekent ook dat OpenAI geen beloningen gaat uitkeren voor gebruikers die fouten ontdekken, en melden, in content (teksten) die door OpenAI’s bekendste tool, ChatGPT, ontdekt worden.
De move van OpenAI heeft hoogstwaarschijnlijk ook te maken met het feit dat de AI-tekstgenerator ChatGPT en de achterliggende systemen van OpenAI in sommige landen op het netvlies van (privacy)toezichthouders staan. Italië besloot onlangs al tot een verbod op het gebruik van ChatGPT omdat de systemen de privacy van (jonge) gebruikers schendt door zonder toestemming data te verzamelen. Ook in Frankrijk en Duitsland ligt ChatGPT inmiddels onder de loep van toezichthouders.
Met het Bug Bounty-programma sluit OpenAI aan bij een trend die al jaren door technologiebedrijven ingezet wordt om systemen beter te maken. Die systemen worden steeds complexer en daarmee ook gevoeliger voor aanvallen van hackers en andere bedreigingen. Door (ethische) hackers en andere tech-savvy gebruikers te belonen voor het melden van kwetsbaarheden, kunnen bedrijven als OpenAI die systemen sneller en beter veilig en vrij van bugs maken.
“Beveiliging is essentieel voor de missie van OpenAI. We waarderen de bijdragen van ethische hackers die ons helpen hoge privacy- en veiligheidsnormen voor onze gebruikers en technologie te handhaven. Dit beleid (gebaseerd op disclosure.io) schetst onze definitie van goede trouw met betrekking tot het ontdekken en rapporteren van kwetsbaarheden, en verduidelijkt wat u van ons kunt verwachten”, aldus OpenAI op Bugcrowd.
