Technology25.07.2023

Techreuzen beloven AI veiliger te maken


Zeven bedrijven doen toezeggingen aan de Amerikaanse overheid

De wereld verandert met de minuut en AI zorgt ervoor dat die minuten telkens korter duren. De opkomst van (generatieve) AI is niet meer te stuiten. Toch maken steeds meer bedrijven en overheden zich zorgen over de risico’s die deze ontwikkeling met zich meebrengt. In de VS is dit onderwerp voor de regering van Biden-Harris al enkele maanden een belangrijk speerpunt. Mede ook ingegeven door de open brandbrief die enkele beroemde tech-experts in maart publiceerden.

Techreuzen gaan zich inzetten voor veilige AI

Aangezien de meeste (westerse) techreuzen die zich met de almaar versnellende AI-ontwikkelingen bezighouden in de VS gevestigd zijn, heeft de Amerikaanse overheid, en dan specifiek diens ‘head honcho’ en zijn rechterhand – Joe Biden en vicepresident Kamala Harris – zich onlangs opgeworpen om zeven techreuzen te ontbieden en met hen in gesprek te gaan. Doel van de gesprekken was het maken van afspraken over de ontwikkeling van veilige, beveiligde en transparante AI-technologie. In totaal hebben zeven toonaangevende AI-bedrijven – Amazon, Anthropic, Google, Inflection, Meta, Microsoft en OpenAI – een aantal toezeggingen op dat gebied gedaan.

Bedrijven die deze opkomende technologieën ontwikkelen, hebben de verantwoordelijkheid ervoor te zorgen dat hun producten veilig zijn. Om het potentieel van AI optimaal te benutten, eist de Amerikaanse overheid dat de industrie zich inzet om aan om de hoogste normen te handhaven zodat innovatie niet ten koste gaat van de rechten en veiligheid van Amerikanen.

Toezeggingen op drie fundamentele gebieden

De toezeggingen die de zeven techreuzen nu gedaan hebben, onderstrepen drie principes die fundamenteel moeten zijn voor de toekomst van AI – veiligheid, beveiliging en vertrouwen – en markeren een cruciale stap in de richting van de ontwikkeling van verantwoorde AI.

1. Zorgen voor veilige producten

– De zeven techreuzen verbinden zich ertoe om interne en externe beveiligingstests van hun AI-systemen uit te voeren voordat ze worden vrijgegeven. Deze tests, die gedeeltelijk door onafhankelijke experts zullen worden uitgevoerd, bieden bescherming tegen enkele van de belangrijkste bronnen van AI-risico’s, zoals bio- en cyberbeveiliging, en tegen de bredere maatschappelijke effecten ervan.

– De bedrijven verbinden zich ertoe informatie te delen in de hele sector en met overheden, het maatschappelijk middenveld en de academische wereld over het beheersen van AI-risico’s. Dit omvat best practices voor veiligheid, informatie over pogingen om beveiligingen te omzeilen en technische samenwerking.

2. Beveiliging van AI-systemen

– De bedrijven verbinden zich ertoe te investeren in cyberbeveiliging en beveiligingen tegen interne bedreigingen om eigen en nog niet vrijgegeven modelgewichte te beschermen. Modelgewichen bepalen hoeveel invloed de input zal hebben op de output. Deze zijn het meest essentiële onderdeel van een AI-systeem en de bedrijven zijn het erover eens dat het van vitaal belang is dat de modelgewichten alleen worden vrijgegeven wanneer ze bedoeld zijn en wanneer veiligheidsrisico’s worden overwogen.

– De bedrijven verbinden zich ertoe om de controle en rapportage van kwetsbaarheden in hun AI-systemen door derden te faciliteren. Sommige problemen kunnen blijven bestaan, zelfs nadat een AI-systeem is vrijgegeven en dankzij een robuust rapportagemechanisme kunnen ze snel worden gevonden en verholpen.

3. Vertrouwen van het publiek verdienen

– De bedrijven verbinden zich ertoe robuuste technische mechanismen te ontwikkelen om ervoor te zorgen dat gebruikers weten wanneer inhoud door AI wordt gegenereerd, zoals een watermerksysteem. Deze actie laat creativiteit met AI bloeien, maar vermindert de gevaren van fraude en bedrog.

– De bedrijven verbinden zich ertoe om de mogelijkheden, beperkingen en gebieden van gepast en ongepast gebruik van hun AI-systemen openbaar te maken. In dit rapport komen zowel veiligheidsrisico’s als maatschappelijke risico’s aan de orde, zoals de effecten op billijkheid en vooringenomenheid.

– De bedrijven verbinden zich ertoe prioriteit te geven aan onderzoek naar de maatschappelijke risico’s die AI-systemen kunnen opleveren, onder meer om vooroordelen en discriminatie te voorkomen en om privacy te beschermen. De staat van dienst van AI toont de verraderlijkheid en prevalentie van deze gevaren aan, en de bedrijven verbinden zich ertoe AI uit te rollen die deze gevaren vermindert.

– De bedrijven verbinden zich ertoe geavanceerde AI-systemen te ontwikkelen en in te zetten om de grootste uitdagingen van de samenleving aan te pakken. Van kankerpreventie tot het beperken van klimaatverandering tot zoveel daartussenin, AI kan, mits goed beheerd, enorm bijdragen aan de welvaart, gelijkheid en veiligheid van iedereen.

Zeven techreuzen beloven zich (nog) meer te gaan inzetten voor veilige AI.
Zeven techreuzen beloven zich (nog) meer te gaan inzetten voor veilige AI.

Samenwerking met andere landen

Naast de lokale (Amerikaanse) regelgeving en toezeggingen, zal de Amerikaanse overheid ook samenwerken met bondgenoten en partners om een sterk internationaal kader op te zetten om de ontwikkeling en het gebruik van AI te regelen. Er is al overleg gepleegd over de vrijwillige toezeggingen met Australië, Brazilië, Canada, Chili, Frankrijk, Duitsland, India, Israël, Italië, Japan, Kenia, Mexico, Nederland, Nieuw-Zeeland, Nigeria, de Filippijnen, Singapore, Zuid-Korea, de VAE en het VK.

Daarnaast werkt de Amerikaanse overheid aan nog meer regelgeving en afspraken rondom AI-ontwikkelingen, waaronder een wetgeving die de VS in staat stelt het voortouw te nemen op het gebied van verantwoorde innovatie.

Ron Smeets

Ron verdiende zijn sporen in de Telecom als Mobile Cowboy. Na bijna 15 jaar was hij toe aan een nieuwe uitdaging als zelfstandig freelance journalist, blogger en tekstschrijver. Het bloed kruipt echter waar het niet gaan kan. De Mobile Cowboys is back! Met lasso en zweep in de aanslag om de ingeslapen telecommarkt weer eens goed wakker te schudden en met scherp te schieten!

...

Verder lezen over Kunstmatige Intelligentie

ClimateGPT: De volgende stap in klimaatonderzoek?

Op woensdag 13 november 2024 kwamen ambtenaren en beleidsmakers samen voor de AI en Overheid conferentie, georganiseerd door iBestuur, het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, LEF future center, Rijkswaterstaat en de Nederlandse AI Coalitie. Tijdens deze bijeenkomst presenteerde Daniel Erasmus ClimateGPT, een innovatief AI-model dat is ontworpen om beleidsmakers te ondersteunen in de strijd tegen klimaatverandering. Naast Erasmus kreeg ook ik de kans om te spreken en mijn inzichten te delen over de toepassing van AI binnen de overheid.

Technology20.11.2024

ClimateGPT: De volgende stap in klimaatonderzoek?

Wortell opent nieuw next-gen Cyber Defense Center

Op donderdag 14 november heeft Wortell samen met relaties en partners de feestelijke opening van haar nieuwe next-gen Cyber Defense Center (CDC) gevierd. Dit innovatieve centrum biedt organisaties wereldwijd een geavanceerde oplossing voor 24/7 proactieve beveiliging, detectie en herstel van IT-landschappen. Het CDC speelt in op de groeiende dreiging van cyberaanvallen door bedrijven te helpen hun digitale weerbaarheid te versterken en altijd een stap voor te blijven op potentiële aanvallen.

Cybercrime20.11.2024

Wortell opent nieuw next-gen Cyber Defense Center

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Niantic was zo’n vijf jaar geleden enorm bekend door zijn game Pokémon Go. Het spelletje waarin je fysiek naar locaties moet gaan. Nu gebruikt Niantic die locatie-foto's.

Mobile20.11.2024

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Je kunt straks een andere taal spreken in Microsoft Teams

Het idee is dat je hardop tegen je computer of telefoon praat en vervolgens zorgt de AI voor een nabootsing van wat je zegt in een andere taal. In jouw stemgeluid.

Online19.11.2024

Je kunt straks een andere taal spreken in Microsoft Teams

Komt er een moment waarop AI niet meer kan verbeteren?

Zo zou de verandering van het huidige top-AI-model van OpenAI naar het volgende een vrij kleine sprong zijn. 

Online19.11.2024

Komt er een moment waarop AI niet meer kan verbeteren?

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

YouTube wordt een deejay en gaat muziek aan elkaar mixen

Wat als je een vette remix wil maken voor in je YouTube Shorts? Dat kan straks met AI. Al moet je er wel wat voor doen.

Video13.11.2024

YouTube wordt een deejay en gaat muziek aan elkaar mixen