Technology19.01.2021

​Moderators zien geen verschil tussen AI en menselijke tekst


Deep fakes, je hoort vaak dat ze één van de grote gevaren zijn voor de toekomst. Je kunt mensen die iets nooit zouden zeggen, via een nepvideo toch die uitspraak laten doen. Zeker dankzij social media kan zo’n video snel verspreiden. Dat zien we niet alleen bij video, maar ook bij tekst: we denken wel dat we weten wanneer een tekst is geschreven door een mens of een robot, maar eigenlijk blijken we daar geen idee van te hebben.

Kunstmatige intelligentie

Dit is ontdekt in de Verenigde Staten. Via Medicaid.gov konden burgers feedback geven op een aanpassing in een medisch programma van de staat Idaho. De site ging in oktober 2019 live en er kwamen wel 1.000 opmerkingen binnen. De helft kwam echter niet van burgers die hun mening wilden geven: de helft kwam van kunstmatige intelligentie. De moderators die de reacties moesten verwerken ontdekten dat helemaal niet, schrijft ArsTechnica.

Harvard-student Max Weiss wist wel beter, want hij ontwikkelde het AI-systeem dat hiervoor zorgde. Het is vrij ernstig, want overheden kijken naar deze opmerkingen in het maken van beleid en nemen van beslissingen. Het is heel makkelijk voor een robot om tekst te maken die lijkt alsof hij van een mens is, maar het is dus niet makkelijk voor een mens om te herkennen dat dit van een bot afkomstig is.

GPT-2

De Amerikaanse overheid heeft op basis van het onderzoek besloten om zijn pagina’s voor burgerfeedback anders in te richten. Dus niet simpelweg een knop waarmee je iets instuurt: er is meer voor nodig. Weiss schrok ervan dat die knop het enige was waarmee hij de politiek kon beïnvloeden, waarop hij startte met zijn AI-experiment. Hij gebruikte het programma GPT-2 om neppe reacties te maken. “Ik was geschokt over hoe gemakkelijk het was om GPT-2 te verfijnen om de commentaren echt te maken. Het is relatief zorgwekkend op een aantal fronten,” zegt Weiss.

Het gevaar is niet alleen wanneer kunstmatige intelligentie wordt gebruikt als reactie op social media of een formulier op het internet. Dankzij kunstmatige intelligentie kunnen hackers van over de hele wereld immers veel betere phishingmails schrijven. Nu kun je die soms ontdekken door gebrekkig Engels of een domme taalfout, maar als er straks kunstmatige intelligentie wordt gebruikt, dan wordt ook dat haast onmogelijk om van echt te onderscheiden. Hoewel het natuurlijk knapper is om iemand voor de gek te houden met een deepfake-video (dat is immers veel meer werk), brengt tekst dus ook zo zijn gevaren met zich mee.

Beeldbron: kiquebg

Laura Jenny
Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven, Belle is haar beste vriendin en haar laptop is nooit ver weg.

...

Verder lezen over Kunstmatige Intelligentie

ClimateGPT: De volgende stap in klimaatonderzoek?

Op woensdag 13 november 2024 kwamen ambtenaren en beleidsmakers samen voor de AI en Overheid conferentie, georganiseerd door iBestuur, het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, LEF future center, Rijkswaterstaat en de Nederlandse AI Coalitie. Tijdens deze bijeenkomst presenteerde Daniel Erasmus ClimateGPT, een innovatief AI-model dat is ontworpen om beleidsmakers te ondersteunen in de strijd tegen klimaatverandering. Naast Erasmus kreeg ook ik de kans om te spreken en mijn inzichten te delen over de toepassing van AI binnen de overheid.

Technology20.11.2024

ClimateGPT: De volgende stap in klimaatonderzoek?

Wortell opent nieuw next-gen Cyber Defense Center

Op donderdag 14 november heeft Wortell samen met relaties en partners de feestelijke opening van haar nieuwe next-gen Cyber Defense Center (CDC) gevierd. Dit innovatieve centrum biedt organisaties wereldwijd een geavanceerde oplossing voor 24/7 proactieve beveiliging, detectie en herstel van IT-landschappen. Het CDC speelt in op de groeiende dreiging van cyberaanvallen door bedrijven te helpen hun digitale weerbaarheid te versterken en altijd een stap voor te blijven op potentiële aanvallen.

Cybercrime20.11.2024

Wortell opent nieuw next-gen Cyber Defense Center

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Niantic was zo’n vijf jaar geleden enorm bekend door zijn game Pokémon Go. Het spelletje waarin je fysiek naar locaties moet gaan. Nu gebruikt Niantic die locatie-foto's.

Mobile20.11.2024

Je Pokémon Go-data wordt nu gebruikt om AI te trainen

Je kunt straks een andere taal spreken in Microsoft Teams

Het idee is dat je hardop tegen je computer of telefoon praat en vervolgens zorgt de AI voor een nabootsing van wat je zegt in een andere taal. In jouw stemgeluid.

Online19.11.2024

Je kunt straks een andere taal spreken in Microsoft Teams

Komt er een moment waarop AI niet meer kan verbeteren?

Zo zou de verandering van het huidige top-AI-model van OpenAI naar het volgende een vrij kleine sprong zijn. 

Online19.11.2024

Komt er een moment waarop AI niet meer kan verbeteren?

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Een journalist van de Wall Street Journal nam de proef op de som en trok 24 uur de bossen in om te ontdekken of Gemini van Google, Meta AI van Meta, OpenAI van ChatGPT en Copilot van Microsoft een beetje behulpzaam waren.

Online13.11.2024

Dit gebeurt er als je 24 uur alleen bent met AI-chatbots

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

Huawei Connect 2024 in Parijs staat volledig in het teken van het thema ‘Amplify Digital and Green Transformation en richt zich op de snelle ontwikkelingen van kunstmatige intelligentie en de digitale en groene transformatie in Europa.

Tech in Asia13.11.2024

Huawei Connect Paris: AI en de digitale, groene transformatie van Europa

YouTube wordt een deejay en gaat muziek aan elkaar mixen

Wat als je een vette remix wil maken voor in je YouTube Shorts? Dat kan straks met AI. Al moet je er wel wat voor doen.

Video13.11.2024

YouTube wordt een deejay en gaat muziek aan elkaar mixen