Deskundige waarschuwt: AI zal fraude op WhatsApp veel makkelijker maken

Door aanzienlijke investeringen van grote technologiebedrijven worden steeds meer mensen dagelijks met AI geconfronteerd. Dat begon met relatief eenvoudige algoritmen die bepalen wat er bijvoorbeeld op sociale netwerken te zien is, maar volgens Sukel (1993) hebben we een keerpunt bereikt waarop ‘we ​​echt over kunstmatige intelligentie kunnen praten’.

Sukel werkte jarenlang als specialist op het gebied van kunstmatige intelligentie bij de gemeente Amsterdam, waar hij (aanvankelijk alleen) de technologie gebruikte om problemen in de stad op te lossen, zoals het beter verwerken van overlastmeldingen. Tijdens de coronapandemie konden voetgangers via beeldherkenning ook live via videoschermen zien of ze op drukke plekken voldoende afstand van elkaar hielden.

Hij verhuisde naar Picnic, schreef zijn scriptie over kunstmatige intelligentie aan de Universiteit van Amsterdam en nu is er ook een boek, The AI ​​Revolution, waarin hij de opgedane kennis en ervaringen deelt.

Bij Picnic is zijn functietitel ‘machine learning engineer’. Hoe zou je aan een leek uitleggen wat dat betekent?

Het meest beknopte antwoord is eigenlijk algoritmeontwerp. Hoe bouwen ze zichzelf zo op dat ze honderd miljoen voorspellingen per dag kunnen doen, zonder gekke dingen te doen? Een deel van mijn werk is om voortdurend naar grafieken te kijken om te zien of alle lijnen de goede kant op gaan. Maar ook simpelweg het schrijven van de code waarop die algoritmen zijn gebaseerd.

Hoe kan dit verspilling voorkomen?

Ik kijk naar elk product in de supermarkt: hoeveel gaan we hiervan over twee weken verkopen? Als je te veel hebt, zul je uiteindelijk voedsel verspillen. Heeft u te weinig, dan zijn de producten weer uitverkocht. Dit voorspelling Dit wordt vaak gedaan in bedrijven, en dit is precies waar algoritmen erg nuttig zijn. Je probeert ze zo slim te maken dat ze beter kunnen voorspellen dan mensen. Dit is uiteraard iets minder aantrekkelijk dan generatieve AI-modellen die afbeeldingen maken of tekst schrijven. Maar ik denk dat het de kant is die heel nuttig is voor de samenleving, omdat je een probleem oplost.

Waarom heb je als AI-expert gekozen voor het bedrijfsleven en niet bijvoorbeeld voor een overheidsinstelling?

Technologie is zo ongelooflijk krachtig dat ik het voor zoiets nuttigs wil gebruiken als het voorkomen van voedselverspilling. Een bijkomend voordeel van de bedrijven is een technologisch goede omgeving. Bedrijven zijn doorgaans geavanceerder en beschikken over nieuwe apparatuur waar u gebruik van kunt maken. Dat maakt het werk ook uitdagender: je kunt zoveel meer. Er worden binnen de overheid hele belangrijke en interessante dingen gedaan op het gebied van AI, maar het ontbreekt hen vaak aan de technologie of zelfs de capaciteit om dit goed te doen. Hun teams zijn te klein.

Bedrijven willen immers winst maken. Partijen die momenteel flink investeren in AI, zoals Microsoft, Meta en Google, willen hun verdienmodel beschermen. Zit daar enig gevaar in?

Ja, dat is een heel interessante dynamiek. Kunstmatige intelligentie begint als academisch onderzoek met de vraag: hoe kunnen dit soort algoritmen worden gebouwd? Maar nu zit jij erin buigpunt waar AI echt commercieel bruikbaar wordt. Er is door de jaren heen veel geld geïnvesteerd.

Het valt mij op dat een bedrijf als OpenAI (maker van ChatGPT, voor 49 procent eigendom van Microsoft en volgens zakenblad Fortune 13 miljard dollar in het bedrijf investeerde – red.) begon met het motto: We gaan het allemaal maken. open. , en nu is hij de eerste die het sluit. Dus pak eerst wat je gratis kunt vinden en wijd er een paar honderd onderzoekers aan die het een beetje zullen verbeteren. En dan bied je dat aan gesloten bron als commercieel product.

Dit is inmiddels de trend onder dit soort bedrijven. Eén van de risico’s is dat je als buitenstaander geen onderzoek meer kunt doen naar de werking ervan. Het gevolg is dat de macht werkelijk bij die paar bedrijven ligt. En dat veel controlemechanismen niet meer mogelijk zijn.

AI heeft nog steeds een donkere kant. Mensen willen niet altijd met algoritmen te maken hebben. Kan AI in verkeerde handen vallen?

Wat binnen een jaar echt een probleem wordt, is WhatsApp-fraude. Dit is nu een heel eenvoudig sms-bericht waarin een vriend of familielid sms’t: Ik zit in de problemen, kun je geld naar mij overmaken? Maar met AI is het ongelooflijk eenvoudig om iemands stem, emoties en al het andere te imiteren.

Vorig jaar verscheen hier een artikel over en een paar maanden geleden was er een online tool. Het zal niet lang meer duren voordat criminelen het ook gaan gebruiken. Nu zie je nog steeds dat CEO’s van grote bedrijven met hem bellen. Maar ik vrees dat op een gegeven moment ieders ouders en grootouders hier het slachtoffer van zullen worden. Dat baart mij grote zorgen: wat als we niet meer kunnen geloven wat we horen?

Een paar jaar geleden werd er veel gesproken over robotisering die veel banen zou elimineren. Dat is tot nu toe niet zo erg. Heeft AI echt die impact? Het IMF voorspeld Vorige maand bleek dat 60 procent van de banen in ontwikkelde economieën is blootgesteld aan AI.

Ik denk dat de impact van AI aanzienlijk groter is. Er moeten robots gebouwd worden en daarvoor zijn dure materialen nodig. Elke AI-vooruitgang van vandaag kan morgen op ieders telefoon staan. Het kan zich veel sneller verspreiden. In theorie zou elk werk dat je achter de computer doet, binnenkort volledig door AI kunnen worden gedaan. Waarschijnlijk binnen de komende tien jaar. Ik verwacht niet dat al die banen zullen verdwijnen, maar ze zullen wel aanzienlijk veranderen.

In zijn boek legt hij uit waarom AI de koers van een aandeel nooit 100 procent kan voorspellen. Zal AI altijd beperkt zijn?

Algoritmen zijn erg goed in het herkennen van patronen en deze door te voeren naar de toekomst. Het voorbeeld van een aandelenmarkt is dus erg mooi. Het voorspellen van de waarde van de aandelenmarkt is een miljardenindustrie, maar zelfs met de beste algoritmen is het nog steeds moeilijk omdat er veel factoren zijn die de waarde van aandelen beïnvloeden. Als zo’n algoritme 99 procent van de tijd gelijk heeft, maar slechts die ene procent mist, stort de aandelenmarkt in. Het is dus nog steeds een nutteloos algoritme.

Maar dat is nu. Wat als deze technologie nog verder gaat en het menselijk denken werkelijk overtreft? Dat het patronen oppikt die we helemaal niet zien of begrijpen? Niemand kan zeggen hoe snel het gaat. We hebben de afgelopen tien jaar een piek bereikt, maar daarvoor stond AI twintig tot dertig jaar bijna stil.

Bekende AI-chatbots, zoals ChatGPT en Google Gemini, ‘hallucineren’ nog vaak: ze vullen dingen in die ze niet weten en verzinnen bronnen die niet bestaan. Zal zo’n taalmodel binnenkort perfect en betrouwbaar zijn?

Gezien hoe snel het gaat, denk ik van wel. De bronnen van deze taalmodellen zijn steeds beter en hun gegevens zijn recenter. Fouten zullen gemaakt blijven worden, maar in veel mindere mate dan een jaar geleden, toen de grootste onzin nog wel eens aan het licht kwam. Daarom is het goed om de reacties van deze chatbots te blijven checken.

Tenslotte heb ik ChatGPT gevraagd een vraag te formuleren voor dit interview. Dit is wat eruit kwam: “Wat motiveerde je om ‘The AI ​​Revolution’ te schrijven en welke belangrijke ideeën of boodschappen hoop je dat de lezers meenemen uit je boek over de impact van kunstmatige intelligentie op onze samenleving?”

Nou, dat is best goed, haha. Natuurlijk werk ik al een tijdje met AI. Dus ik dacht: nu gaat iedereen verder. En ze zien de achterkant niet. Door de lessen die ik heb geleerd in een boek te verwerken, hoop ik lezers te helpen de fouten te begrijpen die met AI zijn gemaakt. Dat je er controlemechanismen omheen moet bouwen en dat je de juiste vragen moet stellen.