Facebook werd overspoeld met afbeeldingen van Jezus in AI: veilig of niet?

Afbeeldingen van Jezus gemaakt met bananen, eieren of plastic flessen, of zelfs een garnaal met het hoofd van Jezus: Facebook staat er vol mee AI gegenereerde afbeeldingenvaak met miljoenen klikken.

Hoe gekker hoe beter, lijkt het idee. Algoritmen voor sociale media zijn een goudmijn voor gebruikers die AI-inhoud willen verspreiden.

Maar hoe onschuldig zijn deze beelden? Uit het onderzoek van de Stanford Internetobservatorium Het blijkt dat deze en andere vreemde Facebookpagina’s vaak door oplichters zijn gemaakt.

AI-afbeeldingen op Facebook kunnen risico’s met zich meebrengen

Volgens onderzoeker Renée DiResta zijn pagina’s met afbeeldingen gegenereerd door AI veiligheidsrisico’s hebben voor gebruikers van sociale media. Het is vaak opvallend met gekke afbeeldingen om nietsvermoedende bezoekers naar oplichters te leiden.

De persoonlijke gegevens van gebruikers worden vervolgens gestolen via kwaadaardige links en phishing-technieken. Pagina’s met AI-inhoud groeien snel, een teken dat er mogelijk ook nepaccounts en clickfarms bij betrokken zijn. Vaak gaat dit hand in hand.

Ook is het mogelijk dat AI-beelden worden gebruikt om producten te verkopen die helemaal niet bestaan ​​of om mensen naar externe sites te lokken.

Met kunstmatige intelligentie is het in zeer korte tijd mogelijk veel vreemde beelden produceren. Hoe gekker het beeld, hoe groter de kans dat het de aandacht trekt van gebruikers op sociale media.

Zorgen over de invloed van kunstmatige intelligentie gaan verder dan de verspreiding van vreemde beelden. In verschillende landen, waaronder Indië en de VSwaarschuwt voor de invloed van AI-campagnes bij lokale verkiezingen.

AI faciliteert bijvoorbeeld de verspreiding van nepvideo’s van oppositieleiders. Dit maakt het steeds moeilijker om nepnieuws van feitelijke informatie te onderscheiden.

Meta, het moederbedrijf van Facebook, heeft aangegeven dat het AI-inhoud gaat labelen, waardoor duidelijk wordt welk materiaal door AI is aangeleverd. Omdat de hoeveelheid AI-materiaal online alleen maar zal toenemen, is dit een goede eerste stap.

De vraag blijft echter hoe effectief deze labels zullen zijn. De detectiesystemen van Facebook werken niet altijd optimaal, waardoor veel materiaal verkeerd getagd kan worden. Een afbeelding van Jezus als garnaal is nog steeds te herkennen als AI, maar waar ligt de grens?

lauren mac
Auteur

Technisch redacteur

Lauren is een cybersecurityjournalist, gespecialiseerd in mediacensuur en technologie in de samenleving. Met een achtergrond in Internationale Betrekkingen en Noord-Amerikaanse Studies heeft ze een scherp oog voor het belang van privacy, online veiligheid en een vrij internet.