OpenAI-personeel waarschuwt voor ‘roekeloze’ AI-race in NYT

Er is een ‘roekeloze’ race om dominantie in de kunstmatige intelligentie-industrie (AI). Verschillende (voormalig) medewerkers van het kunstmatige intelligentiebedrijf OpenAI deelden dit bericht dinsdag in The New York Times. Volgens hen zou OpenAI, het bedrijf achter de populaire chatbot ChatGPT, veel transparanter moeten zijn en klokkenluiders beter moeten beschermen.

De NYT schrijft dat de groep uit negen personen bestaat. Ze geven in de krant aan dat OpenAI winst en groei voorop stelt. Tegelijkertijd ontwikkelt het bedrijf uit San Francisco geavanceerde AI-toepassingen, zoals programma’s die alles kunnen wat een mens ook kan. Bovendien zijn huidige en voormalige werknemers bezorgd dat OpenAI niet genoeg doet om te voorkomen dat AI-systemen te gevaarlijk worden.

De medewerkers uiten deze zorgen in een eveneens dinsdag gepubliceerde open brief. Volgens hen variëren de risico’s “van een verdere verankering van de bestaande ongelijkheid, door manipulatie en desinformatie, tot het verlies van controle over autonome kunstmatige intelligentiesystemen, wat zou kunnen leiden tot het uitsterven van de mensheid.”

Ze merken op dat er weinig mogelijkheden zijn voor medewerkers om zorgen te uiten binnen OpenAI, maar ook binnen andere AI-bedrijven. “Totdat er effectief overheidstoezicht op deze bedrijven is, zullen huidige en voormalige werknemers tot de weinige mensen behoren die hen verantwoording kunnen afleggen tegenover het publiek”, aldus de ondertekenaars van de brief. “Uitgebreide vertrouwelijkheidsovereenkomsten weerhouden ons er echter van onze zorgen te uiten.”

Daarom presenteert de brief vier voorstellen. Zo stellen (ex-)werknemers voor dat medewerkers anoniem hun zorgen kunnen uiten. Ze willen ook dat AI-bedrijven zich onthouden van represailles ‘tegen huidige en voormalige werknemers die publiekelijk gevoelige risicogerelateerde informatie delen nadat andere processen zijn mislukt’.