OpenAI, de maker van ChatGPT, krijgt een onafhankelijke beveiligingscommissie, onder leiding van een eigen CEO

OpenAI, de maker van ChatGPT, heeft een nieuw Beveiligingscomité in het leven geroepen, meldt de Amerikaanse nieuwszender CNBC. Deze commissie moet ervoor zorgen dat OpenAI verantwoord opereert. Opgemerkt moet worden dat de CEO van het bedrijf, Sam Altman, deze commissie ook zal voorzitten.

Het kunstmatige-intelligentiebedrijf OpenAI heeft een nieuwe beveiligingscommissie opgericht. De aankondiging komt een paar weken nadat OpenAI zijn eerste commissie heeft ontbonden. Het team kreeg de taak om de risico’s van AI-technologie te identificeren en te beperken. Sindsdien hebben verschillende medewerkers het bedrijf teleurgesteld verlaten. De CEO van het bedrijf, Sam Altman, zal de nieuwe commissie leiden.

Remy Gieling, mede-oprichter van AI.nl, begrijpt dat mensen denken dat Altman zijn eigen vlees gaat inspecteren. Tegelijkertijd laat de CEO van het bedrijf achter ChatGPT zien dat beveiliging een belangrijk onderdeel is van de bedrijfsvoering van OpenAI, zegt Gieling. “Dus als ultieme verantwoordelijke persoon wil je de vinger in de taart houden.”

Lees ook | ‘AI-taalmodellen zijn niet voldoende om zaken te doen in het buitenland’

De commissie moet toezicht houden op de veiligheid van de technologie op de lange termijn, zegt Gieling. Dit is vooral nodig wanneer OpenAI-modellen zo intelligent zijn dat ze overeenkomen met het intellect van mensen. Voorlopig moet de commissie het volledige beveiligingsbeleid van OpenAI binnen 90 dagen herzien.

Voldoende ambitie

Het ontbreekt OpenAI in ieder geval niet aan ambitie. Mogelijk werkt het bedrijf aan een nieuwe, nog slimmere versie van ChatGPT. De CEO zegt over de huidige chatbot, ChatGPT 4, dat deze naar zijn mening nog niet geavanceerd genoeg is.

Het uiteindelijke doel moet een AI-model zijn dat slim genoeg is om 80 procent van het economisch waardevolle werk te vervangen, zegt Giering. Giering durft niet te zeggen of dat doel ooit zal worden bereikt. Aanvankelijk dacht hij van niet, maar de vastberadenheid waarmee technologiegiganten als OpenAI dit soort beloftes doen aan investeerders doet hem twijfelen.

Lees ook | “AI-taalmodellen hebben hun beperkingen”, waarschuwen experts