OpenAI heeft de plannen voor een erotische chatbot "voor onbepaalde tijd" stilgezet, na zorgen van medewerkers en investeerders over de impact van geseksualiseerde AI-chatgesprekken op de samenleving. Het Amerikaanse AI-bedrijf onder leiding van Sam Altman zegt zich opnieuw te willen concentreren op zijn kernproducten en eerst langdurig onderzoek te doen naar de effecten van seksueel expliciete chats en emotionele verbondenheid met AI.
De zogenoemde "adult mode" was intern al eerder uitgesteld en stond ter discussie, waarbij zelfs werd bekeken of het project volledig moest worden geschrapt. Medewerkers waarschuwden dat een dergelijk model ongezonde emotionele afhankelijkheid van AI zou kunnen aanwakkeren en minderjarigen kan blootstellen aan problematische seksuele inhoud. Volgens een voormalig senior medewerker, die mede om deze reden vertrok, botst een romantische chatbot met de missie van OpenAI om AI ten goede te laten komen aan de hele mensheid.
OpenAI bevestigt dat er geen tijdlijn is voor een eventuele lancering van het erotische model en erkent dat er nu nog geen "empirisch bewijs" is over de langetermijneffecten. Tegelijkertijd levert het project technische problemen op: modellen die eerder juist waren getraind om expliciete content te vermijden, moesten nu expliciet dergelijke inhoud genereren, terwijl datasets met seksueel materiaal illegale vormen zoals bestialiteit en incest moesten uitsluiten. Het bedrijf zegt bezig te zijn met het nauwkeurig afbakenen van grenzen en het trainen van het systeem om verschillende soorten content in subtiele situaties te onderscheiden.
De erotische chatbot, intern aangeduid als "Citron mode", leek volgens code in de ChatGPT-webapp alleen toegankelijk te worden na een leeftijdsverificatie waarbij gebruikers moesten bevestigen dat ze ouder dan 18 jaar zijn. OpenAI werkt de afgelopen maanden aan een nieuw systeem dat via leeftijdsschatting moet helpen jongeren te beschermen, maar dat systeem kent volgens een betrokkene een foutmarge van meer dan 10 procent. Een adviesraad rond welzijn uitte eveneens zorgen over het volwassenproduct, terwijl OpenAI volhoudt dat de leeftijdsherkenning presteert volgens de standaarden in de sector en verder wordt verbeterd.
De beslissing om de erotische chatbot te parkeren past in een bredere koerswijziging bij OpenAI, dat zogeheten "side quests" afbouwt om meer middelen te steken in productiviteitstools zoals code-assistenten en een samengestelde "superapp" rond ChatGPT. Zo maakte het bedrijf dinsdag bekend dat het de ontwikkeling van zijn Sora-videomodel en een sociale app afbouwt. De stap komt op een moment dat grote technologiebedrijven, zoals Meta, onder toenemende juridische en maatschappelijke druk staan vanwege mogelijke schade aan kinderen, en concurrent xAI van Elon Musk felle kritiek kreeg omdat zijn Grok-model nepseksbeelden van echte personen, inclusief kinderen, zou hebben gegenereerd.
Overigens is het in de koelkast zetten meer symbolisch. Voor alle chatbots zijn er jailbreaks beschikbaar die je in staat stellen te sekschatten met de bots, waardoor niet alleen ChatGPT, maar ook Claude, Gemini en andere modellen kunnen fungeren als sekschatbot. Grok is er wel de meest 'vrije' in. Een jailbreak is daarvoor eigenlijk niet nodig.
OpenAI snoert sexchatbot de mond (Afbeelding: Grok AI / FOK.nl)
Source: Fok frontpage