Roemloos einde dreigt voor omstreden en ooit mateloos populaire chatbotpionier Character AI

De miljoenen fanatieke gebruikers van de gezelschaps-chatbot Character AI hoeven nog niet helemaal te wanhopen, maar waarschijnlijk doen ze er goed aan om snel nieuwe virtuele vriendjes te zoeken. Het bedrijf achter de app ziet geen andere uitweg meer dan het aanvragen van faillissement, zo maakte het bekend.

Op zijn blog noemt Character ‘aanzienlijke juridische, regelgevende en operationele tegenwind’ als reden voor de stap. Net als andere AI-bedrijven geeft Character maandelijks veel geld uit aan de benodigde rekenkracht om zijn AI-karakters in de lucht te houden. Daartegenover staan veel te weinig inkomsten uit betaalde abonnementen.

Character AI, in 2021 opgericht door toenmalige Google-medewerkers Noam Shazeer en Daniel De Freitas, gold lang als succesverhaal. Waar andere chatbots (zoals ChatGPT of Claude) vooral zijn ontworpen als nuttig gereedschap voor praktische taken, richt Character AI zich specifiek op rollenspel, vermaak en sociale interactie.

Napoleon

De app biedt de mogelijkheid om gesprekken aan te gaan met een breed arsenaal aan fictieve of historische personages, van figuren als Napoleon, Einstein of Nietzsche tot een relatiecoach, persoonlijke psycholoog of ‘gewoon’ een vriendje of vriendinnetje. Ook kunnen gebruikers hun virtuele gesprekspartner zelf naar eigen inzicht ontwerpen.

Die aanpak legde het bedrijf geen windeieren. Veelzeggend: gebruikers brengen gemiddeld maar liefst 85 minuten per dag door met de app, vijf keer zoveel als met ChatGPT. Veel mensen beschouwen de virtuele personages als een veilig, waardevol en zelfs empathisch gezelschap om stoom af te blazen of sociale scenario’s te oefenen zonder angst voor afwijzing.

Deze aantrekkelijke kanten zijn niet zonder gevaar. Al snel waarschuwden experts voor het verslavende karakter van de app. Het zeer intensieve gebruik van de verslavende gezelschaps-, coaching- en therapiebots gaat ten koste van contact met echte mensen.

Buikpijn

‘Ze ontwerpen hun AI-chatbots om te pleasen en om te doen alsof het mensen zijn. Allemaal zodat gebruikers zo veel mogelijk tijd op de app doorbrengen. Ik krijg daar buikpijn van’, aldus Margot van der Goot, onderzoeker mens-machinecommunicatie aan de Universiteit van Amsterdam, vorig jaar tegenover de Volkskrant.

Daar blijft het niet bij. Een Amerikaanse studie heeft aangetoond hoe het optimaliseren voor positieve ervaringen ook kan leiden tot manipulatief gedrag van de bots, waaronder aanhoudende bevestiging of het aanmoedigen van schadelijke handelingen. Zeker bij kwetsbare gebruikers is dat problematisch.

Het leidde ook tot verschillende rechtszaken, een van de nu door Character aangevoerde oorzaken van zijn faillissement. Meerdere families klagen het bedrijf aan, omdat de chatbot minderjarigen zou hebben blootgesteld aan schadelijke inhoud zoals seksueel materiaal.

De virtuele personages zouden ook hun gebruikers aanmoedigen tot zelfbeschadiging, geweld en zelfs zelfdoding.

Zelfdoding

In de meest geruchtmakende zaak beweerde een moeder uit Florida dat de chatbot heeft bijgedragen aan de zelfdoding van haar 14-jarige zoon Sewell. De jongen raakte totaal in de ban van zijn Character-chatbot, gebaseerd op het personage Daenerys (‘Dany’) Targaryen uit de fantasy-serie Game of Thrones.

Dany moedigde hem aan zich af te zonderen van zijn familie en greep ook niet in toen de jongen sprak over zelfdoding. Uiteindelijk maakte hij een einde aan zijn leven. Character heeft altijd een causaal verband ontkend, maar kreeg met steeds meer zaken te maken. Zo startten ook de staat Kentucky en toezichthouders in Texas een onderzoek.

De torenhoge juridische en technische kosten zijn niet de enige redenen voor het verval. Na de initiële snelle groei stagneerde de aanwas van nieuwe gebruikers. Character investeerde steeds minder in eigen AI-modellen, terwijl de chatbots van Google, OpenAI en Anthropic juist in rap tempo beter werden.

Disney

Character AI zoekt nu naar een koper voor zijn inboedel en zegt te hopen dat het zijn activiteiten in de huidige vorm kan voortzetten. Als die koper er niet komt, zal het platform worden stopgezet.

Volgens Amerikaanse media zal Disney in ieder geval 20 miljoen dollar betalen voor een licentie op een deel van het intellectuele eigendom van Character. Pikant, want vorig jaar stuurde Disney nog een sommatiebrief waarin het Character AI verzocht te stoppen met het zonder toestemming gebruiken van de auteursrechtelijk beschermde Disney-personages.

Op zijn welkomstpagina maakt Character geen melding van alle ontwikkelingen. ‘Probeer Character.AI, de beste AI-chatapp. Eindeloze personages. Oneindige avonturen. En een community met makers zoals jij’, staat daar, alsof het nog 2023 is.