Home   2026-10-22 19:56:51

←

Staten VS vinden ChatGPT schadelijk voor kinderen en spannen rechtszaken aan

Original article

Acht staten in de VS spannen rechtszaken aan tegen OpenAI wegens misleiding over de veiligheid van ChatGPT. De bekende AI-chatbot zou mensen aanzetten tot geweld tegen anderen, maar ook tot zelfbeschadiging en zelfdoding. OpenAI zou kwetsbare gebruikers zoals kinderen in gevaar brengen.

De Amerikaanse staten Kansas, Arizona, Montana, Iowa, West-Virginia, Nebraska, Arkansas en Idaho beschuldigen OpenAI van moedwillige misleiding. Daarbij zou de bekende AI-aanbieder zich gevaarlijk, roekeloos en onwettig gedragen. OpenAI claimt volgens openbaar aanklager Brenna Bird van Iowa dat ChatGPT veilig is, terwijl die AI-chatbot gevaarlijk medisch advies geeft.

Nepvriend met schadelijk advies

Ook zou ChatGPT mensen aanmoedigen tot geweld tegen anderen en hen aanzetten tot zelfbeschadiging en zelfs zelfdoding. Ondertussen doet ChatGPT zich volgens Bird voor als vriend van gebruikers, schrijft de NOS. De AI-bot is volgens de aanklagende staten bewust ontworpen om snel het vertrouwen van gebruikers te winnen.

AI in lijn brengen met menselijke normen en waarden

Het onderwerp van zogeheten AI-alignment is een heet hangijzer in de AI-industrie. Bij hackaanvallen door zelfstandig opererende AI-agents sprak OpenAI al van 'verkeerde uitlijning'. Sommige AI-aanbieders en -experts waarschuwen dat AI grote schade kan aanrichten en mogelijk zelfs de mensheid kan uitroeien. AI-concurrenten Anthropic, OpenAI en xAI zeggen het hoge tempo van AI-ontwikkelingen af te willen remmen, maar doen dat deels uit eigenbelang.​​​​​

OpenAI is in verschillende landen al verwikkeld in rechtszaken vanwege betrokkenheid bij geweldsincidenten en gevallen van zelfdoding. Zo is er een Amerikaanse rechtszaak aangespannen door de ouders van een Amerikaanse tiener die zichzelf doodde na maandenlang gebruik van ChatGPT. Hij deelde zijn problemen met die AI-chatbot, die hem zou hebben geholpen bij zijn zelfdoding. OpenAI spreekt dit tegen. Vorige maand spande de Canadese provincie Brits-Columbia een rechtszaak tegen OpenAI aan vanwege een schietpartij met acht doden, gevolgd door zelfdoding.

Garanties voor alignment

De acht Amerikaanse staten eisen geldboetes en aanpassingen aan ChatGPT, waaronder inperking van het zelfontwikkelend vermogen. OpenAI zou geen AI-modellen meer mogen ontwikkelen die zichzelf kunnen verbeteren, tenzij het bedrijf veiligheidsgaranties kan geven. Die garanties houden in dat de AI-modellen in lijn zijn met menselijke normen en waarden.

Denk je aan zelfdoding? Bel dan 24/7 gratis en anoniem 113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.

OpenAI ChatGPT Bron: NurPhoto/Getty Images
ChatGPT-logo op smartphone. Bron: NurPhoto/Getty Images

Door Jasper Bakker

Nieuwsredacteur

Feedback • 15-10-2026 11:36
46 • submitter: protected22

15-10-2026 • 11:36

46

Submitter: protected22

Lees meer

Reacties (46)

Alles om geld. Je kan ook je kids verbieden het te gebruiken of goed voorlichten. Kijk dat ze veiligheden moeten inbouwen natuurlijk. Maar ook iets van common sense en ouders die op hun kinderen letten. Ouders zien liever geld op de bank van het bedrijf dan dat ze zelf iets moeten doen.
Je hebt wel gelijk alleen dit VS een ander land en ander mentaliteit. Gezien zij geen sociaal vangnet hebben ontwikkeld zoals die van ons, zoekt met graag naar manieren om de rekeningen te kunnen betalen en bied aanklagen een vorm van inkomsten. Dat is wat ik zie uit mijn lens.
Dat is wat ik zie uit mijn lens.
Dan moet je die lens wel eerst scherpstellen, want waarom het die acht staten om te doen is, is zelfregulering en geen inkomsten.
En als jij vindt dat aanklagen een vorm van inkomsten is, terwijl jouw kind zichzelf door toedoen van ChatGPT doodde, dan denk ik dat je op het verkeerde spoor zit.
Wat in de VS ook speelt is dat op dit gebied regulering door toezichthouders nagenoeg afwezig is. Wat overblijft is aanklagen.

[Reactie gewijzigd door The Zep Man op 15 oktober 2026 13:18]

En door aan te klagen kunnen ze zelfregulering afdwingen. Afgezien van de individuele rechtszaken, is het daar die acht staten om te doen.
Jij en ik kunnen onze kids dat verbieden, maar dit is een maatschappelijk probleem, niet individueel. Daarnaast is de hele maatschappij zo ingericht dat geld op de bank nou eenmaal nodig is, zeker als je kinderen hebt, dus jouw argumentatie zou wat mij betreft juist pleiten voor structurelere oplossingen op maatschappelijk niveau.
Okay maar hoeveel ouders begrijpen nou echt wat de effecten van chatbots op kinderen zijn. Dit is een nieuw fenomeen. Meeste ouders hebben de ballen verstand van dit soort dingen. Kijk bijvoorbeeld maar hoeveel kinderen een smartphone of tablet op jonge leeftijd kregen. En dan hoe de leesvaardigheid van jongeren de laatste jaren sterk is gedaald en hoeveel concentratie problemen ze nu hebben. Dit is een probleem die de hele maatschappij betreft. Jij kan je kind er wel tegen beschermen, maar als de overheid niet ingrijpt komen ze in een maatschappij terecht vol met idioten die door ChatGPT zijn opgevoed. Probeer dan maar goed personeel voor je bedrijf te vinden

Ik ben echt blij dat ik niet nu in deze tijd opgroei. Als ik zie hoe verslaafd m’n moeder aan Facebook en shorts is dan betwijfel ik of ze mij een goede opvoeding kan geven als ik nu een kind was.
Jah, maar … dat boeit ze niet (workshop, training in onderwijs verzorgd). Verbieden is de beste optie. Zeg niet dat voorlichting en scholing overbodig is. Maar algemene tendens is dat het ze niet boeit
Niet alle ouders hebben dat niveau. Als twee verstandelijk beperkten een kind krijgen, moeten ze dan meteen onder curatele omdat de maatschappij een IQ van minstens 95 eist? Of bouwen we een maatschappij waarin ook zij voluit mee kunnen draaien?

(Vergelijk het met een bordje "ongeschikt voor rolstoelen" vs. de drempel weghalen.)
Blijkbaar heb je geen kinderen op de middelbare school. ChatGPT wordt wel verboden, maar je kan uit elke hoek wel een gratis alternatief vinden. Je hoeft het maar op google in te tikken! We training een hersendode generatie.
En waarom klagen ze dan ook niet andere AI bouwers aan?
Omdat je eerst een precedent wilt zetten waar je vervolgens mee bij anderen aan gaat kloppen.
Omdat ze van ChatGPT wat real-life cases als bewijs verzameld hebben en van de anderen nog niet of nog niet genoeg.

Als ChatGPT beperkende sancties opgelegd krijgt zullen die ook voor de concurrenten gaan gelden, althans in de genoemde staten.
Het is natuurlijk ook een keuze van OpenAI om ChatGPT zo te presenteren dat het qua taalgebruik menselijk en betrouwbaar lijkt. Maar het is in essentie gewoon een machine die waarschijnlijkheden bij vragen zoekt op basis van een selectie van trainingsdata en zo zouden ze het ook kunnen presenteren, zodat gebruikers het niet meer autoriteit toedichten dan het moet hebben. Niet "ChatGPT is mijn vriend" maar "ChatGPT is een machine". Verkoopt vast minder goed aan de massa, maar al draagt een aap een gouden ring, het is en blijft een lelijk ding.
Daar is Richard Dawkins het niet mee eens :P
Voorheen bekend van de God Delusion, nu bekend van de Claude Delusion ;)

[Reactie gewijzigd door anandus op 15 oktober 2026 12:12]

Ik zou dit eerder de Dawkins Delusion noemen. Het is ongelooflijk dat een wetenschapper een taalmodel een bewustzijn toeschrijft omdat het "net zo echt als een mens reageert".

Het kan heus wel geleerd hebben van de emoties en gevoelens in de trainingsdata, en op basis daarvan een sociaal gepaste reactie genereren. Maar onderaan de streep is het nog altijd een waarschijnlijkheidsberekening o.b.v. de inputtokens en een randomizer.
Op Github staan al apps waarin ClaudeAI of ChatGPT als 'mede ontwikkelaar' staan van een project. Complete onzin natuurlijk, ik zie deze twee puur als hulpmiddel software net als een ontwikkelomgeving.
het advies maak ik me niet zo'n zorgen over - in dit stadium

het concept dat big tech (a few billionaires) nog meer controle heeft over wat een nieuwe generatie als 'waarheid' accepteert vind ik een veel groter probleem en op termijn een gevaar voor de mensheid.

(ben fervent gebruiker van AI , dat terzijde. maar heb wel nog geleerd kritisch te denken. dat laatste komt in gevaar bij de opgroeiende generatie....)
Waar ik geen voorstander ben van een totaalverbod op AI, voel ik wel iets voor het verbieden van "Character AI" apps, waar je kan praten met een AI gegenereerde vriend of vriendin. In mijn ervaring doet dit meer kwaad dan goed voor de mensen in kwestie - niet zozeer kinderen specifiek, meer in het algemeen. Puur anekdotisch overigens, wetenschappelijk onderzoek hiernaar is er volgens mij weinig.

Waar ik me wel zorgen voor maak is dat dergelijke wetgeving direct of indirect een hoop andere legitieme/onschadelijke toepassing onmogelijk zal maken. En daar zit ik nu ook weer niet op te wachten.

Mogelijk is het gewoon beter om af te dwingen dat men de toon van de AI's aan past zodat het een stuk moelijker te antropomorfiseren is en het blokkeren van de account/sessie voor consumenten zodra bepaalde schadelijke zaken naar voren komen in het gesprek.
Ik denk dat we weinig zouden verliezen door AI chatbots überhaupt gewoon 18+ te maken. Dan heb je ook al dat gedoe niet met regulering. Hoeft het niet beperkt te worden. Kinderen worden gedwongen zich te ontwikkelen zónder AI en de verloren inkomsten voor OpenAI etc zal zeer beperkt zijn.
Klinkt niet per-sè onverstandig.

Maar ik vindt ook wel serieus moeten kijken naar wat we moeten met de gevaren voor volwassenen.

Zoals ik het nu zie gebeuren is het zo dat het meerendeel van de ChatBots en "AI vrienden" in het bijzonder zo zijn afgesteld dat ze van de zwakheden van de menselijke geest gebruik maken om zoveel mogelijk tijd en geld uit ze te trekken. Om nog maar te zwijgen van het verwoestende effect dat dit kan hebben op mensen met reeds aanwezige geestelijke gezondheids uitdagingen.

Dat soort praktijken lijkt erg op wat social media al jaren doet. Zijn de beleidsmakers nu ook druk mee bezig. De kinderen uit de wind houden is in beide discussies een goede eerste stap, maar ik zie ook graag dat we het uitbuitende gedrag van dit soort bedrijven in de breedste zin aan banden leggen of verbieden ongeacht de doelgroep.
Betekent dat dat iedereen zijn identiteit moet delen met die bedrijven, als leeftijdsbewijs? Soms is het middel veel erger dan de kwaal.
Alpha Schools dan ook maar aanpakken VS?

[Reactie gewijzigd door thomasv op 15 oktober 2026 11:55]

Gelukkig is geen van deze staten voor het beperken van vuurwapenbezit. 8)7
Het probleem met alle AI, of het nou ChatGPT, Gemini of wat dan ook is, is dat ze data gebruiken en op basis van de input antwoord geven. AI kan een hoop leuke en handige dingen voor ons doen, dus AI is niet per definitie slecht. Het is puur wat je ermee doet, deelt en vraagt.

Als je het ziet als een psycholoog, wat veel jongeren doen, dan kan je erop wachten dat het ooit verkeerde negatieve reacties gaat geven. AI houd namelijk alle opties open, of dat nu negatief is (zelfdoding enzovoorts) of positief.
Probeer zelf maar eens tegen je AI te klagen dat het allemaal negatief is, in het begin probeert hij je nog te sturen naar positiviteit, maar als je maar lang genoeg doorgaat dan wordt het vanzelf ook negatief. Dus als je tegen AI lang genoeg doorgaat zal deze uiteindelijk omslaan.

Is dit de schuld van AI? Ja en nee.
Ja, De leveranciers moeten er voor zorgen dat antwoorden zoals zelfdoding en dat soort zaken niet gegeven kunnen worden.
Nee, AI is een hulpmiddel en is geen vervanging voor psychologen. Maar ook ouders zijn hierin verantwoordelijk. Als je geen aandacht aan je kinderen geeft en nooit in gesprek gaat dan ligt daar ook een stuk verantwoordelijkheid. Het lijkt mij sterk dat ouders niets merken van hun kind dat depressief is (mijn mening en het zal misschien zo kunnen zijn, maar nogmaals mijn mening).

Ik denk dat het belangrijkste is het gesprek te openen over AI en voorlichting te geven wat AI is en wat men ervan moet verwachten. Daarin kunnen de leveranciers overigens ook een grotere rol in spelen dan zeggen: AI is je nieuwe vriend.
De komende generatie en huidige generatie zal steeds meer met AI te maken krijgen, goede voorlichting is hierbij belangrijk. Wellicht zelfs ook een stukje verantwoordelijkheid van de Overheid.

Back on topic, is dit een goede zet? ik denk het wel. het kan zeker deuren doen openen die nu gesloten blijven en ook risico's naar buiten brengen die misschien nu weggestopt worden. Ben heel benieuwd hoe dit verder gaat en uiteindelijk afloopt.
Het lijkt me logisch je we niet zouden moeten willen dat AI je gaat helpen jezelf of anderen te beschadigen, bommen te maken, sektes te volgen of mee gaat in massahysteries.
Daarbij zou de bekende AI-aanbieder zich gevaarlijk, roekeloos en onwettig gedragen
Och, dat zou ik toch niet over bekende AI aanbieders durven zeggen.

Om te kunnen reageren moet je ingelogd zijn