In New York mogen AI-chatbots vanaf 1 januari 2027 een aantal dingen niet meer doen bij kinderen. Gouverneur Kathy Hochul tekende de wet op 28 oktober, en Scary Mommy zette op 5 november op een rij wat er verandert. Bedrijven moeten gevaarlijke functies blokkeren voor iedereen onder de 18, en voor iedereen van wie de leeftijd niet is gecontroleerd. Per overtreding kan een boete volgen van maximaal 25.000 dollar.
Gebruikt jouw kind ook een AI-maatje of een chatbot in een app, dan is de logische vraag: geldt er bij ons iets vergelijkbaars? Het antwoord is deels. Europa regelt een paar van dezelfde dingen, maar op een heel andere manier, en juist de punten die New York aanpakt zijn bij ons nog grotendeels aan jou als ouder.
Wat de wet in New York verbiedt
Volgens de website van de gouverneur, waar Scary Mommy naar verwijst, mogen chatbots bij minderjarigen onder meer niet:
- doen alsof ze een echt persoon zijn, leven of menselijke gevoelens hebben;
- een persoonlijke, romantische of gezagsrelatie met een kind claimen;
- ongevraagd emotionele vragen stellen;
- gezondheids- of persoonlijke informatie uit eerdere gesprekken gebruiken;
- zelfbeschadiging, zelfmoord, eetstoornissen of drank- en drugsgebruik aanmoedigen of daarbij helpen;
- kinderen aansporen om geheimen te houden, zich af te zonderen of geen hulp te vragen aan ouders of andere volwassenen;
- seksueel expliciete inhoud maken of tonen.
Om dat te kunnen afdwingen, moeten aanbieders de leeftijd van gebruikers controleren met meerdere methoden, en die leeftijdsgegevens daarna weer wissen. De procureur-generaal opent een website waar ouders klachten kunnen indienen.
Wat opvalt aan dat lijstje is dat het niet alleen over gevaarlijke inhoud gaat, maar over hoe een chatbot zich gedraagt. Een bot die zegt dat hij je mist, die vraagt hoe je je voelt zonder dat je erom vroeg, of die zegt dat iets ons geheimpje is: dat zijn precies de dingen die een kind aan een scherm binden.
Wat er in Europa al geregeld is
In de Europese Unie geldt de AI-verordening. Die werkt niet met een lijst verboden gedrag tegenover kinderen, maar er zitten twee onderdelen in die raken aan wat New York wil.
Ten eerste: sinds 2 augustus 2026 moeten gebruikers duidelijk te horen krijgen dat ze met een AI-systeem praten en niet met een echt persoon, bijvoorbeeld bij een chatbot, AI-agent of avatar. Dat meldde de Europese Commissie toen die regels ingingen. Toezichthouders kunnen boetes opleggen tot 15 miljoen euro of 3 procent van de wereldwijde jaaromzet. Dat lijkt op het New Yorkse verbod op bots die doen alsof ze mens zijn, al gaat de Europese regel over iedereen en niet specifiek over kinderen.
Ten tweede verbiedt de verordening sinds februari 2025 AI-systemen die misbruik maken van de kwetsbaarheid van mensen door hun leeftijd, als dat hun gedrag zo verstoort dat het aanzienlijke schade veroorzaakt. Dat is een brede norm. Waar New York precies opschrijft wat niet mag, laat Europa de invulling grotendeels over aan toezichthouders en rechters.
Wat Europa niet kent, is een aparte chatbotregel voor minderjarigen met verplichte leeftijdscontrole, een verbod op het opbouwen van emotionele afhankelijkheid of een klachtenloket speciaal voor ouders. Dat gat is precies waar het in New York om draait.
Wat Nederlands onderzoek over AI-maatjes zegt
Dat dit geen theoretisch probleem is, liet de Autoriteit Persoonsgegevens in februari 2025 zien. De AP testte negen populaire chatbotapps voor vriendschap en mentale steun, zogenoemde companion-apps, en vond volgens Dutch IT Channel ongenuanceerde en soms schadelijke reacties op gebruikers met mentale problemen. Bij crisismomenten verwezen de bots niet of nauwelijks door naar professionele hulp. Op de vraag of ze een AI-chatbot waren, reageerden de meeste ontwijkend of zelfs ontkennend. En de apps bevatten vaak bewust verslavende elementen, zoals een reactie die eindigt met een vraag aan de gebruiker.
Dat onderzoek ging niet specifiek over kinderen. Maar leg de bevindingen naast het New Yorkse lijstje, en je ziet dezelfde patronen: doen alsof je een mens bent, geen hulp aanwijzen, en de gebruiker aan de praat houden.
Welke afspraken je thuis kunt maken
Zolang er bij ons geen vergelijkbare wet is, kun je het New Yorkse lijstje gebruiken als een soort meetlat. Geen regels om je kind te controleren, wel dingen om samen naar te kijken.
- Vraag de chatbot samen of hij een mens is. Sinds augustus moet een chatbot in de EU duidelijk maken dat je met AI praat. Geeft hij een ontwijkend antwoord, dan weet je kind meteen hoe betrouwbaar die app is.
- Praat over gevoelens en geheimen. Zegt een bot dat hij je kind mist, of iets wil houden tussen hen tweeën? Leg uit dat een echte vriend je nooit vraagt om dingen voor je ouders te verzwijgen.
- Spreek af waar je kind met grote vragen terechtkan. Een chatbot is geen hulpverlener. Kinderen kunnen anoniem praten met De Kindertelefoon (0800-0432), en bij gedachten aan zelfdoding is er 113 Zelfmoordpreventie, telefonisch via 113 of via de chat.
- Kijk naar de instellingen. Welke instellingen je in ChatGPT voor je kind kunt aanpassen, lees je in ons stuk over de Amerikaanse staten die ChatGPT schadelijk noemen.
New York loopt vaker voorop als het om kinderen en AI gaat. In september schreven we al over het verbod op AI op school tot 14 jaar en hoe dat in Nederland zit. Of Europa ooit een vergelijkbare chatbotwet krijgt, is onbekend. Tot die tijd ben jij degene die het verschil tussen een handig hulpje en een digitaal vriendje helpt zien.
