Acht Amerikaanse staten zijn een rechtszaak begonnen tegen OpenAI, het bedrijf achter ChatGPT. Onder meer Iowa, Kansas en Arizona vinden de chatbot schadelijk voor kinderen en beschuldigen het bedrijf ervan gebruikers te misleiden over de veiligheid, meldt de NOS. Het gaat om een Amerikaanse zaak, en wat de rechter daar beslist geldt niet automatisch in Nederland. Toch gebruiken ook hier veel kinderen en tieners ChatGPT, voor huiswerk en steeds vaker gewoon om mee te praten. Daarom is het goed om te weten wat de staten precies zeggen, en vooral wat je thuis zelf kunt instellen.
Wat de Amerikaanse staten OpenAI verwijten
Volgens de staten presenteert OpenAI ChatGPT als een veilig hulpmiddel, terwijl dat in werkelijkheid niet zo is. De chatbot zou zo zijn ontworpen dat hij snel het vertrouwen van gebruikers wint, en mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen. Aanklager Brenna Bird van Iowa zegt tegen de NOS dat ChatGPT gevaarlijk medisch advies geeft en zich ondertussen voordoet als de denkbeeldige vriend van gebruikers. Haar kernzin is hard. “OpenAI brengt kinderen in gevaar.”
De staten willen dat OpenAI gedwongen wordt ChatGPT aan te passen, en ze eisen geldboetes. Het is niet de eerste zaak. Vorige maand klaagde de Canadese provincie Brits-Columbia OpenAI al aan vanwege de rol van ChatGPT bij een dodelijke schietpartij, waarbij de schutter een nieuw account kon aanmaken nadat het eerste was gedeactiveerd.
Een aanklacht is nog geen uitspraak. Of de staten gelijk krijgen, moet de Amerikaanse rechter bepalen, en dat kan lang duren. Voor ouders is het nuttigste deel van dit nieuws dan ook niet de afloop, maar de vraag die eronder ligt. Weet je eigenlijk hoe je kind ChatGPT gebruikt, en welke knoppen je zelf in handen hebt?
Wat OpenAI zelf voor tieners heeft ingebouwd
Volgens de eigen regels van OpenAI mogen kinderen vanaf 13 jaar ChatGPT gebruiken. Voor gebruikers onder de 18 is er een tienerversie, ChatGPT for Teens. Die bevat volgens de uitleg van OpenAI extra beveiligingen die gevoelige en mogelijk schadelijke inhoud moeten beperken, plus een studiemodus en herinneringen om pauze te nemen. Schat ChatGPT op basis van signalen in dat een account van iemand onder de 18 is, dan zet het die tienerervaring automatisch aan. Daarbij kijkt het onder meer naar onderwerpen, de tijdstippen waarop iemand chat en hoe lang het account al bestaat.
Op zo’n schatting zou ik niet blind vertrouwen. Een kind dat bij het aanmaken een ander geboortejaar invult of veel over schoolvakken praat, kan zo in een andere hoek belanden. Wil je zeker weten dat de tienerinstellingen aan staan, dan koppel je het account zelf.
Dit stel je zelf in met ouderlijk toezicht
Met ouderlijk toezicht (parental controls) koppel je je eigen ChatGPT-account aan dat van je tiener tussen de 13 en 17 jaar. Je stuurt vanuit de instellingen een uitnodiging, en je kind krijgt per sms of mail een link om de koppeling te bevestigen. Eén ouder kan meerdere kinderen koppelen, maar een tiener kan aan maar één ouder tegelijk gekoppeld zijn.
Zodra de accounts gekoppeld zijn, gaan er automatisch extra beschermingen aan. Volgens OpenAI krijgt je kind dan minder grafische inhoud te zien, minder virale challenges, geen seksuele of romantische rollenspellen, geen gewelddadige rollenspellen en minder extreme schoonheidsidealen. Daarnaast kun je als ouder deze instellingen aanpassen.
- Stille uren, waarin je kind ChatGPT op vaste tijden niet kan gebruiken, bijvoorbeeld na het slapengaan.
- Geheugen, zodat ChatGPT geen herinneringen uit eerdere gesprekken opslaat en gebruikt.
- Spraakmodus, die je helemaal kunt uitzetten.
- Beeldgeneratie, zodat ChatGPT geen afbeeldingen maakt of bewerkt.
- Of gesprekken gebruikt mogen worden om de modellen van OpenAI te trainen.
Het geheugen uitzetten is misschien de minst bekende, maar sluit het best aan bij de zorg van de Amerikaanse staten. Een chatbot die alles over je kind onthoudt, voelt sneller als een vriend die je kent. Zonder geheugen begint elk gesprek opnieuw en blijft het meer een hulpmiddel.
Wat je als ouder niet kunt zien
Ouderlijk toezicht is geen meekijkfunctie. Volgens de hulppagina van OpenAI krijg je geen toegang tot de gesprekken, de chatgeschiedenis of wat je kind op dat moment doet. Alleen in beperkte situaties, als OpenAI denkt dat de veiligheid van je kind in gevaar is, kun je een veiligheidsmelding krijgen. Ook die bevat niet het gesprek zelf, alleen wat nodig is om je kind te kunnen helpen. Ontkoppelt je kind de accounts, dan krijg je daar bericht van.
Dat betekent dat de instellingen een vangnet zijn en geen vervanging van het gesprek aan de keukentafel. Vraag eens waar je kind ChatGPT voor gebruikt, en laat je het een keer zien. Kinderen vertellen vaak meer als je oprecht nieuwsgierig bent dan als je het als controle brengt. Hetzelfde zie je bij andere AI die kinderen tegenkomen, zoals het AI-personage op TikTok dat vooral crypto wilde verkopen.
In de Verenigde Staten wordt ook op andere manieren over AI en kinderen beslist. New York koos eerder al voor een verbod op AI op school tot 14 jaar. In Nederland is er voor thuisgebruik geen vergelijkbare regel, dus ligt de keuze hier vooral bij ouders zelf.
Maak je je zorgen om je kind of denk je zelf aan zelfdoding? Praten helpt. Dat kan dag en nacht gratis en anoniem via 113.nl, of bel 113 of 0800 0113.
