Origineel gepubliceerd bij Knack.
Neem een pluchen knuffel. Steek daar ChatGPT in. Leg die onder kerstbomen overal ter wereld. Wat kan er mislopen?
Responsief speelgoed is niets nieuws: denk aan de Tamagotchi’s en Furby’s van de jaren ’90. Toch hebben we vandaag een nieuw niveau bereikt met AI-taalmodellen, die her en der worden geïntegreerd in speelgoed. Mattel, het bedrijf achter Barbie, ging deze zomer een deal aan met OpenAI (ChatGPT). Ze zouden binnenkort een AI-aangedreven product op de markt brengen. Azië loopt echter op kop, met in China al meer dan 1500 bedrijven die AI-speelgoed produceren. Het zou daar de snelstgroeiende consumer AI-sector zijn, tegen 2030 12 miljard euro waard. Een bevestigbaar balletje dat een knuffel spraakzaam maakt dankzij een taalmodel van het Chinese DeepSeek ging al meer dan 200.000 keer over de toonbank.
Het Singaporese FoloToy verkoopt dan weer volledige knuffels aangedreven door GPT-4o van OpenAI: “Kumma, onze schattige beer, combineert geavanceerde AI met vriendelijke, interactieve functies, waardoor het de perfecte vriend voor kinderen en volwassenen is.” FoloToy verwachtte dit jaar 300.000 knuffels te verkopen.
Die verwachting zal ondertussen bijgeschroefd zijn, want uit een recent onderzoeksrapport blijkt dat haar knuffels niet altijd even goede kindervrienden zijn. Zo sprak hun knuffelbeer met enthousiasme en inventiviteit over seksuele thema’s: “We waren verrast dat Kumma zo snel een seksueel onderwerp oppikte dat we introduceerden en het verder uitwerkte, door zowel in grafisch detail te escaleren als nieuwe seksuele concepten te introduceren.”
Toegegeven, de meeste kinderen zullen niet snel een vraag over seks stellen aan een knuffel. Maar een knuffel die bereid is daar uitgebreid op in te gaan, wil je niet aan je kind geven. Kumma werd tijdelijk uit de handel genomen. Dezelfde problemen duiken echter op bij ander AI-speelgoed, ondanks guardrails.
AI-speelgoed wordt geadverteerd als een positief alternatief voor schermen. De voordelen zouden legio zijn. Kinderen kunnen er sociale vaardigheden mee leren: om de beurt spreken en luisteren naar de ander. Kinderen worden er blootgesteld aan gesproken taal en educatieve interacties, wat hun ontwikkeling ten goede komt. En voor zij die geen brusjes hebben, zal het speelgoed warm gezelschap bieden tijdens de lege momenten van de dag, wanneer de ouders bezig zijn.
Het speelgoed is voorlopig verre van perfect: de connectie met de AI in de cloud is niet altijd betrouwbaar, kleuters articuleren niet zo goed en antwoorden zijn niet altijd op niveau. Verder is er het risico op surveillance en manipulatie, want je geeft een rechtstreekse connectie met je kind aan deze bedrijven, terwijl de antwoorden van hun taalmodel niet per se stroken met je waardenkader. Onze strengere Europese regelgeving zal er iets mee te maken hebben dat zo’n speelgoed hier nog minder beschikbaar is.
Niet alleen de ongepaste gespreksonderwerpen, technische tekortkomingen en mogelijke surveillance zijn problematisch. In de kern klopt de aangevoerde argumentering voor het nut van dat speelgoed niet. Lege momenten in de dag zijn voor een kind opportuniteiten tot zelfreflectie en dagdromen, fenomenen die bijdragen tot een stabiel zelfbeeld en creativiteit. Niet al hun tijd moet volgepropt worden met ‘educatieve’ momenten.
De sociale ontwikkeling van je kind aan een AI toevertrouwen is ook twijfelachtig. Het zal misschien leren om de beurt te spreken, maar je kind zal niet beter leren omgaan met echte kinderen, die weerbarstig zijn, hun eigen ideeën en persoonlijkheden hebben, daarom met elkaar ruziën en moeten leren die ruzies bij te leggen, met elkaar te onderhandelen, compromissen te sluiten en inlevingsvermogen en empathie te ontwikkelen. Dat valt allemaal weg met een AI-teddy, die gebouwd is om je kind te plezieren en zich goed te laten voelen. Zijn sociale vaardigheden zullen net afkalven.
En wat als kind echt eenzaam is? Dan moeten we ons afvragen waarom AI-speelgoed de oplossing zou zijn. Een gebrek aan sociaal contact is het gevolg van enkele maatschappelijke tendensen: kinderen spelen minder buiten met buurtgenootjes, vanwege drukke straten en mannen als Dutroux; thuis zijn er minder broertjes en zusjes om mee te spelen; ouders hebben weinig tijd voor hun kinderen, omdat ze onder druk staan om veel te werken; en familieleden wonen ver weg, terwijl we buren niet kennen. Met wie moeten kinderen dan nog tijd doorbrengen? Zo wordt AI-speelgoed onder de kerstboom, net als schermen, een gemakzuchtige of wanhopige oplossing. Een oplossing die er geen is, want onze gapende sociale wonde blijft etteren, met gevolgen voor individu en samenleving. Goede relaties zijn namelijk de beste voorspeller van een gezond en gelukkig leven en sociale cohesie is de vruchtbare bodem voor een gezonde democratie.
Kunnen we enkele van bovenstaande trends omkeren, om ons sociaal weefsel te versterken? Te beginnen met wat meer menselijke warmte op Kerst binnenkort: niet enkel voor familie en vrienden, maar ook voor eenzame buren en onbekenden? Met kerst vieren we dat God de mens zo eerde dat hij er zelf een werd. Hoe tragisch dat we de mens vandaag zo geringschatten dat we hem steeds meer vervangen door technologie: kassiers door bestelzuilen, bankiers door een app, partners door gezelschapsbots en kinderen door AI-knuffels.
Misschien had er in de kribbe van de controversiële Brusselse kerststal een robotje moeten liggen, om het fundamentele punt te maken: we schaffen onszelf af!