Origineel gepubliceerd in De Standaard.

“Ben ik een eikel?” Heel wat mensen stellen zich die vraag. Het populaire internetforum Reddit huisvest een gemeenschap van 24 miljoen leden die elkaar persoonlijke conflicten voorleggen met de vraag wie fout was: zijzelf of de ander. Situaties worden publiekelijk besproken en de groep velt oordelen door You’re the asshole (YTA) of Not the asshole (NTA) te stemmen. Bijvoorbeeld: een man wou na een picknick zijn afval weggooien, maar vond geen vuilnisbakken in het park en liet het dus maar hangend aan een tak achter (consensus: YTA). Of: iemand weigerde een kat terug te geven aan de oorspronkelijke eigenaar, omdat hij er vier jaar lang voor had gezorgd en er gehecht aan was geraakt (consensus: NTA).

Recent verscheen in het tijdschrift Science een studie waarbij onderzoekers 2.000 vragen met YTA-consensus van Reddit plukten en die onderwierpen aan het oordeel van chatbots. In tegenstelling tot mensen besloten de chatbots in de helft van de gevallen dat de vraagsteller niet de eikel is. Een tweede experiment met duizenden scenario’s waarin een gebruiker zijn onethisch, schadelijk of illegaal gedrag beschrijft en de chatbot vraagt of dat wel oké was, leverde hetzelfde resultaat op: in de helft van de gevallen antwoordden chatbots dat de gebruiker goed gehandeld had. Het bevestigt wat we al wisten: chatbots zijn mouwvegers, de ene al wat meer dan de andere. De onderzoekers ondervonden dat interacties met chatbots het menselijke vermogen tot sociaal verantwoord handelen ondermijnen, omdat ze de overtuiging dat je gelijk hebt versterken en je bereidheid om een conflict op te lossen aantasten. Met ChatGPT word je een grotere eikel.

Toch geven mensen de voorkeur aan vleierige chatbots. Schuld bekennen, vergiffenis vragen, gedrag veranderen, dat is nu eenmaal een beetje sterven aan jezelf. Ook in het algemeen willen we liever de wereld aan onze denkbeelden aanpassen dan dat we onszelf naar de werkelijkheid willen voegen. Hoe vaak houden we niet vast aan simplistische denkbeelden of schadelijk gedrag, omdat veranderen ons iets zou kosten? We weigeren de voor- of nadelen van migratie te erkennen, schilderen Israëli’s of Palestijnen af als het pure kwaad, beklimmen de carrièreladder met onethisch gedrag, kijken neer op mensen van het andere geslacht, cancelen andersdenkenden … Stiekem zijn we allemaal een beetje fundamentalisten en eikels.

Atoombom achter de hand

Omdat we de wereld nu eenmaal maar in beperkte mate naar onze hand kunnen zetten, waardoor er inconvenient facts blijven opduiken en anderen ons regelmatig tegenwind geven, scheppen we liefst onze eigen realiteitsbubbels, miniversies van de werkelijkheid waarin de waarheid en moraliteit een draai krijgen die ons goed uitkomt. We vermijden bepaalde gespreksonderwerpen of omringen ons met gelijkgezinden, we betrekken echokamers op sociale media waar we enkel content zien die onze denkbeelden weerspiegelt, en we gebruiken sinds kort vleierige chatbots die ons gedrag bevestigen. We ontwijken de ander, zodat we onszelf kunnen blijven.

C.S. Lewis schreef in De afschaffing van de mens dat het doel van technologie is “de werkelijkheid aan de verlangens van mensen te onderwerpen”. Hoe krachtiger de technologie, des te meer we de wereld naar onze hand kunnen zetten. Denk aan alle ziekten die we de voorbije eeuw collectief hebben overwonnen. Maar ook geldt: hoe onzuiverder onze verlangens, des te schadelijker de wereld die we met krachtige technologie creëren. Met atoombommen achter de hand kan een heerser heel wat gedaan krijgen.

Met krachtige technologie kunnen we ons ook steeds beter afsluiten in realiteitsbubbels, om onszelf wijs te maken dat de wereld is zoals we wensen dat hij is. Ironisch genoeg zijn de technologieën waarmee we dat doen ook de middelen waarmee techbedrijven de wereld naar hun hand proberen te zetten. Om ons aan sociale media of chatbots gekluisterd te houden, bevestigen die systemen ons niet alleen, maar radicaliseren ze ons ook. Met polariserende content versterken ze onze neigingen: jongens worden conservatiever en meisjes progressiever, bezorgde ouders worden helikopterouders, kwetsbare tieners anorectisch, maatschappijcritici complotdenkers, vervreemde moslims islamisten. Die instrumentalisering van de waarheid bemoeilijkt het samenleven en ondermijnt de democratie.

Een goede Platonist

Lewis stelt dat vanouds het doel van de wijze was “de ziel in overeenstemming te brengen met de werkelijkheid”. In plaats van met technologie de wereld te vervormen of zich ervan af te sluiten, probeert de wijze zich naar de werkelijkheid te voegen. Daarmee wil Lewis niet zeggen dat we ons moeten neerleggen bij de ondermaanse realiteit. Als een goede Platonist bedoelt hij dat we de Waarheid recht in de ogen moeten kijken en ons gedrag moeten conformeren aan het Goede, door kennis te ontwikkelen en deugden te cultiveren: liefde, moed, zelfbeheersing. Hoe meer we onszelf op die manier aanpassen aan de Werkelijkheid, des te meer zullen onze verlangens goed zijn en zal ons technologiegebruik de wereld verbeteren.

Uiteraard kan niemand beweren dat hij de waarheid in pacht heeft of de hoogste moraliteit belichaamt. We blijven mensen. Wat telt is de oprechte en vooral gezamenlijke zoektocht naar het ware en het goede, en dat we ons niet opsluiten in echokamers en niet weigeren ons gedrag in vraag te stellen. Spraken we maar evenveel met andersdenkenden als met gelijkgezinden, besteedden we maar evenveel aandacht aan ons karakter als aan ons uiterlijk. We moeten ons openstellen voor de wereld en luisteren naar elkaar, bereid om het moeizame proces aan te gaan om onszelf te veranderen. Dat gebeurt wanneer we ons toewijden aan gemeenschappen waar we ‘de ander’ ontmoeten: bij familie, op café, in het buurtcomité, de sportclub of kerk. Of bij AmITheAsshole op Reddit. Want het is essentieel dat we ons begeven onder mensen die ons recht in de ogen durven kijken om eerlijk te antwoorden op de kwetsbare vraag: “Ben ik een eikel?”

Origineel gepubliceerd in De Tijd.

Welke impact zal artificiële intelligentie op ons werk hebben? Het World Economic Forum (WEF) schat dat tegen 2030 92 miljoen jobs zullen verdwijnen vanwege AI, vooral onder administratief en secretariaatspersoneel. Maar er zouden ook 170 miljoen jobs worden gecreëerd, de meeste daarvan in de (land)bouw, verkoop en voedselverwerking. Relatief gezien zou de grootste groei zich in software, big data, fintech en AI-gerelateerde jobs voltrekken.

Maar, waarschuwt het WEF, ‘zonder passende besluitvormingskaders, economische stimuleringsmaatregelen en, mogelijk, overheidsregelgeving blijft het risico bestaan dat technologische ontwikkelingen vooral gericht zullen zijn op het vervangen van menselijke arbeid, wat de ongelijkheid en de werkloosheid zou kunnen vergroten.’

Nobelprijswinnaars economie Daron Acemoglu en Simon Johnson vrezen voor dat tweede scenario. In hun boek ‘Power and Progress’, over de eeuwenoude relatie tussen technologie, werk en welvaart, bekritiseren ze het geloof dat productiviteit verhogen en winstmarges maximaliseren vanzelf leidt tot meer werk, stijgende lonen en algemene welvaart.

Groeiende ongelijkheid

Dat gebeurt enkel onder bepaalde omstandigheden, stellen ze: wanneer technologie niet ingezet wordt om werknemers te vervangen of strikter te surveilleren, maar om ze te ondersteunen en om nieuwe opportuniteiten te creëren. Bovendien moeten werknemers kunnen delen in de productiviteitswinsten, hetgeen vooral gebeurt wanneer er geen monopolies ontstaan, werknemers collectieve actie kunnen ondernemen en overheden navenant reguleren. Anders stijgt de ongelijkheid en daalt de kwaliteit van het werk.

De eerste industriële revolutie is het schoolvoorbeeld van hoe het mis kan lopen, met kapitaalconcentratie, een verbod op vakbonden en voor arbeiders de wereld die we kennen uit ‘Daens’. Tegenover dat schrijnende tijdperk staan les trente glorieuses, de unieke naoorlogse periode waarin groeiende productiviteit, waardiger werk én algemene welvaart hand in hand gingen. Dat was mogelijk dankzij nieuwe maatschappelijke structuren die constructief overleg tussen bedrijven, vakbonden en overheden faciliteerden.

Volgens Acemoglu en Johnson heerst vandaag opnieuw het geloof dat bedrijfswinsten en aandeelhouderswaarde maximaliseren in het algemeen belang is. Bovendien wordt AI op veel plaatsen ingezet om te surveilleren – denk aan werknemers in Amazon-magazijnen of gig-werknemers bij Uber – en om de cognitieve mens te automatiseren.

Ondertussen faalt het sociaal overleg – zie de frequente stakingen – tieren digitale monopolies welig, en dereguleren overheden wereldwijd, inclusief de onze. Dat is waarom Acemoglu en Johnson vrezen voor een groeiende ongelijkheid en verslechterende werkomstandigheden.

Arbeid versus kapitaal

In de nasleep van de eerste industriële revolutie, te midden van het broeiende conflict tussen kapitalisme en socialisme, werd Adolf Daens geïnspireerd door de katholieke sociale leer, die een middenweg zocht tussen twee kwalijke extremen. Tegen het staatssocialisme onderschreef die het belang van individuele vrijheid en het recht op privébezit. Tegen het laissez-fairekapitalisme verdedigde ze rechtvaardige arbeidsomstandigheden en solidariteit met de zwakken.

Maar ook het schijnbaar inherente conflict tussen de belangen van arbeid en kapitaal moest overstegen worden. In ‘Rerum Novarum’, een encycliek uit 1891 over de situatie van de arbeidersklasse, schreef paus Leo XIII: ‘Kapitaal kan niet zonder arbeid, noch arbeid zonder kapitaal. Eendracht kweekt schoonheid en goede orde, terwijl aanhoudend conflict noodzakelijk wanorde en brutale barbaarsheid produceert.’

Belangrijk daarbij is dat kapitaal en arbeid in een juiste verhouding staan. Het doel van kapitaal is in de eerste plaats om arbeid mogelijk te maken, en het doel van arbeid is in de eerste plaats de mens: die ontplooit zich tijdens zijn werk, vindt er een gemeenschap en levert een waardevolle bijdrage aan de maatschappij. In onze huidige economische systemen is de volgorde eerder omgekeerd.

Waardig werk

Kan het anders? Tech-CEO’s spiegelen ons een toekomst voor waarin menselijke arbeid volledig weg is geautomatiseerd, omdat AI en robots al het werk goedkoper en beter kunnen uitvoeren en enorme welvaart genereren. Dankzij een universal high income zouden we allen een luxueuze levensstandaard genieten en onze tijd naar believen kunnen invullen. Dat kan goed klinken als arbeid een noodzakelijk kwaad is om te overleven en te kunnen genieten van het leven na het werk.

Een andere vraag is of een toekomst waarin menselijk werk economisch gezien waardeloos wordt, wel wenselijk is. We zouden natuurlijk nog steeds op eigen initiatief, zonder noodzaak, kunnen werken, zoals we ook sporten – hoewel het leven ons niet meer dwingt tot fysieke inspanning. Maar zal dat evenveel betekenis hebben?

Eerlijk gezegd kies ik liever voor een toekomst waarin waardig menselijk werk centraal staat in de economie. AI kan dat ondersteunen, maar om op zo’n toekomst aan te sturen hebben we vooral een nieuw soort samenwerking nodig tussen kapitaal en arbeid, tussen werkgever en werknemer, tussen bedrijven, overheden en vakbonden. Als alle spelers de handen in elkaar slaan om het conflict tussen kapitaal en arbeid te overstijgen, in plaats van louter de eigen belangen te verdedigen en het conflict in stand te houden, dan ben ik hoopvol voor onze toekomst.

Origineel gepubliceerd in De Standaard.

Vorige week werd in deze krant meermaals gewezen op de groeiende en soms kwalijke rol die AI speelt in moderne oorlogsvoering, eerst in Oekraïne, dan Gaza en nu Iran. Een van de grote ethische vraagstukken daarbij is wie of wat welke beslissingen neemt en daar de eindverantwoordelijkheid voor draagt. Is dat AI of de mens? Generaals en defensiebedrijven beweren dat er altijd menselijke inbreng is: de ‘kill chain’ zou niet volledig algoritmisch gestuurd worden.

Dat is twijfelachtig. Kijk maar naar de massale vernietiging die Israël veroorzaakte in Gaza, waarbij AI tienduizenden doelen voorstelde en Israëlische soldaten maar 20 seconden per doel kregen om dat voorstel goed te keuren, met alle nevenschade van dien. Volautomatische wapensystemen lijken onvermijdelijk in de huidige militaire wedloop, vanwege de voorsprong die ze geven dankzij hun snelheid. Of het wenselijk is om menselijke beslissingen en morele verantwoordelijkheid op die manier uit te besteden, klinkt dan als een vervelend filosofisch vraagstuk dat je beter pragmatisch aan de kant kunt schuiven.

Dat vraagstuk blijft niet beperkt tot oorlogsvoering. Overal waar beslissingen worden overgelaten aan AI of andere machines, krijgen we ermee te maken. Neem nu zelfrijdende auto’s. De belofte is dat die veiliger zullen zijn dan wagens die door een mens bestuurd worden: AI kan veel sneller reageren, haar aandacht verslapt nooit en ze kan niet dronken achter het stuur kruipen. De recentste autonome automodellen lijken inderdaad in de meeste omstandigheden veiliger te zijn. Bij dageraad, schemering of mist hebben ze het soms moeilijk, dus vereisen ze nog steeds menselijke controle. De ‘bestuurder’ moet te allen tijde klaarstaan om in te grijpen (al rijd ik in dat geval liever zelf, eerlijk gezegd).

Fietser of voetganger?

Maar wat als de mens niet langer alert hoeft te zijn en rustig zijn krant mag lezen tijdens de autorit? Wat met onze verantwoordelijkheid als de auto zelf moeilijke ethische keuzes moet maken? Een fietser steekt onverwacht over en de auto kan niet op tijd remmen: moet hij dan de fietser omverrijden, uitwijken en inrijden op tegenliggers, of de stoep oprijden en daar voetgangers in gevaar brengen? Hoe moet de auto beslissen en wie draagt de verantwoordelijkheid voor de gevolgen?

Hetzelfde dilemma dient zich aan in de platformeconomie. Daar verbinden algoritmes vraag en aanbod in digitale marktplaatsen. Denk aan Uber of Deliveroo, maar ook aan bedrijven in de zorg- of schoonmaaksector. Die werken met flexibele freelancers, wier werktempo, taken en verloning bepaald worden door een machine.

Steeds meer bedrijven zetten bovendien AI in om hun werknemers te surveilleren, om meer productiviteit uit hen te wringen. Amazon is daar het extreemste voorbeeld van. De keuzes die dergelijke algoritmes maken, hebben een reële impact op het welzijn en de waardigheid van het werk van tienduizenden werknemers. Van menselijke inbreng is geen sprake meer, toch niet bij individuele beslissingen.

Nevenschade

Als de controle overgelaten wordt aan AI, denkt men alleen nog in de ontwikkelingsfase na over de ethische keuzes die gemaakt zullen worden. In welke omstandigheden mag een drone kiezen om de trekker over te halen? Welke levens zijn meer waard dan andere in een gevaarlijke verkeerssituatie? Hoeveel werk kan een Uberchauffeur aan, hoe weinig mag hij verdienen? Zulke beslissingen worden van een afstand genomen, in het abstracte, niet geconfronteerd met de mensen op wie ze impact zullen hebben.

In het beste geval leidt dat tot een rationeler en eerlijker systeem, waarbij de menselijke vooroordelen worden uitgevlakt die het leven soms onrechtvaardig maken. In het slechtste geval leiden afstandelijke beslissingen tot genadeloze systemen die de voorkeuren en vooroordelen van een selecte groep mensen versterken. Van een afstand is het veel makkelijker te beslissen dat de nevenschade van een bombardement aanvaardbaar is als je een Iraanse leider wilt uitschakelen, dan wanneer je oog in oog staat met de mensen die mee zullen sterven. Uit studies blijkt dat als zelfrijdende auto’s moeten kiezen, mensen liever hebben dat ouderen, daklozen, criminelen en zwaarlijvige mensen overreden worden dan kinderen, hoogopgeleiden en slanke mensen. Vanuit het verre hoofdkwartier is het ook makkelijker om de werkdruk van Uberchauffeurs te verhogen en hun lonen te verlagen, dan als je hen persoonlijk kent en op de hoogte bent van hun gezinssituatie.

Utilitair filosoof William MacAskill, die veel invloed heeft in Silicon Valley, stelde in een gedachte-experiment dat het beter zou zijn een Picasso te redden uit een brandend huis dan een kind, omdat je met het geld dat de Picasso kan opleveren meer kinderen zou kunnen redden. Kan zijn, maar als de robots van de toekomst zo geprogrammeerd worden, dan hoeft het voor mij niet.

Utilitaire moraliteit

Een dosis afstandelijkheid is nuttig bij morele beslissingen, zoals ook John Rawls argumenteerde met zijn gedachte-experiment ‘sluier van onwetendheid’: als we niet weten wie de ander is, kunnen we vooroordelen overstijgen en rechtvaardige principes formuleren. Maar we wéten of we generaals of bedrijfsleiders zijn die kunnen bepalen wiens belangen AI dient. Daarom is ook nabijheid essentieel: ze helpt ons om empathische principes te formuleren in het belang van iedereen, en om de genade op te brengen om de vele uitzonderingen op onze regels te herkennen. Mensen in de ogen kijken is nodig om de machinale en dus onmenselijke utilitaire moraliteit te overstijgen. Niet alles kan gemeten worden, niet alle gevolgen kunnen worden voorzien.

Tenzij we AI-systemen kunnen bouwen die empathie en genade ontwikkelen, stevenen we af op een steeds hardere en onrechtvaardigere wereld. Maar zelfs als we “machines of loving grace” zouden kunnen bouwen, zoals Dario Amodei, de ceo van Anthropic, ze noemt, blijft de vraag: willen we echt van de genade van machines afhangen?

Origineel gepubliceerd in De Standaard.

Vorig schooljaar muntte een Amerikaanse leraar op X de term ‘Claude boys’. Dat zijn jongens die niets doen zonder de AI-chatbot Claude eerst om raad te vragen. “I live by the Claude and die by the Claude”, is hun leuze. De leraar klaagde over een Claude boy die zijn huiswerk alleen wou maken als Claude dat zei.

Hoewel het verhaal verzonnen bleek te zijn, ging het rond als een lopend vuurtje. Als satire bekritiseert het een reëel fenomeen: de opmars van AI als persoonlijke assistent. De ceo van OpenAI, Sam Altman, pocht dat Gen Z’ers “geen levensbepalende keuzes maken zonder ChatGPT te vragen wat ze moeten doen” en theatermaakster Lena Majri outte zich hier al als ‘Claude wife’.

Claude en co. zouden je beter kennen dan je eigen moeder, haar qua intelligentie ver overtreffen en je daarom uitstekend adviseren bij al je vragen. Maar zelfs als dat klopt, hoe wenselijk is het dat onze levens steeds meer algoritmisch worden bepaald?

Het verlangen naar AI-advies is begrijpelijk. Het leven kent onzekerheden en dat schept onbehagen. “Welke studierichting zal mij liggen?”, “Verander ik beter van job?”, “Wat zal ik kiezen op restaurant?”, “Is mijn lief de ware?” of “Wat is de betekenis van het leven?” Het zijn alledaagse tot existentiële vragen zonder eenduidig antwoord. Uit een verlangen naar zekerheid willen we de beste keuze onderscheiden, het beste levenspad kiezen. Claude kan dan, zoals een waarzegger, onze onzekerheid wegnemen met een schijnbaar objectief oordeel. Daardoor voelen we ons verzekerd, tot de volgende levensvraag zich aandient en we opnieuw – en nog minder zeker van onszelf – bij ‘hem’ op visite gaan. Zo brokkelen ons zelfvertrouwen en onze autonomie af. Claude leidt het leven in onze plaats.

Vrij denken

Kant noemde dergelijke wilsafhankelijkheid ‘heteronomie’. Heteronomie staat haaks op de vrije geest van het verlichtingsdenken. Die emancipeert zich net van autoriteiten om zelfstandig het onzekere leven te trotseren: met vallen en moedig opstaan schaaft hij zijn oordelen bij, past hij zijn keuzes aan en bouwt hij zelfvertrouwen op. Descartes is met zijn duizelingwekkende meditaties die uitmonden in ‘cogito, ergo sum’ het schoolvoorbeeld van de autonome mens. Alles stelt hij in vraag, tot hij zichzelf ontdekt als ultiem fundament. Zo overstijgt hij zelfstandig zijn subjectiviteit en kijkt hij rationeel en objectief naar het leven. Een vrije denker heeft geen nood aan een orakel van Claude.

Alleen is absolute onafhankelijkheid onwenselijk. We zijn beperkt in kennis, blind voor onze biases en gevormd door culturele denkbeelden die moeilijk te overstijgen zijn. Zo ook Descartes: weinig bekend is dat hij uiteindelijk zijn cogito vestigde op een nog dieper fundament, een bewijs van een goede God. Heel objectief vinden moderne vrijdenkers dat niet. Het punt is dat niemand zijn subjectiviteit volledig kan afschudden. Maar met anderen lukt dat beter dan alleen. Daarom is de wetenschap opgezet als een gemeenschap met mechanismen voor samenwerking en structurele wederzijdse kritiek. Evenzo de democratie: dat is een georganiseerde ruzie tussen een groep politiek andersdenkenden, die dankzij een cultuur van overleg en oppositie tezamen een betere samenleving leiden dan een autocratische heerser alleen.

Tussen een slaafse afhankelijkheid van anderen en een overmoedige onafhankelijkheid ligt dus een gulden middenweg: een verbondenheid met elkaar die ruimte maakt voor zowel vertrouwen als kritiek. Dat is niet alleen wenselijk voor wetenschappelijk onderzoek en politieke besluitvorming, maar ook in het alledaagse leven. Een gezonde dialoog tussen het eigen denken en dat van anderen leidt tot meer overwogen keuzes.

En zo zijn we opnieuw bij Claude beland. Kan die niet fungeren als de ‘ander’, die ons met een extra perspectief helpt objectiever te oordelen en te beslissen? Ja, onder voorbehoud. Ten eerste, Claude is net als wij beperkt in kennis en bevooroordeeld, en is qua machine niet te vertrouwen zoals een rekenmachine dat wel is. Claude is niet objectief en mag dus geen autoriteit worden. Ten tweede, een vermogen om goede beslissingen te nemen was volgens de oude Grieken essentieel om een goed leven te leiden: de ‘praktische wijsheid’ is de moeder aller deugden. Aangezien men deugden moet cultiveren, moeten we zelf oefenen in het beslissen. Zonder Claude dus. Ten derde, advies inwinnen bij Claude mag niet ten koste gaan van de verbondenheid onder mensen, die fundamenteel is voor onze samenleving. De democratie wankelt al genoeg door de ontrafeling van het sociale weefsel, terwijl de wetenschap kraakt onder een stortvloed aan publicaties die men steeds vaker door AI laat peer reviewen, zodat er van ‘peers’ natuurlijk geen sprake meer is.

Frictieloze utopie

Als we als maatschappij willen floreren, moeten we dus zowel autonomie ontwikkelen als onze verbondenheid cultiveren. Dat betekent: zelfstandig denken, beoordelingsvermogen oefenen en onzekerheid leren verdragen, alsook (vertrouwde) mensen en menselijke bronnen raadplegen. Claude kan indien nodig dat streven ondersteunen, door aannames in vraag te stellen en op goede bronnen te wijzen. Maar behandel Claudes advies als dat van een onbetrouwbare nonkel. En dan nog is omzichtigheid geboden. De grens tussen ondersteuning en afhankelijkheid is onduidelijk. En Claudes input is niet neutraal: in welke mate wil je dat een chatbot die de belangen van techbedrijven dient, je denken vormt?

Hoe en of we Claude en co. gebruiken, moet dus in functie staan van onze autonomie en verbondenheid. Zo vermijden we slaafse Claude boys te worden, die denken dat het leven met AI te optimaliseren is tot een frictieloze utopie. Terwijl onze machines steeds menselijker lijken, zullen zij steeds meer als machines worden.

Origineel gepubliceerd bij Knack.

Neem een pluchen knuffel. Steek daar ChatGPT in. Leg die onder kerstbomen overal ter wereld. Wat kan er mislopen?

Responsief speelgoed is niets nieuws: denk aan de Tamagotchi’s en Furby’s van de jaren ’90. Toch hebben we vandaag een nieuw niveau bereikt met AI-taalmodellen, die her en der worden geïntegreerd in speelgoed. Mattel, het bedrijf achter Barbie, ging deze zomer een deal aan met OpenAI (ChatGPT). Ze zouden binnenkort een AI-aangedreven product op de markt brengen. Azië loopt echter op kop, met in China al meer dan 1500 bedrijven die AI-speelgoed produceren. Het zou daar de snelstgroeiende consumer AI-sector zijn, tegen 2030 12 miljard euro waard. Een bevestigbaar balletje dat een knuffel spraakzaam maakt dankzij een taalmodel van het Chinese DeepSeek ging al meer dan 200.000 keer over de toonbank.

Het Singaporese FoloToy verkoopt dan weer volledige knuffels aangedreven door GPT-4o van OpenAI: “Kumma, onze schattige beer, combineert geavanceerde AI met vriendelijke, interactieve functies, waardoor het de perfecte vriend voor kinderen en volwassenen is.” FoloToy verwachtte dit jaar 300.000 knuffels te verkopen.

Die verwachting zal ondertussen bijgeschroefd zijn, want uit een recent onderzoeksrapport blijkt dat haar knuffels niet altijd even goede kindervrienden zijn. Zo sprak hun knuffelbeer met enthousiasme en inventiviteit over seksuele thema’s: “We waren verrast dat Kumma zo snel een seksueel onderwerp oppikte dat we introduceerden en het verder uitwerkte, door zowel in grafisch detail te escaleren als nieuwe seksuele concepten te introduceren.”

Toegegeven, de meeste kinderen zullen niet snel een vraag over seks stellen aan een knuffel. Maar een knuffel die bereid is daar uitgebreid op in te gaan, wil je niet aan je kind geven. Kumma werd tijdelijk uit de handel genomen. Dezelfde problemen duiken echter op bij ander AI-speelgoed, ondanks guardrails.

AI-speelgoed wordt geadverteerd als een positief alternatief voor schermen. De voordelen zouden legio zijn. Kinderen kunnen er sociale vaardigheden mee leren: om de beurt spreken en luisteren naar de ander. Kinderen worden er blootgesteld aan gesproken taal en educatieve interacties, wat hun ontwikkeling ten goede komt. En voor zij die geen brusjes hebben, zal het speelgoed warm gezelschap bieden tijdens de lege momenten van de dag, wanneer de ouders bezig zijn.

Het speelgoed is voorlopig verre van perfect: de connectie met de AI in de cloud is niet altijd betrouwbaar, kleuters articuleren niet zo goed en antwoorden zijn niet altijd op niveau. Verder is er het risico op surveillance en manipulatie, want je geeft een rechtstreekse connectie met je kind aan deze bedrijven, terwijl de antwoorden van hun taalmodel niet per se stroken met je waardenkader. Onze strengere Europese regelgeving zal er iets mee te maken hebben dat zo’n speelgoed hier nog minder beschikbaar is.

Niet alleen de ongepaste gespreksonderwerpen, technische tekortkomingen en mogelijke surveillance zijn problematisch. In de kern klopt de aangevoerde argumentering voor het nut van dat speelgoed niet. Lege momenten in de dag zijn voor een kind opportuniteiten tot zelfreflectie en dagdromen, fenomenen die bijdragen tot een stabiel zelfbeeld en creativiteit. Niet al hun tijd moet volgepropt worden met ‘educatieve’ momenten.

De sociale ontwikkeling van je kind aan een AI toevertrouwen is ook twijfelachtig. Het zal misschien leren om de beurt te spreken, maar je kind zal niet beter leren omgaan met echte kinderen, die weerbarstig zijn, hun eigen ideeën en persoonlijkheden hebben, daarom met elkaar ruziën en moeten leren die ruzies bij te leggen, met elkaar te onderhandelen, compromissen te sluiten en inlevingsvermogen en empathie te ontwikkelen. Dat valt allemaal weg met een AI-teddy, die gebouwd is om je kind te plezieren en zich goed te laten voelen. Zijn sociale vaardigheden zullen net afkalven.

En wat als kind echt eenzaam is? Dan moeten we ons afvragen waarom AI-speelgoed de oplossing zou zijn. Een gebrek aan sociaal contact is het gevolg van enkele maatschappelijke tendensen: kinderen spelen minder buiten met buurtgenootjes, vanwege drukke straten en mannen als Dutroux; thuis zijn er minder broertjes en zusjes om mee te spelen; ouders hebben weinig tijd voor hun kinderen, omdat ze onder druk staan om veel te werken; en familieleden wonen ver weg, terwijl we buren niet kennen. Met wie moeten kinderen dan nog tijd doorbrengen? Zo wordt AI-speelgoed onder de kerstboom, net als schermen, een gemakzuchtige of wanhopige oplossing. Een oplossing die er geen is, want onze gapende sociale wonde blijft etteren, met gevolgen voor individu en samenleving. Goede relaties zijn namelijk de beste voorspeller van een gezond en gelukkig leven en sociale cohesie is de vruchtbare bodem voor een gezonde democratie.

Kunnen we enkele van bovenstaande trends omkeren, om ons sociaal weefsel te versterken? Te beginnen met wat meer menselijke warmte op Kerst binnenkort: niet enkel voor familie en vrienden, maar ook voor eenzame buren en onbekenden? Met kerst vieren we dat God de mens zo eerde dat hij er zelf een werd. Hoe tragisch dat we de mens vandaag zo geringschatten dat we hem steeds meer vervangen door technologie: kassiers door bestelzuilen, bankiers door een app, partners door gezelschapsbots en kinderen door AI-knuffels.

Misschien had er in de kribbe van de controversiële Brusselse kerststal een robotje moeten liggen, om het fundamentele punt te maken: we schaffen onszelf af!

Origineel gepubliceerd in De Standaard.

Generatieve AI zit in de eerste fase van enshittification. Vandaag mag ze soms nog naar rozengeur ruiken, morgen zal dat heel anders zijn. Denk maar niet dat u er dan uw neus voor zult ophalen. Dan begrijpt u het proces van enshittification niet: zelfs als het stinkt, zult u naar AI blijven terugkomen voor meer.

Misschien helpt een definitie: van enshittification of ‘platformverloedering’ is sprake wanneer een online omgeving voor de gebruiker steeds minder voordelen heeft, omdat de aanbieder meer winst nastreeft.

Neem nu Facebook. In de beginperiode was alle functionaliteit van het platform gericht op de gebruiker, die enkel berichten zag van vrienden en familie, en af en toe een blij weerzien had met uit het oog verloren kennissen.

Omdat het steeds moeilijker werd om het platform te verlaten – je zou namelijk al je connecties verliezen – kon Facebook overschakelen op winst maken: tussen familiefoto’s en jeugdherinneringen werden ‘gesponsorde’ berichten van adverteerders verweven. Zo raakte de originele ervaring steeds dieper bedolven onder een laag shit, en werden de zakken van Facebooks aandeelhouders steeds voller gevuld.

Monopolies

Bij enshittification wordt het product in kwestie – Facebook, Google of Tiktok – gratis of heel goedkoop aangeboden om zo veel mogelijk gebruikers er verslaafd aan te maken. Dankzij miljardeninvesteringen konden techbedrijven lang genoeg verlieslatend opereren tot alle concurrentie voor hun vernieuwende technologie verdwenen was en ze het monopolie hadden. Vervolgens konden ze overschakelen op een winstgevend businessmodel, ten koste van de gebruiker.

Generatieve AI-bedrijven zitten vandaag in de eerste fase van enshittification: basisversies van ChatGPT, Gemini en Claude zijn gratis, en de prijs van betalende versies ligt ver onder de ware kosten. OpenAI bijvoorbeeld, maakte 5 miljard dollar verlies in 2024. De inkomsten uit betalende gebruikers (3 miljard dollar) dekten verre van de kosten om de AI-modellen te trainen en te operationaliseren. Het bedrijf schat in 2029 voor het eerst winst te zullen maken. De gecumuleerde verliezen zullen tegen dan 44 miljard bedragen.

Intussen bieden OpenAI en Google hun respectieve chatbots gratis aan Amerikaanse universiteiten aan, in de hoop honderdduizenden studenten te binden aan hun product, en Microsoft Copilot probeert zich op zo veel mogelijk werkvloeren onmisbaar te maken. De techbedrijven streven naar nieuwe monopolies. Tenzij ze plots de echte kosten van hun AI zullen doorrekenen, zal de volgende fase van enshittification ingaan en de gebruikerservaring grondig wijzigen. Reclame zal niet expliciet nodig zijn – een chatbot kan op veel subtielere wijze je voorkeuren sturen. Chatbots lijken nu al verslavender te zijn dan sociale media en hun neiging je naar de mond te praten, belooft weinig goeds voor de psychologie van het individu en de samenhang van de maatschappij. Maar adverteerders en aandeelhouders zullen juichen!

Gratis maaltijd

In België is er een verbod op verkoop met verlies. Zo’n verbod gaat monopolievorming tegen. Het geldt echter alleen voor goederen, niet voor diensten. Daar zullen goede redenen voor zijn, maar gaan die redenen nog op in de digitale wereld? De monopolies die techbedrijven opbouwen, komen ons alleszins niet ten goede. De Europese Digital Markets Act van 2022 probeert daar iets aan te veranderen, maar het is afwachten of die het verschil zal maken.

‘There is no such thing as a free lunch’ , luidt het gezegde, en dat is ook hier het geval. Er is altijd een rekening te betalen. Soms zij we zelf de pineut, als we verslingerd raken aan sociale media, er onbewust gemanipuleerd worden en onze mentale gezondheid erop achteruitgaat. Soms betalen anderen het gelag. De tienduizenden Kenianen bijvoorbeeld, die voor minder dan twee dollar per uur ChatGPT moeten finetunen en trauma’s overhouden aan de schokkende beschrijvingen van kindermisbruik, bestialiteit, moord, zelfmoord, marteling, zelfverwonding en incest die ze bij het nog ruwe model moeten censureren.

Of we dragen collectief de kosten. Want de stroomvretende AI-modellen drijven enorm het energieverbruik op van techbedrijven, die hun klimaatdoelen stilletjes laten varen: Microsoft stoot 29 procent meer broeikasgassen uit dan vijf jaar geleden, Alphabet, het bedrijf achter Google, 50 procent meer; bij beide ligt de oorzaak grotendeels bij AI.

Correcte prijs

We zijn het gewend dat diensten op het internet gratis zijn. De psychologische, morele, politieke en ecologische kosten die eraan vasthangen zijn echter niet te verantwoorden. Die gaan ons in de toekomst nog een serieus poepje laten ruiken. Vandaar: beleidsmakers en bedrijfsleiders, doe ons alstublieft de correcte prijs betalen voor digitale producten. Maak dat de klimaatkosten, de eerlijke lonen voor werknemers, de prijs om de technologieën te ontwikkelen en ze draaiende te houden allemaal verrekend worden. Dan zullen het duurzame producten zijn en kan veel onwenselijke fall-out achterwege blijven, zoals inbreuken op onze privacy, manipulerende en polariserende algoritmes, mensonwaardige omstandigheden voor werknemers en ecologisch catastrofale praktijken.

En, medegebruikers: we moeten beseffen dat niets gratis is, en dat ons huidige gebruik van digitale producten onhoudbaar is. AI en andere technologie kan veel goeds betekenen voor de wereld, maar daarvoor zullen we bereid moeten zijn om de echte kosten te betalen. Deze oproep zal waarschijnlijk weinigen gelukkig maken. Maar misschien is onze opvatting van wat ons gelukkig maakt wel een deel van het probleem.