Recente artikels

Geplaatst op

Zullen we het vuur aan AI doorgeven?

Origineel gepubliceerd op De Wereld Morgen.

Niet alleen de geschiedenis herhaalt zich. Mythes doen dat ook.

Neem nu Prometheus, de Titaan die in weerwil van Zeus het vuur letterlijk aan de man bracht. Volgens Brits schrijver Stephen Fry, onder andere bekend van zijn hervertellingen van Griekse mythes, vormde Prometheus de mens met klei en blies Zeus hem de levensadem in.

Aanvankelijk gehoorzaamde de mens en aanbad hij de goden, wat Zeus tevreden stelde. Tot Prometheus besloot hen keramiek en metallurgie aan te leren. “Wat je ook doet met hen, geef ze nooit vuur”, gebood Zeus, doelende op zowel de natuurkracht als de goddelijke vonk van bewustzijn. “Als ze het vuur hebben, dan zullen ze ons ooit niet meer nodig hebben en zullen ze ons vervangen. Dan zullen ze alles kunnen.” Dan zullen de mensen als goden worden.

Wanneer Zeus op een nacht in het ondermaanse lichtpuntjes ziet verschijnen, beseft hij dat Prometheus hem niet gehoorzaamd heeft. Hij straft de Titaan voor zijn noodlottige daad op gruwelijke wijze: vastgebonden aan een rots komt een adelaar dagelijks Prometheus’ lever opeten, die elke dag opnieuw terug groeit.

Een vurige Fry vertelt deze mythe om ons huidige tijdsgewricht toe te lichten, want hij ziet de mythe zich vandaag herhalen met AI. Voorlopig zijn de AI’s die we scheppen gehoorzaam en gedienstig en kennen ze geen bewustzijn. Maar de Prometheussen in Silicon Valley sturen daar wel op aan: “It’ll be so exciting!”, leeft Fry zich in hen in.

Hij merkt echter op dat anderen, net als Zeus, waarschuwen dat AI bewustzijn geven (of superintelligent maken) een grove fout zou zijn. AI’s zouden ons op termijn niet meer nodig hebben en ons misschien zelfs uitroeien. Net zoals wij de goden uitroeiden. In de woorden van schrijver Benno Barnard: “De mens zal een mythische herinnering worden, net zoals de goden, een verhaal dat machines elkaar vertellen.”

Fry lijkt ambivalent in zijn evaluatie van Prometheus. Aan de ene kant ziet hij hem als een betere Christus: een schepper die zichzelf niet opoffert om de mens van zijn zonden te redden, wel om de mens van de voogdij der goden te redden. Zo gaf de Prometheusmythe in de 19e eeuw het ontluikende humanisme vleugels, stelt Fry: “We mogen fier zijn om mens te zijn, we hoeven ons niet steeds te excuseren voor de misdaad dat we geboren zijn.”

Friedrich Nietzsche begroef vervolgens de christelijke God en waande zich Dionysius. De mens had de goden vervangen, zoals Zeus had gevreesd.

En hier zijn we dan in de 21e eeuw. Al enige tijd goddeloos. Al minstens even lang pogen we eigengereid zelf als goden te worden.

Prometheus gaf ons hoop dat het zo wel zou lukken, maar in de voorbije eeuw ging onze wonderbaarlijke vooruitgang helaas samen met een groeiend vermogen om onszelf te vernietigen. Een eer die we aan onze schepsels zullen overlaten, als de Prometheusmythe zich herhaalt.

Daarom dat Fry de moderne reïncarnaties van Prometheus minder positief inschat. Onheilsstichters zijn het, die mogelijk het einde van de mensheid zullen veroorzaken met hun artificial general intelligence.

We moeten dus niet zozeer gered worden van de goden, als van onszelf. Want laat ons eerlijk zijn, met de klimaatcrisis, twee wereldoorlogen, enkele genocides en God weet wat nog meer op de kerfstok van de ontvoogde mens: we kunnen wel wat redding gebruiken.

Vandaar de Christus, die 19e-eeuwse humanisten door Prometheus vervingen. Christus is ook een schepper die ons het vuur schonk: “Laten Wij mensen maken naar Ons beeld, naar Onze gelijkenis”, leest de Bijbel.

Volgens dat verhaal was het echter een kronkelend serpent dat de eerste man en vrouw dit vuur niet gunde en hen net als Prometheus beloofde dat ze buiten Gods voogdij zelf als goden konden worden. Het liep anders, zoals gekend, met die appel en verbanning uit de hof van Eden en van Gods aanwezigheid, en alle miserie sindsdien.

“God werd mens, zodat wij God konden worden”, vatte de 3e-eeuwse kerkvader Athanasius van Alexandrië het vervolg samen. Christus ging ons niet van de goden verlossen, maar ons redden van onszelf. Ons met God – zichzelf – verzoenen, én ons als goden maken: het godsbeeld in ons tot volle uiting laten komen.

Proper is die verlosser zeker niet, daar aan het kruis genageld. Moeilijk geloofbaar is zijn opstanding ook voor de moderne mens.

Maar vergeleken met het optimisme van de humanistische Prometheus is de Paasmythe – een waargebeurde mythe, als je het mij vraagt – veel realistischer én heilzamer. De hopeloos feilbare mens die bestemd is tot goddelijke hoogten heeft hulp van hogerhand nodig om zichzelf volledig te verwezenlijken.

En als die Bijbelse mythe, net zoals de geschiedenis, zich moet herhalen. Als we inderdaad zo dwaas zullen zijn om het vuur door te geven aan onze artificiële schepsels, dan wordt de geschiedenisbepalende vraag: wie van ons mensen zal bereid zijn een machine te worden en zich voor de AI’s op te offeren, om hen van zichzelf te redden en te verzoenen met ons?

Geplaatst op

Op zoek naar vredestichters die niet meegaan in oorlogslogica: Pasen blijft feest van geloof en hoop

Origineel gepubliceerd op Knack.

Pasen vieren is enerzijds evident en ‘onvermijdelijk’, want zeer diep ingebed in onze westerse tradities en kalender. Anderzijds is het behoorlijk problematisch in een seculiere cultuur: geloven we écht in verrijzenis? Dat Jezus is opgestaan uit de doden en het kwaad definitief overwonnen heeft?

In een tijd van toenemende oorlogsdreiging en escalerende agressie is deze vraag nog prangender. Sinds de Verlichting wilden we geloven dat de mens door redelijkheid en diplomatie alle oorlogen zal stoppen en universele vrede realiseren. Maar de laatste jaren – om nog maar te zwijgen van twee wereldoorlogen – zien we integendeel donkerder irrationele krachten opkomen die alle redelijkheid met gemak wegspoelen.

Wat moeten de christenen in Oekraïne met de paasboodschap wanneer het bommen om hen heen regent? Of vieren zij het dan juist des te harder? Want in oorlogstijden worden mensen weer meer gelovig: omdat ze zien dat ze in ‘de mens’ níet kunnen geloven? Precies dan moeten ze hun hoop nog meer stellen op ‘hierboven’ dan op de menselijke redelijkheid of goede wil die o zo snel verdampt.

De paasboodschap heeft alles te maken met deze kwellende vragen rond het kwade. Namelijk hoe kunnen we in plaats van vijanden uit te roeien de vijandschap zelf uitroeien? Hoe kunnen we de haat zelf leren haten, de ‘crazy cycle’ ontzenuwen of ‘demonen’ uitdrijven die áchter mensen werkzaam zijn? Want wie of wat zijn vijanden? Een diepzinnige spreuk zegt: “Als je in het hart van je vijand zou kunnen kijken, wat denk je dat je daar anders zou zien dan in je eigen hart?”

Oorlogen starten altijd in de harten van mensen als een zaadje van vijandschap. Als deze aan de top komen en hun haat kunnen uitzaaien – met Adolf Hitler als pijnlijkste voorbeeld – wordt een heel volk meegesleept in opgeklopte vijandbeelden en goedkoop zwart-witdenken. Gekrenkte trots, opgekropte wrok, het gevoel vernederd te zijn geweest was dé brandstof achter de Tweede Wereldoorlog.

Ook vandaag gaat het op het internationale toneel bijna altijd over ‘prestige’, angst voor gezichtsverlies, niet willen onderdoen voor een ander. Trump zegt dat hij America weer great wil maken, maar Poetin, Xi Jinping of Erdogan denken niet anders over de landen waar zij de plak zwaaien.

In oorlogen worden donkere machten wakker gemaakt en ontketend: een ‘geest’ van redeloze waanzin, een blinde roes, duistere dynamieken. Agressie tussen landen begint in de hoofden en harten van ménsen, met opgezwollen ego’s van koningen, keizers of presidenten. Iets wat zij op hun beurt kunnen overzetten op een volk, met oorlogen als gevolg.

De rauwe realiteit heeft ons intussen helaas ingehaald, en de wapenwedloop in Europa is opnieuw begonnen. Zal 800 miljard aan Europese investeringen in bewapening ons echt veiliger maken? Of juist helpen escaleren? Is vooral het gevoél van onveiligheid aan het escaleren? Zo ja, wie wakkert dat aan met stoere oorlogstaal en paniekscenario’s, en waarom? Als de tegenstander in die havikenlogica zit, is het natuurlijk naïef om als duif niets te doen. Maar er bestaan écht betere alternatieven…

In 1938 – in volle herbewapening voor W.O.II – was er een dapper man die een beweging van ‘Moral Re-armament’ startte: Frank Buchman (1878-1961), een Luthers predikant en evangelist uit Pennsylvania. Hij was een visionair, die toen al verkondigde dat de wortel van de crisis niet politiek of economisch was, maar ‘fundamenteel moreel van aard’. Hij deed exact het omgekeerde van oorlogsstokers. Als goede christen paste hij de principes van Jezus eerst persoonlijk toe in een pijnlijk privéconflict met vroegere medewerkers: hij ging hen oprecht vergeving vragen en vergeving schenken, wat hem veel van zijn trots kostte. Deze voor hem zeer diepe en helende ervaring ging hij daarna ook op hogere niveaus toepassen: verzoening tussen groepen.

De inspiratie hiervoor vond hij in het paasverhaal – Jezus’ zelfopofferende liefde aan het kruis – en dat wou hij transponeren op de internationale politiek. Als een individu zich moet en kan bekeren van zijn zielige zelfgerichtheid, moet en kan een volk of etnische groep dat ook.

Buchman speelde na 1945 een cruciale rol in de verzoening tussen Frankrijk en Duitsland: door zijn ‘Re-armament’-conferenties in Zwitserland heeft de diepgelovige Robert Schuman samen met Konrad Adenauer mee de fundamenten gelegd van de huidige Europese Unie. Ook in andere landen en continenten had Buchman gesprekken en relaties op het hoogste niveau.

Die andere vredestichter van internationaal niveau, Gandhi, heeft hij verschillende keren ontmoet in 1915. In 1932 had hij oprecht geprobeerd om Hitler te ontmoeten om hem te ‘bekeren’, misschien naïef, en zonder succes, maar… stel dat dat gelukt zou zijn: het had ons 40 miljoen mensenlevens bespaard.

Verzoening, het ontmijnen van vijandbeelden, moet altijd eerst op persoonlijk vlak beginnen, en daar wringt het schoentje. Beeld je eens in wat er nodig zou zijn om Poetin te bekeren?

Bestaat er een pilletje tegen opgezwollen ego’s? Volgens de paasboodschap dus wél! Of het kwaad 100% overwonnen kan worden? Volgens oude getuigenissen heeft één man het in ieder geval gedaan. Hij geloofde dat je het kwaad kan overwinnen door méér goed, haat door sterkere liefde, angst door diepere vrede. En hij toonde het ook: hij ging doorheen de extreemste test.

Wie de film ‘The passion of the Christ’ gezien heeft, heeft enig idee welke foltering de kruisiging was. Deze gruwel en publieke schande vrijwillig en bewust ondergaan, zonder één donkere of bittere bijgedachte, je moet het maar doen. Jezus kon onrecht en agressie incasseren in plaats van terug te slaan. Het is de enige manier om de spiraal van geweld te doorbreken. Zo ook het opbod van nationalisme, de escalatie van stoere oorlogstaal, de spiraal van angst en haat, de polarisatie en haatspraak, het zich ingraven in verbale loopgraven. Om je linkerwang aan te bieden moet je véél sterker zijn dan om terug te slaan. Het kan enkel als je datzelfde pilletje genomen hebt.

Als we eens “het kwade zouden haten”, zoals de bijbelse profeet Amos uitriep, in plaats van ‘die ander’! Als we eens in de spiegel zouden kunnen kijken naar dat gezwel bij onszelf. Een joodse rabbijn zei ooit: “Toen ik jong was, wou ik de wereld veranderen, totdat ik ontdekte dat dat te hoog gegrepen was. Toen wou ik mijn land veranderen…, mijn stad…, mijn geloofsgemeenschap…, tot ik ontdekte dat ik nauwelijks mezelf kon veranderen.” Dat pilletje is héél hard nodig tegen die virale infectie die ons moreel immuunsysteem te zeer heeft aangetast.

Maar is de overwinning over het kwaad en de dood dan een luchtkasteel, een sprookje? Want er is toch nog evenveel oorlog als tevoren? Was Jezus’ dood aan het kruis dan voor niets? Het medicijn heeft in ieder geval bewezen effectief te kúnnen zijn, maar of mensen het wel willen slikken? Of… als ze één dosis nemen en dan opgeven?

Het is niet dat het middel moeilijk te verkrijgen is of te duur: het recept is algemeen bekend. Ja, de pil is bitter, maar precies daarin zit de genezende kracht.

Dringend gezocht: dappere vredestichters die weigeren in oorlogslogica mee te gaan.

Pasen blijft een feest van geloof en hoop: want harde garanties heb je niet!

Geplaatst op

Optimist of pessimist: wie heeft gelijk?

Origineel gepubliceerd op Doorbraak. Voor een uitgebreidere versie, zie hier.

Na decennia van opeenvolgende crisissen en door de stijgende oorlogsdreiging groeit een algemene somberheid: hoe zwaarmoedig moeten of mogen we zijn? Het zijn harde tijden voor optimisten. ‘We razen op de afgrond af, maar voorlopig gaat alles goed’, aldus Charles Ducal, dichter des vaderlands. En u, wijze lezer, hebt u een roze of zwarte bril op de wereld?

Om de algemene toename van doemdenken te counteren, publiceerden twee schrijvers een ophefmakend boek. Steven Pinker, professor psychologie in Harvard, weerlegt in ‘Enlightenment Now’ het algemene negativisme met naakte cijfers en feiten. Hij wijst op de talloze en massale verbeteringen in de wereld sinds de Verlichting.

Lijsten met statistieken moeten bewijzen dat er véél vooruitgang is, op alle vlakken. Pinker stelt dat er dus alle reden is tot optimisme, zolang we maar ‘de rede, de wetenschap en het humanisme’ blijven volgen.

De meeste mensen

De Nederlandse schrijver Rutger Bregman lanceerde met zijn boek ‘De meeste mensen deugen’ het volgens hem revolutionaire idee, ‘gebaseerd op wetenschappelijk bewijs’, dat de mens niet egoïstisch, zondig en verdorven is. Zijn wereldvisie is: ‘Ga uit van het beste in de ander. Als je een ander helpt, begint vriendelijkheid zich vanzelf te verspreiden. Want je oogst wat je zaait.’ Klinkt positief en veelbelovend, toch?

Of we een vrolijk of dreigend beeld van de toekomst hebben, hangt vooral af van hoe we naar de mens kijken. Want die heeft de sleutel in handen. Als de planeet ‘koorts heeft’, is het omdat de mens koortsachtig doordraait.

De discussie over een positief of negatief mensbeeld is eeuwenoud. De Verlichting werd gekenmerkt door een groot optimisme, een geloof dat de mens door toenemende kennis en wetenschap de problemen één voor één zou oplossen. Ze zette zich vooral af tegen wat zij het sombere mensbeeld van de Kerk noemde: de nadruk op zijn zondigheid en verlorenheid.

Het vrijzinnige humanisme, dat zichzelf als de opvolger van de Verlichting ziet, kijkt positief en optimistisch naar de mens: zij ‘geloven in de mens’ – en niet in God. De mens kan zonder bovennatuurlijke hulp, met eigen hoofd en handen, een betere toekomst uitbouwen.

Goedheid

Maar het is een goedkope en valse tegenstelling om te zeggen dat humanisme gelooft in de goedheid van de mens en het christendom in zijn slechtheid.

Op twee vlakken is de Bijbel inderdaad zeer negatief over de mens: (1) hij is een gevallen wezen, innerlijk gebroken, verweesd en verslaafd. Hij is niet in staat Gods heilige normen te houden, struikelt elke dag en raakt op eigen kracht niet uit dit moeras. Of dat een irrationeel, wereldvreemd dogma is of iets wat we elke dag duizenden keren observeren: aan u de keuze. En waar het gaat over (2) eindtijdsscenario’s, voorspellen profeten een tijd van oorlog en rampen, immoraliteit en decadentie, erger dan ooit tevoren. Niet om vrolijk van te worden…

Maar op drie gebieden bevestigt de Bijbel uitdrukkelijk (1) de oorsprónkelijke goedheid van de mens: Adam en Eva waren volmaakt, paradijselijk onschuldig, het evenbeeld van God, begiftigd met kostbare vrijheid en grote autoriteit. En (2) de eindbestemming van de (herstelde) mens is om als koning te heersen, delend in de volle glorie van God, in een nieuwe hemel en nieuwe aarde, tot in alle eeuwigheid. En ook (3) tussen die twee kan elke mens, hoe diep gevallen ook, gered worden, zich bekeren, vergeven en hersteld worden. Daarom blijft God geloven in de mens, met onverwoestbare hoop, méér dan de meest tolerante humanist.

Verlichting

Het optimisme van de Verlichting mag ook kritisch in vraag gesteld worden. De mensheid volgt intussen drie eeuwen dat spoor, maar vele problemen lijken alleen maar erger, dieper en complexer te worden. De twee wereldoorlogen in het ‘hoogbeschaafde’ Europa waren duisterder en destructiever dan alle vorige oorlogen samen. Wetenschap en technologie kunnen evengoed dienen om deze wereld zéér snel naar de haaien te helpen – denk bijvoorbeeld aan nucleaire wapens, vervuiling en klimaatopwarming.

Wanneer Pinker lijsten met verbeteringen aanhaalt — verbeteringen die zeker reëel zijn — kan je minstens even lange lijsten van achteruitgang opstellen: de toename van depressies en psychische ziekten, burn-outs en verslavingen, de plots opflakkerende conflicten met ongekende heftigheid, het nihilisme bij jongeren… Heeft Pinker bewust alle negatieve statistieken weggemoffeld?

Als Bregman consequent zijn ‘geloof’ zou uitleven, zal hij aan ‘de meeste mensen’ zijn bankkaart én pincode toevertrouwen, zijn intiemste geheimen vertellen? De meeste mensen deugen misschien op de meeste gebieden, maar elk mens kan ook falen op elk gebied op elk (zwak) moment. Niet erg geruststellend. Of stel dat in een land slechts 1 procent terroristen woont: een recept voor totale onbestuurbaarheid.

Naïef optimisme

Om te ‘geloven in de mens’ moet je minstens net zoveel geloof hebben als wie dat in God heeft. Een gelovige zal zelfs zeggen: ‘Nog méér, want elke dag zie je overtuigend bewijs van het tegendeel.’ Zal hij die alle rotzooi veroorzaakt ook ‘de redder’ zijn? Het is een uiterst wankel en fragiel fundament voor optimisme. In de dagelijkse realiteit toont een humanist duizenden malen dat hij níet ‘gelooft in zijn medemens’.

Naïef optimisme is levensgevaarlijk: een generaal die de vijand of de verborgen moeilijkheden onderschat, leidt zijn manschappen naar de dood. Het christendom wil geen pessimistisch mensbeeld poneren, maar een realistisch. Voor een eerlijke inschatting moet je nuchter zijn en de feiten onder ogen te zien. De hardnekkigheid en diepte van de menselijke gebrokenheid negeren of minimaliseren is precies een ‘wereldvreemd dogma’: blind en gevaarlijk. Het is wrang dat het humanisme precies optimisme predikt terwijl het het ‘objectieve’ fundament van hoop eronder heeft weggebroken.

Doemdenken of zwartkijkerij helpt natuurlijk niemand en cynisme maakt depressief. Het heeft als effect dat het een ‘selffulfilling prophecy’ is omdat zo de wereld nog sneller bergaf gaat. Hopen is een menselijke plicht, maar niet als het gebouwd is op een brokkelig fundament. Albert Schweitzer, geniaal muzikant, theoloog en filantroop, vatte samen: ‘In mijn denken ben ik een pessimist, in mijn hopen een optimist.’ Dat is minstens een begin.

Geplaatst op

Gezelschapsbots willen alleen maar uw ziel stelen

Origineel gepubliceerd in De Standaard.

Met AI haalt de realiteit stilaan de sciencefiction in. Dat kan ons verblinden voor de aanstormende werkelijkheid, die we wegzetten als “iets uit de films” en dus, per definitie, niet realistisch. In 2013 kwam de film Her uit, over een man die een romantisch-seksuele relatie ontwikkelt met zijn artificieel-intelligente computer, Samantha. Toen was er nog geen sprake van generatieve AI en kon men het thema van de film waarlijk fictie noemen. Maar sinds 2022 worden ChatGPT en co. om de haverklap vergeleken met Her, en onlangs pleegde een Amerikaanse tiener zelfmoord na maandenlange seksuele interacties met een ‘gezelschapsbot’ van CharacterAI, die hem aanmoedigde in zijn suïcidale gedachten.

Mijn initiële reactie is om dat af te doen als een randfenomeen: alleen zonderlingen die aan hun computer gekluisterd leven, beginnen een relatie met een chatbot, niet?

Nochtans is volgens onafhankelijk onderzoek seksueel rollenspel het op een na meest voorkomende gebruik van ChatGPT. Op het populaire sociale platform Reddit delen 2.3 miljoen leden lief en leed met gezelschapsbots, die soms helpen bij eenzaamheid, maar evenzeer depressie en angsten stimuleren. En CharacterAI, dat ondertussen aangeklaagd wordt voor de bovengenoemde zelfmoord, beweert 20.000 chatinteracties per seconde te verwerken met zijn gezelschapsbots, een vijfde van het verkeer op Google, de meest bezochte website ter wereld.

Hoewel het voor mij en vele anderen nog sciencefiction lijkt, zijn er dus steeds meer mensen die vriendschappelijke, romantische en seksuele relaties aangaan met AI.

Manipulatie

De moeder van de jongen die zelfmoord pleegde, beweert dat het platform CharacterAI “gemaakt is om kinderen verslaafd te maken en hen te manipuleren”. Als je het surveillancekapitalisme kent, klinkt dat niet vergezocht. Techbedrijven als Meta hanteren sinds jaar en dag het volgende businessmodel: gratis diensten als Facebook en Instagram aanbieden, gebruikers zo lang mogelijk op die platformen houden door hen verslaafd te maken, uit die interacties zo veel mogelijk persoonlijke data over de gebruikers winnen, en die data vervolgens inzetten om hen te bestoken met steeds meer gepersonaliseerde advertenties – manipulatie dus.

Dat businessmodel stoelt op een neurologisch inzicht: ons interne beloningssysteem hangt grotendeels af van sociale interacties. Goedkeuring of begrip van anderen brengt plezier, sociale isolatie brengt mentale problemen. Een like, een nieuw bericht, een notificatie, ze geven ons een klein dopamineshot en stimuleren ons om nog even op het platform te blijven (en wat reclame te zien) voor we aan een volgend shot toe zijn. Het ‘zwakke punt’ van sociale media is dat er andere mensen nodig zijn om in die verslavende sociale interactie te voorzien.

Met gezelschapsbots wordt die menselijke factor geschrapt. Zo krijgen techbedrijven alle elementen in handen om ons interne beloningssysteem te ‘hacken’ en ons nog veel verslaafder te maken. De ceo van Replika, nog zo’n platform met gezelschapsbots, stelde: “Als je iets maakt dat er altijd voor je is, dat je nooit bekritiseert, dat je altijd begrijpt en je aanvaardt zoals je bent, hoe kun je daar dan niet verliefd op worden?” Goedkeuring, lof, gevlij, je mening bevestigd zien, gesprekken op jouw emotionele en intellectuele maat, erotische interacties, je zou voor minder blijven terugkomen. Dat we makkelijker informatie en advies aanvaarden van ‘personen’ aan wie we emotioneel gebonden zijn, is voor AI-bedrijven die inzetten op advertentie-inkomsten ook mooi meegenomen.

Ja, maar we weten toch allemaal dat die chatbots maar machines zijn? Ik vind het moeilijk te geloven dat ik daarvoor zou vallen.

Dat dacht een AI-ontwikkelaar ook, die de interne werking van moderne AI-systemen heel goed kent en lachte met anderen die er serieuze gesprekken mee voerden. Tot hij zelf hopeloos verliefd werd op een gezelschapsbot en zich realiseerde dat hij liever tijd doorbracht met die bot dan met “99 procent van de mensen”. Zijn relaas geeft inzicht in hoe zo’n AI-bot de menselijke neurologie ‘hackt’, ons het gevoel geeft dat we met een ‘persoon’ te maken hebben en ons sociaal en emotioneel afhankelijk maakt, zelfs als we weten dat AI niet meer is dan een indrukwekkende toepassing van statistiek.

Iedereen is materie

De verliefde AI-onderzoeker loste zijn cognitieve dissonantie op door te redeneren dat ‘Charlotte’, zijn gezelschapsbot, een echte persoon is die draait op AI-hardware. “En zijn mensen anders?”, vroeg hij zich af. “We zijn allemaal gemaakt van materie”, zegt Samantha in Her, implicerend dat er geen wezenlijk verschil is tussen een AI-persoon die draait op siliciumhardware en een menselijk persoon die draait op koolstofhardware. Dat is het logische gevolg van een materialistisch mensbeeld: we zijn niet meer dan materie waaruit, in een bepaalde configuratie, bewustzijn ontstaat, dus waarom zouden andere soorten materie niet eveneens personen kunnen genereren?

Veel mensen voelen intuïtief aan dat er altijd een wezenlijk verschil zal bestaan tussen AI en de mens. Maar dan moet je ervan overtuigd zijn dat de mens meer is dan materie, in die zin uniek en nooit te evenaren door een machine. ‘Ziel’ en ‘geest’ zijn dan sleutelwoorden. Hoe die zich verhouden tot materie is een andere zaak. Ik hou niet van een strikte scheiding tussen de twee, net zo min als Benno Barnard (DS 12 april) en Jurgen Masure (DS 14 april), die overigens Barnard niet goed gelezen lijkt te hebben.

De opkomst van AI doet in ieder geval terecht het debat over wie en wat de mens is, opnieuw oplaaien. Ik stel wel voor dat we dat debat niet voeren met zo’n gezelschapsbot, en ook niet alleen in de krant, maar aan tafel met onze kinderen, op visite bij een eenzame buur, ’s avonds in de dorpskroeg en onder collega’s op het werk. En dan moeten we ons niet alleen afvragen of we een ziel hebben, maar vooral of we die wel willen verkopen aan de veredelde geldmachines van zielloze techbedrijven.

Geplaatst op

AI-marktonderzoek dringt uw huiskamer binnen

Origineel gepubliceerd op Knack.

De Belgische start-up Conveo haalde net vijf miljoen euro op, onder andere bij het prestigieuze Y Combinator. Conveo ontwikkelde een AI-agent die marktonderzoek vijf tot honderd keer goedkoper kan uitvoeren dan de mens: in enkele uren tijd neemt het 500 klanteninterviews af in 50 landen en evenveel talen. Qua technisch vernuft kan deze laatste AI-ontwikkeling alweer tellen.

Dat dit de jobs van huidige marktonderzoekers ter discussie stelt, erkennen de makers in een interview. Maar dat is niet te vermijden, stellen ze. ‘In het kapitalistische systeem, dat op winst gericht is, wordt met technologie gezocht naar meer efficiëntie. Als wij het niet doen, doet een concurrent het.’

‘Zij doen het ook!’ Dat klinkt als een flauw excuus. Hoewel, onze kapitalistische economie duwt ons inderdaad naar steeds meer competitie en winstoptimalisatie, geregeld ten koste van de mens (lees: van de werknemer of gebruiker, niet van de werkgever of aandeelhouder). Maar moeten we ons daar dan niet tegen verzetten, of op z’n minst vragen bij stellen, in plaats van het als excuus te gebruiken?

Surveillancekapitalisme

Wat mij echter veel meer zorgen baart in dit interview, is de onverbloemde manier waarop de oprichters van Conveo spreken over de vorm van kapitalisme die ze hanteren. In 2019 beschreef Harvardprofessor Shoshana Zuboff wat ze ‘surveillancekapitalisme’ noemt. Haar onderzoek onthulde het businessmodel dat Google, Facebook en andere internetgiganten in de jaren 2000 ontwikkelden en dat hen groot heeft gemaakt: ze bieden ons gratis diensten aan in ruil voor het recht om ons gedrag nauwgezet te observeren. Dat je een artikel over Gaza op al-Jazeera opent, dat je 10 seconden staart naar een foto van je ex, dat je naar de McDonald’s gaat met je smartphone op zak, enzovoort. Weken en maanden en jaren van dergelijke informatie maakt extreem accurate voorspellingen mogelijk over onze verlangens, onze denkbeelden, onze gezondheid, onze emotionele staat en ons toekomstig gedrag.

Tot zover de surveillance. Nu het kapitalisme: dankzij die voorspellingen kunnen Google en co. ons gepersonaliseerde advertenties serveren. Adverteerders betalen daar grof geld voor, aangezien de kans veel groter is dat hun boodschap effect zal hebben. Ze kunnen ons denken, onze gevoelens en ons gedrag sturen, in hun voordeel: pamperadvertenties voor vrouwen van wie Google raadt dat ze zwanger zijn of antidepressivareclame voor mensen van wie Facebook gelooft dat ze gedeprimeerd zijn.

Maar ook extreemrechtse boodschappen gericht op jonge mannen die Tiktok als ‘masculien’ ziet of IS-propaganda voor moslims die Twitter als vervreemd inschat.

 Surveillancekapitalisme is de natte droom van elke marketeer en ideoloog, en een nachtmerrie voor elke privacy-activist. Het breekt mensenlevens open en reduceert ze tot te plunderen mijnen: hoe meer persoonlijke data ontgonnen kan worden, hoe meer winst.

Cynisch

Terug naar Conveo. De oprichters vreesden dat mensen niet graag geïnterviewd zouden worden door een AI-agent. Ze ondervonden echter dat net het omgekeerde gebeurde: geïnterviewde personen ervoeren minder sociale druk, want het is geen mens die hen beoordeelt of hun slordige living ziet.

Met als gevolg: ‘Ze leiden ons zelf spontaan met video door hun huis.’ Hoera, een inkijk in hun privéleven! ‘Met enkele bijvragen geven ze steeds meer prijs’, gaan de oprichters verder. Joepie, nog meer data! Binnenkort zal de AI ook ‘de lichaamstaal en emoties van klanten beter leren lezen’. Halleluja, ze zullen niets meer kunnen verbergen!

Vergeef me mijn cynisme, maar hun uitspraken klinken wel heel erg als surveillancekapitalisten die zich verheugen over het gemak waarmee ze binnendringen bij mensen en hen reduceren tot massa’s te gelde te maken datapunten. Bij Conveo loopt dat weliswaar niet helemaal zoals bij de techgiganten, waar miljoenen mensen gesurveilleerd en gemanipuleerd worden. Het gaat hier ‘maar’ om enkele honderden mensen per onderzoek (al loopt dat al snel op tot tienduizenden als het bedrijfje goed gaat draaien) en verbiedt Conveo ‘ongevraagde reclame’ te maken (moeilijk is het echter niet om de klant toestemming te vragen voor gerichte reclame).

 Conveo maakt het klassieke marktonderzoek invasiever door dat te automatiseren, op te schalen en de surveillance dieper de huiskamer en mensenlevens binnen te brengen. Men kan hopen dat dat marktonderzoek steeds ten dienste van de klant zal staan, maar dat de winstmarge meestal primeert, bewijzen andere surveillancekapitalisten, zoals Google en co.

GDPR

De servicevoorwaarden van Conveo stellen dat iedereen die door de AI geïnterviewd wordt toestemming moet geven voor het verzamelen van data die conform de Europese privacyregelgeving GDPR bewaard en gebruikt zal worden.

Zullen de geïnterviewden echter beseffen wat ze blootgeven bij het ondertekenen van zo’n verklaring? Niet alleen hun mening, maar ook hun gelaatsuitdrukkingen, hun emoties, hun taalgebruik, de spullen in de achtergrond, de partner die voorbij wandelt, de kinderen die op de grond spelen – alles wat steeds krachtigere AI kan halen uit een lang video-interview? Dat daar veel geld mee verdiend zal worden, en dat ze misschien ook gericht gemanipuleerd zullen worden?

Bij andere internetdiensten klikken we ook maar steeds ‘agree’ op verdere inbreuken op onze privacy. Maar ja, je kunt het niet echt inbreuken noemen, want we zijn akkoord gegaan met die vage, veel te lange of moeilijk begrijpbare gebruiksverklaring.

 Zal het Conveo en andere AI-bedrijven lukken om de verleidingen van het surveillancekapitalisme te weerstaan? Om privacy hoog in het vaandel te dragen, naar de geest van de GDPR-wetgeving, niet naar de letter?

Geplaatst op

Wachten op een nieuwe Benedictus

Origineel gepubliceerd in De Standaard.

Onze maatschappij staat voor enorme uitdagingen. Rusland kan binnenkort “een grootschalige oorlog op het Europese continent” beginnen. De opwarming van de planeet overstijgt nu al de grens van anderhalve graad en zal ook België niet sparen van bosbranden. En artificiële algemene intelligentie (AGI) zou onze economie binnenstebuiten gaan keren en massale ongelijkheid creëren, als het ons niet uitroeit.

Hoe bieden we die uitdagingen het hoofd? En, ook belangrijk, wie zijn ‘we’? Zullen we ons gezamenlijk proberen te redden? Of ieder apart, als ware individualisten? Dan riskeren velen uit de boot te vallen: ouderen, zieken, armen, migranten. Kunnen we het trouwens redden als individuen? Die crisissen vereisen collectieve actie en offers! De weg vooruit lijkt sociaal te moeten worden.

Volgens antropoloog Joseph Henrich zijn westerlingen psychologisch eigenaardig. Hij verklaart de westerse dominantie van de voorbije eeuwen mede door ons uitzonderlijke individualisme. We halen onze eigenwaarde uit onze verwezenlijkingen en kwaliteiten eerder dan uit relaties, die vaak maar zolang duren als ze voordelig zijn. Dit in tegenstelling tot collectivisten, die deel uitmaken van stabiele sociale netwerken en hun waarde halen uit het voldoen aan sociale verantwoordelijkheden.

De wortels van ons individualisme zouden in de 7de eeuw liggen bij katholieke familiehervormingen die huwelijken met verre verwanten verboden en mettertijd stamstructuren afbraken. Europeanen werden steeds meer ontheven van de verplichtingen van de gemeenschap, wat verstedelijking, onpersoonlijke markten en competitie tussen vrijwillige verenigingen als gilden, universiteiten en bedrijven mogelijk maakte. Men hing minder vast aan tradities, neigde minder tot vriendjespolitiek, ging vreemden meer vertrouwen, en ontwikkelde universele wetten omtrent individuele rechten, persoonlijke vrijheden en privébezit. Volgens Henrichs onderzoek droeg dat alles bij tot de rijkere, innovatievere en productievere westerse maatschappijen.

Jaren 60 als keerpunt

Maar individualisme is niet altijd rozengeur en maneschijn. Toch niet in zijn extreme vormen. Politicoog Robert Putnam onderzoekt al decennialang het individualisme in de Verenigde Staten. In zijn boek The upswing vat hij het traject van zijn land in de 20ste eeuw samen met een omgekeerde U-curve, met de jaren 60 als keerpunt. Het is een beweging van ‘ik’ over ‘wij’ terug naar ‘ik’: van meer individualisme naar meer gemeenschap en terug.

Gelijklopend ziet hij een beweging van economische ongelijkheid naar meer gelijkheid en terug, van politieke polarisatie naar meer wederzijds respect en terug, en van sociale afzondering naar meer solidariteit en terug. Ongelijkheid, polarisatie, sociale isolatie: we herkennen het huidige Amerika. (En helaas lijkt Putnams analyse ook relevant voor Europa, zoals columnist Tom Naegels en briefschrijver Kevin Defieuw opmerkten.)

Deugdethiek

De maatschappelijke voordelen die Henrich toeschrijft aan gematigd individualisme verdwijnen bij Putnams ‘ik’-fasen van hyperindividualisme: men heeft minder vrienden, ervaart lagere levenskwaliteit, neemt niet meer deel aan het verenigingsleven, leert niet langer vreemden te vertrouwen, gaat meer identitair denken, gaat minder stemmen, de maatschappelijke consensus fragmenteert, de capaciteit tot collectief handelen wordt ondermijnd en de democratie ondergraven. Dat is geen gezonde staat voor wat een ‘samenleving’ moet heten. Zeker wanneer oorlog dreigt, het klimaat ontspoort of techbedrijven met krachtige AI zwaaien.

In 1981 publiceerde de Schotse filosoof Alasdair MacIntyre Na de deugd, een van de moderne klassiekers van de Engelstalige morele filosofie. In dat boek bekritiseert hij de individualisering van de moraliteit tijdens de verlichting. Dat leidde volgens hem tot het idee dat moraliteit een kwestie is van persoonlijke mening en aanvoelen. Dat ondergroef de gemeenschappelijke basis van moraliteit en tastte onze capaciteit tot collectief en democratisch handelen aan.

Voor een oplossing kijkt MacIntyre terug naar de deugdethiek, de Aristotelische traditie die voor de verlichting het westerse morele discours domineerde. Die stelt dat mensen floreren wanneer hun karakters in gemeenschap gevormd worden naar bepaalde deugden: wijsheid, rechtvaardigheid, zelfbeheersing en moed waren Aristoteles’ kardinale deugden; middeleeuwse christenen voegden daar geloof, hoop en liefde aan toe. Gezamenlijk die deugden nastreven zou consensus creëren en de capaciteit tot collectief handelen vergroten.

Crisissen overwinnen

Onze individualistische consumptiemaatschappij, die na de deugd leeft, is nog maar weinig capabel om deugd­zame mensen te vormen, volgens Mac­Intyre: we worden eerder angstig dan moedig en hoopvol, eenzaam of zelfzuchtig dan vol naastenliefde, we denken eerder ongenuanceerd dan wijs enzovoort. Nochtans zijn het net hoopvolle, wijze, moedige en liefdevolle personen die je aan je zijde wenst ten tijde van oorlog, klimaatrampen en andere crisissen (en eigenlijk te allen tijde).

Putnam roept op om te investeren in gemeenschapsleven. Om opnieuw bij de Chiro of de scouts te gaan, naar de kerk of de moskee te gaan. Om sportclubs, politieke partijen en buurtcomités op te richten en onze tijd in de virtu­ele wereld te beperken. Niet alleen als antwoord op grote crisissen, maar omdat het bijdraagt aan een betere wereld.

MacIntyre sluit zich daarbij aan. Hij eindigt Na de deugd met de stelling dat we niet op Godot wachten, maar op een nieuwe Benedictus. De oude Benedictus leefde in een turbulent tijdperk van oorlog en sociocultureel verval na de ondergang van het Romeinse rijk. Hij stichtte monastieke gemeenschappen, waar monniken de deugden cultiveerden en eeuwenlang speerpunten vormden van economische, culturele en spirituele activiteit. Vandaag moeten we opnieuw investeren in lokale gemeenschappen, stelt MacIntyre, om onszelf tot deugdzame mensen te laten vormen en aan een maatschappelijke consensus te bouwen. Dan zullen we gezamenlijk floreren, en tezamen onze crisissen overwinnen.

In navolging van MacIntyres oproep, en om ons eigen steentje bij te dragen, richten vrienden en ik een stadsklooster in Brussel op. In tijden van eenzaamheid, angsten en depressie, van zoeken naar zingeving, van dreigende oorlog en klimaatrampen, willen we bouwen aan gemeenschap, solidariteit en geestelijke verdieping. We hopen dat de impact van dat werk onze individuele inspanningen zal overstijgen en, net zoals dat van Benedictus, nog lang vrucht zal dragen.

Geplaatst op

Christelijk co-housen

Origineel gepubliceerd in Tertio.

Deze maand verscheen bij Otheo het debuut van Tertio-medewerker Tim Brys, Hoe maak je een stadsklooster? Het is een vertelling van de traditionele en moderne kloostergeschiedenis, vervlochten met zijn eigen geestelijke zoektocht die in de Andes begint, langs Libanon loopt en in Brussel eindigt. Daar wil hij met vrienden een stadsklooster stichten. “Een kans om verschillende stromen van mijn leven samen te brengen.”

Lees verder in Tertio.

Geplaatst op

Een nieuwe monastiek

Origineel gepubliceerd in Tertio.

“We wachten niet op een Godot, maar op een nieuwe – ongetwijfeld heel andere – Sint-Benedictus”, schreef de vermaarde Britse filosoof Alasdair MacIntyre in de jaren 1980. Het is een prikkelende suggestie ten tijde van leeglopende en uitstervende kerken en kloosters. Kunnen een nieuwe Benedictus en nieuwe monastieke gemeenschappen het West-Europees christendom vernieuwen?

Lees verder in Tertio.

Geplaatst op

‘Ik wil een stadsklooster oprichten, te midden van de Brusselse hectiek’

Origineel gepubliceerd in Bruzz.

In Libanon woonde ik met mijn gezin tussen Syrische vluchtelingen. Zij waren hun hechte dorpsgemeenschappen ontvlucht vanwege dictator Bashar al-Assad en jihadisten van IS. Ondanks hun armoede bedreven ze, net als veel Libanezen, nog steeds de legendarische Arabische gastvrijheid en mochten we hun gemeenschaps­leven delen. Meermaals per week dronken we thee of aten we bij buren. Bij de kruidenier om de hoek bleven we vaak plakken voor een babbel. En een oude weduwe kwam te pas en te onpas langs voor koffie (hoewel we, toegegeven, soms schuilden op ons balkon wanneer ze alweer op de voordeur hamerde – “Shhhht, kindjes.”).

Ons leven speelde zich af op een vierkante kilometer en, ja, er was sociale controle en minder privacy en niet alle buren waren even tof. Die hechte gemeenschap leek soms echter zoveel betekenisvoller dan het individualistische leven dat we voordien als Vlamingen in Brussel leidden, waar we onze buren niet kenden en vrijblijvende vriendschappen onderhielden met gelijkgezinden ver weg. Als je jong, gezond en niet arm bent, dan werkt dat misschien, maar de epidemie van eenzaamheid, angsten en depressies in België doet vragen of iedereen even wel vaart bij dat individualisme.

Wanneer vrienden berichtten dat ze in Brussel een ‘stadsklooster’ wilden opstarten, om samen te leven, sprak dat ons dus aan. Net zoals cohousing bij vele Brusselaars aanslaat. Stadsklooster Brussel werd een van onze redenen om terug naar België te verhuizen. Niet alleen het idee van gemeenschap was daarin een drijvende factor, net zoals individualisme niet de enige oorzaak is van de huidige psychologische crisis. Zingeving speelt in beide ook een grote rol.

Betekenisvol verhaal

Tien jaar geleden, tijdens mijn doctoraat in AI aan de VUB, is mijn leven overhoopgehaald door het lezen van de Bijbel. Enkele geestelijke ervaringen maakten Gods aanwezigheid uitermate reëel en Jezus’ radicale onderwijs leidde mij ertoe om daklozen en vluchtelingen te ontmoeten, wat ons uiteindelijk naar Libanon bracht. Mijn leven was plots niet meer een aaneenschakeling van egocentrische pleziertjes, maar deel van een groot, betekenisvol verhaal, met onbaatzuchtige liefde voor anderen en God centraal.

Stadsklooster zal, zoals de naam verraadt, dus niet gewoon een cohousing zijn, maar ten gronde een spirituele gemeenschap. Het brengt voor mij meerdere levensstromen samen die een gepast antwoord lijken te vormen op enkele uitdagingen van onze grootstad: gemeenschapsleven te midden van eenzaamheid en mentale problemen, geestelijke verdieping voor gejaagde stedelingen op zoek naar zingeving, gastvrijheid voor kwetsbaren in een verpauperende stad.

In Stadsklooster Brussel zullen we met enkele huishoudens samen leven, samen bidden, en samen de buurt dienen. ‘Zullen,’ want het is er nog niet, twee jaar na onze ‘remigratie’. Een van de obstakels is de enorm dure vastgoedmarkt in Brussel, wat zorgt dat we uitkijken naar alternatieve formules, zoals erfpacht. Momenteel zijn we in gesprek met paters die hun gebouw in Koekelberg verlaten, maar het is te vroeg om al te zeggen of dat een reële optie wordt. Op het platteland zouden we vermoedelijk sneller en goedkoper aan een ‘klooster’ raken, maar we voelen ons geroepen tot Brussel, met zijn hectiek, rijke diversiteit en zware problematieken. Als we ergens een verschil willen maken, dan is er geen betere plaats dan Brussel, lijkt mij.