Geïnspireerd en inspirerend, waarde(n)vol en cultuurkritisch, relevant en constructief
Origineel gepubliceerd in Tertio.
De crisissen stapelen zich op. Men predikt rampspoed en onheil. Sommigen halen de schouders op en zeggen dat het allemaal wel zo’n vaart niet zal lopen. Anderen wanhopen en voorzien het einde van de wereld. Hoe kunnen we de passiviteit van een vals optimisme en de verlamming van wanhoop vermijden? Waar halen we de kracht om hoopvol en moedig de dreigende apocalyps het hoofd te bieden?
Lees het volledige artikel op de website van Tertio.
Origineel gepubliceerd in NRC.
Wat betekent de groeiende kracht van AI voor uw vakgebied, was de vraag. Maar nu is mijn vakgebied… de AI! Moet ik nu, op een meta-niveau, AI toepassen op de ontwikkeling van AI?
Volgens sommigen zou dat uitmonden in artificial superintelligence: een goddelijke AI die ofwel de wereld zal redden en ons onsterfelijk zal maken, ofwel ons zal uitmoorden of ons als organische slaven zal gebruiken. Want, intelligentie toegepast op het verbeteren van intelligentie, zonder de biologische grenzen die het menselijke lichaam kent, zou alleen maar kunnen leiden tot een punt dat vanuit ons nietige menselijke perspectief op oneindig lijkt te liggen. Bij God dus.
Zo zou AI een van ’s mensheids grootste dromen verwezenlijken. We zijn namelijk een godspelende soort: we willen zo graag onze beperkingen wegvagen, de wereld aan onszelf aanpassen en onszelf herschapen naar onze ideaalbeelden. Of de goden nu een mythologische projectie zijn van dat inherente verlangen om onszelf en de wereld te overstijgen, of dat we naar het evenbeeld van een god gemaakt zijn en daarom aldus verlangen, maakt niet uit: het verlangen zit er, en het zit diep.
Bewijs: de enorme wetenschappelijke en technologische vooruitgang van de voorbije eeuwen die op veel vlakken onze levens verbeterd heeft. Zeker de AI-onderzoeker vandaag kan zich gemakkelijk in de plaats van de Schepper wanen: we kunnen tegenwoordig zelfs converseren met onze schepsels! Aangezien we als mensen echter blijven stoten op vervelende fysieke beperkingen, lukt het voorlopig niet om zelf als goden te worden. Daarom verschuiven we de hoop dus naar onze digitale schepsels, die schijnbaar minder begrensd zullen zijn.
Maar welk soort god hopen we dat onze artificial superintelligence zal zijn? OpenAI-topman Sam Altman wil graag een superintelligence die de mensheid zal helpen floreren. Hij hoopt dus op een rooskleurige toekomst onder de auspiciën van een onzelfzuchtige god die
het algemene belang dient. Alleen lijken AI-ontwikkelaars zelf niet altijd het algemene belang te dienen. Regelmatig gaan de belangen van aandeelhouders voor.
Kijk maar naar OpenAI, dat als non-profit gesticht werd maar ondertussen ook een commerciële tak heeft. Bij sociale media weten we dat het mentale welzijn van gebruikers wordt opgeofferd uit winstbejag. Zal dat bij AI anders zijn?
Kan men een altruïstische goddelijke AI ontwikkelen als men zelf de financiële belangen van enkelingen dient en daarvoor kapitalistische mensenoffers eist? Zal de superintelligence die daaruit voortkomt niet eerder die van de doemscenario’s uit de science fictionzijn? Als je een nefaste bias oneindig vergroot, krijg je dan niet eerder een duivel dan een god?
“With great power comes great responsibility” stelt het Engelse gezegde. Het is essentieel dat zij die in de voorhoede van de AI-ontwikkeling staan niet zichzelf of een selecte groep dienen, maar het algemene goed. Anders riskeert de artificiële god die ze willen creëren dat ook niet te gaan doen, met alle gevolgen van dien.
Origineel gepubliceerd op Knack.
“U zult zoals God zijn,” beloofde de slang aan Eva. “Laat ons een toren maken die tot de hemel reikt,” besloten de Babelse bouwers. “Ik ben god!” riep farao in de film Exodus: Gods and Kings. Deze verhalen uit de Joodse traditie belichten een diep menselijk verlangen: iets in ons wil al onze beperkingen overstijgen, de wereld volledig naar onze hand zetten en elk verlangen bevredigd zien.
Kortom: we willen als goden zijn. Vaak met catastrofale gevolgen, volgens die verhalen: Adam en Eva moesten het paradijs uit, Babel eindigde in spraakverwarring en farao verdronk met zijn leger in zee. Bij de Grieken vertaalt Icarus’ fatale vlucht langs de zon hetzelfde patroon: hoogmoed komt voor de val.
In de 21e eeuw staat de mensheid dichter dan ooit bij haar gedroomde goddelijkheid. We overwonnen de dodelijkste ziekten en zijn steeds minder sterfelijk. Om in de hemel te komen hebben we geen torens meer nodig, want met raketten landen we zelfs op de maan. De wetenschap brengt ons steeds dichter bij de alwetendheid. Met hologrammen brengen we doden zoals Elvis weer tot leven. En dankzij AI kunnen we wezens scheppen naar ons evenbeeld, zoals Marcy Cortega, de AI-gegenereerde popster, of, nog sterker, artificial general intelligence, AI met de capaciteiten van een mens: OpenAI CEO Sam Altman stelde deze week te weten hoe dat moet gebouwd worden en zou het willen verwezenlijken binnen het presidentschap van Trump.
Al eeuwenlang is frustratie over onze beperkingen een drijvende kracht in de technologische vooruitgang. We verwierven een ongeziene mate van controle over de wereld en hebben zo de levens van velen gezonder, langer en kwaliteitsvoller gemaakt. Vandaag zetten we dat élan voort, hopende dat steeds minder beperkingen de mens van zijn volle potentieel zullen houden. Volgens transhumanisten zal zelfs onze grootste begrenzing het begeven: door ons bewustzijn over te zetten naar een computer zouden we de dood overwinnen en homo deus worden.
Vooruitgang wordt echter hoogmoed wanneer we arrogant elke grens verleggen en elk verlangen bevredigen terwijl we de gevolgen ervan niet begrijpen of ontkennen. In onze drang naar technologische groei hebben we de natuur geplunderd, maar beseffen nu dat zelfs water in ons natte België niet onuitputtelijk is. Onze industrie heeft zoveel gas gegeven dat het klimaat verandert en extreme weerspatronen vele levens bedreigen. De ingenieuze elektronica die ons digitale superkrachten geeft is gebouwd op slavernij in Afrikaanse metaalmijnen. We zijn steeds meer geconnecteerd dankzij sociale netwerken, maar hun verslavende algoritmes dragen bij tot mentale problemen en polarisatie.
Na het hoogmoedig verleggen van onze grenzen komt vaak een pijnlijke val en moeten we geschaafd terugkrabbelen, grenzen herontdekken en die gedisciplineerd leren respecteren, als het niet te laat is: water duurzaam beheren, minder broeikasgassen uitstoten, mijnwerkers correct vergoeden, stoppen met doomscrollen.
Nog maar twee jaar geleden braken generatieve AI-systemen door. Als we een nieuwe hoogmoed-en-val cyclus willen vermijden, dan moeten we goed nadenken over welke grenzen we kunnen verleggen en wat de gevolgen daarvan zijn. Helaas lijken we opnieuw blind vooruit te lopen, want je zou maar eens je marktaandeel zien slinken. Generatieve AI is de wieg nog niet ontgroeid, maar wordt al massaal ingezet: vooral voor onschuldige optimalisaties, maar enkele toepassingen doen de grondvesten van onze maatschappij daveren.
Het onderwijs zit met de handen in het haar: door ChatGPT moet niet alleen evaluatie volledig herdacht worden, maar zouden studenten ook essentiële vaardigheden niet meer leren. In onze geïndividualiseerde samenleving lijden we psychologisch onder een schaarste aan menselijk contact, en toch, of daarom, ontwikkelen steeds meer mensen relaties met chatbots; sexuele rollenspellen vormen zelfs het tweede meestvoorkomende gebruik van ChatGPT. Google stootte ondertussen 48% meer broeikasgassen uit door generatieve AI. En experts zoals Altman die artificial general intelligence nastreven waarschuwen paradoxaal zelf dat die technologie een existentiële bedreiging kan vormen voor de mens, vegelijkbaar met nucleaire wapens.
De vraag is: wat zijn de gevolgen van het ongebreideld scheppen en in gebruik nemen van AI-systemen? Worden we hier collectief beter van of zullen we net als Dr. Frankenstein hoogmoedig grenzen overschrijden waar we later spijt van krijgen? Het is niet omdat het kan en goed voelt, of geld opbrengt, dat het op de lange termijn ook goed is.
In ons streven om zo onbeperkt te worden als God hebben we onze wereld getransformeerd en nieuwe virtuele werelden geschapen. Alleen ontdekken we soms dat we er niet goed in gedijen, omdat we er niet voor geschapen zijn. Wij en de wereld zijn niet oneindig maakbaar maar inherent begrensd. Blind technologisch vooruitstormen vanwege een vooruitgangsideologie die alle grenzen wil wegvagen – of omwille van het geld – is hoogmoedig.
Laat ons duidelijke grenzen aflijnen voor het gebruik van AI. De EU AI Act-regelgeving is maar een eerste stap.
We moeten luisteren naar onze wijsheidstradities en moderne psychologen die aangeven wat goed is voor de mens en zo bepalen welke grenzen we wijselijk kunnen verleggen. De knapste AI-koppen en bedrijven kunnen op basis daarvan vooruitgang maken – traag maar zeker – ten goede van iedereen. Nu is het te vaak zo snel mogelijk, ten goede van een elite en ten koste van de rest. AI kan helpen de grootste uitdagingen van onze tijd aan te gaan: zo draagt ons lab bij aan oplossingen voor klimaatverandering en pandemieën. Maar AI kan ons ook té dicht bij de zon doen vliegen. En dan zal de val onvermijdelijk diep zijn.