‘Griezelig slim’

Topchange Boeken, Boekenrubriek WijLimburg

Rob Meesen is misschien wel een van de meest belezen ondernemers in Limburg. De mede-eigenaar van TopChange leest jaarlijks tussen de 250 en 300 boeken. Wekelijks beschrijft hij voor WijLimburg een ondernemersboek.

„Ik schommelde in mijn boek tussen verbijstering en optimisme. Ik hoop dat bij jou het optimisme overheerst. Tot ziens in de toekomst. Veel geluk.” (Marcel Bullinga, Iedereen aan de robot, 2019)

Afgelopen week was ik spreker op een netwerkevenement. Ik schetste in mijn lezing de demografische, economische, sociaal-culturele, politieke en technologische trends in de nabije toekomst met het jaar 2040 als referentiekader. Dat punt in de toekomst lijkt wellicht ver weg, maar is dichterbij dan het jaartal 2000 dat achter ons ligt. Professionals uit het publiek vertelden mij na de presentatie dat ze tegelijkertijd geïnspireerd én geschrokken waren door de voorspellingen over de vierde grote golf in de menselijke geschiedenis, die van de robots en kunstmatige intelligentie. En dat is begrijpelijk. We krijgen in de komende negentien jaar namelijk te maken met honderdvoudig meer technologische innovaties dan in de afgelopen twee decennia.

Of dat ten goede of ten kwade is, is nog grotendeels onduidelijk. Maar de opkomst van kunstmatige intelligentie in alle aspecten van ons leven is onontkoombaar en daarom kunnen we ons er maar beter op gaan voorbereiden. Voor de techneuten, programmeurs en investeerders is die toekomst een snoepwinkel vol dromen, terwijl de late meerderheid in de technologie adoptiecyclus bang is terecht te komen in een verschrikkelijk horrorhuis met killer robots achter iedere deur. 

Er is echter ook een middenweg. Ik ben net als mijn leermeester en vriend Marcel Bullinga een vooruitgangsoptimist. Wij vinden testosteron-gedreven narcisten aan de pokertafel van de geopolitiek griezeliger dan de logica van een superintelligente robot. In Iedereen aan de robot verwoordt Bullinga dat als volgt: „De verdorven algoritmes van een verprutst menselijk brein zijn niet te genezen met de zuivere logica van kunstmatige intelligentie.” In het sciencefictionverhaal The lost machine van John Wyndham uit 1932 pleegt een robot zelfmoord omdat hij als intelligente machine niet kan leven in een wereld vol waanzin. Menselijke domheid is veel enger dan kunstmatige intelligentie. Robots zijn niet eng. Ze gaan ons helpen. Alles wordt beter, alles wordt anders en alles wordt mogelijk. 

Ik ben echter ook niet blind voor de schaduwkanten van denkende machines in handen van slechte mensen. Mijn ondernemersboek van deze week is juist door de confronterende verhaalstijl een uitgelezen kans voor goede mensen om in dit tijdperk van digitale transformatie betere keuzes te maken. Maar een waarschuwing is wel op zijn plaats als je aan dit boek begint. Je kunt én zult van perspectief veranderen. Dat is volgens stand-up-illusionist George Parker de derde Wet van de Waarneming die voortvloeit uit de andere twee wetten van zijn eigen ontworpen logica: focus creëert realiteit en perspectief creëert focus. Als je het boek eenmaal gelezen hebt, rust de vloek van kennis definitief op jou. 

Ik leerde Mo Gawdat als schrijver kennen door zijn eerste boek De logica van geluk. Zeventien dagen na de dood van zijn 18-jarige zoon Ali begon hij aan deze internationale bestseller te schrijven. Hij concludeerde dat ‘ongeacht de hindernissen op ons pad, de lasten die we met ons meedragen en de beproevingen die we doorstaan, ieder van ons het vermogen bezit om gelukkig te zijn met het bestaan zoals het is.’ Hij hanteert daarbij de volgende formule: Geluk is jouw perceptie van de gebeurtenissen in je leven minus jouw verwachtingen van het leven. Dat geldt natuurlijk ook voor de verwachtingen over de rol van kunstmatige intelligentie in ons tijdelijke bestaan. 

Als voormalig Chief Business Officer van Google kent Gawdat als geen ander de kracht van algoritmes. In Griezelig slim waarschuwt hij ons voor het gevaar van kunstmatige intelligentie. Zoals Stephen Hawking, Elon Musk en Bill Gates dat al eerder deden. Dat is niets nieuws. En hun argumenten waren steekhoudend. De uitgebreide onderbouwing van Gawdat bij die argumenten is echter wel van toegevoegde betekenis. Hij bespreekt de drie onvermijdelijkheden, de drie instincten en de drie onvermoede eigenschappen van kunstmatige intelligentie. Deze 3 x 3 bepalen de weg naar onze toekomst die uit drie belangrijke feiten bestaat die vervolgens logischerwijze leiden tot de drie dingen die wij moeten doen. 3 x 3 leidt tot 3 + 3. Volgens Gawdat heeft hij met deze logica vandaag de wereld gered. Hij hoopt dat we met behulp van kunstmatige intelligentie een utopie kunnen creëren die de mensheid dient, in plaats van een dystopie die haar ondermijnt. 

Ondanks de realistische doemscenario’s blijft Gawdat dus optimistisch over de toekomst en blijft hij congruent met de logica in zijn eerste boek. Daarbij legt hij de verantwoordelijkheid niet bij de machines of de programmeurs, maar bij ons: „Alleen als wij het heft in eigen hand nemen en voor verandering zorgen, is dit een hoopvol verhaal. De toekomst van de mensheid in het tijdperk van kunstmatige intelligentie hangt helemaal van ons af. De manier waarop wij met elkaar en de aarde omgaan vormt de basis voor de moraal van machines. Hoe wij ons gedragen, bepaalt wat voor kinderen ze worden. Wij, niet de ontwikkelaars van kunstmatige intelligentie, zijn de baas. Hoe zul jij zijn?” Deze alinea uit het boek veroorzaakte bij mij een déja vu. Het is exact dezelfde logische boodschap die Marcel Bullinga vlak voor zijn te vroeg aangekondigde dood in 2019 aan ons stuurde: „We hebben de keus uit twee toekomsten. Doen we ons best, het juiste, en het goede, dan kunnen we elke toekomst aan. Dit is onze historische kans. Jouw kans. Wat denk je, kunnen we de wereld opnieuw in elkaar zetten – from scratch?” 

In het nawoord van Iedereen aan de robot (2019) stelt Marcel Bullinga drie vragen aan mij: (1) Wat kunnen wij leren van de robots? (2) Wat kunnen de robots van ons leren? (3) Hoe zorgen wij ervoor dat we niet de slaaf worden van het algoritme, maar een wereld creëren met meer samenwerking en compassie? Mijn antwoord luidde destijds: ‘Wij moeten de robots leren dat er in de eeuw van de getallen meer dan ooit behoefte is aan menselijke verhalen over robots, zoals Robbie van Isaac Asimov. De robots moeten ons leren hoe wij slimme algoritmes kunnen ontwerpen die de mensenrechten is stand (helpen) te houden. Tussen de stimuli van het masteralgoritme en een slaafse respons van homo sapiens ligt de menselijke vrijheid om te kiezen. Robots zullen ons helpen betere keuzes te maken.’ En dat is ook mijn persoonlijke invulling van de laatste 3 in de geformuleerde logica van Gawdat: de drie dingen die wij moeten doen op weg naar de toekomst. 

Tot ziens in de toekomst. Veel geluk!

Rob Meesen