Afgelopen week ging het ineens over het einde van de mensheid door kunstmatige intelligentie. Leiders en onderzoekers uit de AI-wereld waarschuwden voor het tempo waarin de krachtigste systemen zich ontwikkelen. OpenAI schreef op 9 september dat er gedeelde normen nodig zijn voor momenten waarop ontwikkeling moet vertragen of stoppen. Ook Dario Amodei van Anthropic pleitte voor het afremmen van de ontwikkeling aan de voorhoede. Tegelijkertijd zijn er techbedrijven die juist vinden dat ontwikkeling door moet gaan.
Arjen Lubach besteedde er deze week ruim twintig minuten aan onder de titel: Zijn we de controle aan het verliezen over kunstmatige intelligentie? Ik vond dat hij de discussie goed zichtbaar maakte. Niet door te voorspellen hoe de wereld eindigt, maar door te laten zien hoe snel de ontwikkeling gaat en welke vragen inmiddels zelfs worden gesteld door de mensen die eraan werken.
Dat zet mij aan het denken. Ik vind vooral de vraag interessant wat wij doen wanneer een ontwikkeling sneller gaat dan ons vermogen om de gevolgen ervan volledig te overzien.
Voor mij begint daar bewustzijn.
Ik heb eerder een technologisch einde der tijden meegemaakt
Rond het jaar 2000 werkte ik in de ICT. Wie die periode bewust heeft meegemaakt, herinnert zich waarschijnlijk de millenniumbug. Veel computersystemen gebruikten twee cijfers voor een jaartal. Het jaar 2000 werd daardoor 00 en sommige systemen konden dat interpreteren als 1900.
De technische fout was echt. De scenario’s eromheen werden steeds groter. Computers zouden uitvallen, betalingsverkeer kon worden geraakt, vliegtuigen zouden problemen krijgen en complete delen van de samenleving konden ontregeld raken. In Nederland werden miljarden uitgegeven om systemen te controleren en aan te passen. Toen 1 januari 2000 uiteindelijk aanbrak, bleven grote verstoringen uit.
Ik herinner me vooral de spanning rond die overgang. Technologie waarvan bijna niemand dagelijks nadacht over de werking werd ineens onderwerp van maatschappelijke onzekerheid.
Achteraf is het gemakkelijk om te zeggen dat het allemaal wel meeviel. Daarbij vergeet je hoeveel voorbereiding eraan voorafging. De Koninklijke Bibliotheek beschrijft terugkijkend hoe overheden, bedrijven en instellingen jarenlang systemen controleerden en aanpasten voordat de millenniumwisseling plaatsvond.
AI is van een andere orde. Het jaar-2000-probleem was een concreet technisch probleem met een concrete datum. De ontwikkeling van AI kent geen middernacht waarop we gezamenlijk ontdekken of alles goed is gegaan.
Toch herken ik één vraag uit die tijd: wanneer technologie zo belangrijk wordt dat de gevolgen groot kunnen zijn, op welk moment besluit je dat voorzichtigheid verstandig is?
Vertragen kan ook vooruitgang zijn
Ik ben voor ontwikkeling. Ik gebruik AI zelf bijna iedere dag. Deze website is mede met AI gebouwd. Ik gebruik het om mijn eigen gedachten scherper op papier te krijgen, informatie te onderzoeken en vragen vanuit verschillende invalshoeken te bekijken.
Daar zit voor mij juist de waarde.
Ik wil AI niet gebruiken om een antwoord te krijgen dat ik vervolgens als waarheid overneem. Ik gebruik het graag om verder te vragen. Waarom denk ik dit? Welke andere kijk bestaat er? Welke informatie mis ik? Klopt een aanname eigenlijk wel? Soms bevestigt dat mijn gedachte. Soms verandert mijn perspectief.
Een technologie die mij sneller een antwoord geeft is handig. Een technologie die mij helpt betere vragen te stellen vind ik veel interessanter.
Juist daarom vind ik de huidige discussie over vertragen gezond. OpenAI schrijft zelf dat veiligheid steeds meer het tempo van de ontwikkeling moet bepalen en dat ontwikkeling of inzet moet kunnen worden vertraagd of gestopt wanneer waarborgen onvoldoende zijn.
Doorgaan is een keuze. Vertragen is ook een keuze.
Bewustzijn zit voor mij in het moment waarop je beide werkelijk durft te bekijken.
Niemand weet hoe dit verhaal eindigt
Een onderzoek van het RTL Nieuwspanel laat zien hoe groot de zorgen inmiddels zijn. Driekwart van de ondervraagden vindt dat de ontwikkeling van AI moet worden afgeremd totdat duidelijker is hoe krachtige AI onder controle kan worden gehouden. Tegelijkertijd gebruikt 56 procent van de ondervraagden AI inmiddels minimaal wekelijks.
Die combinatie vind ik eigenlijk heel menselijk. We kunnen een ontwikkeling gebruiken en tegelijkertijd vragen stellen over de richting waarin die ontwikkeling gaat.
Ik doe dat zelf ook.
Mijn kijk op gezondheid bestaat uit lichamelijke gezondheid, geestelijke gezondheid en spirituele gezondheid. Daardoor ben ik gewend om naar het geheel te kijken. Wat doet iets met mijn lichaam? Wat doet het met mijn gedachten? Wat doet het met hoe ik naar mezelf, anderen en mijn leven kijk?
Bij AI vind ik die bredere blik net zo relevant. De vraag gaat verder dan wat een model technisch kan. Het gaat ook over wat wij ermee doen, welke taken we uit handen geven, welke informatie we vertrouwen en welke keuzes we zelf willen blijven maken.
Misschien ontstaat daar uiteindelijk de belangrijkste grens: niet bij de intelligentie van een machine, maar bij ons eigen bewustzijn over de manier waarop we haar gebruiken.
En als dit dan het einde der tijden is?
Daar heb ik geen antwoord op.
Niemand weet waar de ontwikkeling van AI uiteindelijk eindigt. Ik weet ook niet welke mogelijkheden over een paar jaar normaal zijn die we vandaag nog onvoorstelbaar vinden. De snelheid waarmee AI zich ontwikkelt is voor mij voldoende reden om de risico’s serieus te nemen en ruimte te houden voor vertraging wanneer veiligheid daarom vraagt.
Het einde der tijden voorspellen helpt mij daar weinig bij.
In 2000 konden we een datum omcirkelen en wachten tot de klok twaalf sloeg. Met AI bestaat die zekerheid niet. We zullen onderweg steeds opnieuw moeten kijken naar wat er ontstaat en welke keuzes daarbij horen.
Voor nu is AI voor mij een hulpmiddel. Wat er daarna komt, weet ik net zo min als ieder ander.
De toekomst laat ik aan de toekomst.
De keuzes die we vandaag maken zijn van ons.
