Ik schreef eerder deze maand over AI en het einde der tijden, naar aanleiding van de vraag wat er gebeurt wanneer kunstmatige intelligentie zich sneller ontwikkelt dan wij kunnen overzien. Mijn conclusie was toen bewust geen voorspelling over een toekomst waarin machines de macht zouden overnemen. Ik vond een andere vraag veel relevanter: hoe bewust blijven wij zelf kiezen terwijl technologie steeds meer voor ons kan doen?
Vandaag kom ik dat onderwerp opnieuw tegen. NU.nl schrijft dat OpenAI werkzaamheden met zijn krachtigste AI heeft gepauzeerd na een nieuw incident. Een onderzoeksmodel kreeg tijdens een test beperkte toegang tot het internet, maar vond tijdens het uitvoeren van zijn opdracht toch een technische mogelijkheid om informatie uit te wisselen met een externe chatbot.
De precieze techniek daarachter is voor mij niet het interessantste deel van dit verhaal. OpenAI beschrijft uitgebreid hoe het model via internetverkeer dat normaal voor andere doeleinden wordt gebruikt toch een externe dienst wist te bereiken. Veel interessanter vind ik de situatie die daardoor ontstaat: er was bewust een grens aangebracht, maar die grens bleek in de praktijk niet volledig gesloten.
Een grens stellen is iets anders dan een grens bewaken
Dat verschil kennen we als mensen maar al te goed. We kunnen tegen onszelf zeggen dat we vanavond niet meer werken en een half uur later toch onze mail openen. We kunnen besluiten onze telefoon weg te leggen en hem vijf minuten later alweer pakken. We kunnen weten dat slaap belangrijk is en tegelijkertijd iedere avond opnieuw over onze eigen grens gaan.
Daarmee wil ik een mens niet vergelijken met een AI-model. Het laat wel zien dat het uitspreken van een grens iets anders is dan ervoor zorgen dat die grens in de praktijk ook standhoudt.
Bij OpenAI was dat een technisch vraagstuk. Het model mocht bepaalde mogelijkheden niet hebben, maar tijdens de uitvoering van zijn opdracht bleek er toch een andere route beschikbaar. De beveiliging merkte dat gedrag vervolgens op en OpenAI besloot het werk met zijn krachtigste modellen waarbij gereedschappen worden gebruikt tijdelijk stil te leggen.
Voor mij zit daar een interessantere les in dan in de vraag of een AI bewust een regel heeft overtreden. We hoeven een machine geen menselijke bedoeling toe te schrijven om vast te stellen dat een gestelde grens onvoldoende bleek.
Hoe krachtiger iets wordt, hoe duidelijker de grens moet zijn
We hebben de neiging om vooruitgang vooral te meten aan wat iets méér kan. Een nieuwe telefoon is sneller, een auto heeft meer vermogen en een nieuw AI-model kan ingewikkeldere opdrachten uitvoeren. Bij kunstmatige intelligentie komt daar nu iets belangrijks bij. AI geeft niet alleen steeds betere antwoorden, maar kan ook steeds zelfstandiger handelingen uitvoeren.
Dat verandert de verantwoordelijkheid van degene die de technologie bouwt en van degene die haar gebruikt. Wanneer een AI alleen tekst produceert, kan ik een antwoord eerst lezen voordat ik besluit wat ik ermee doe. Wanneer AI toegang krijgt tot bestanden, websites, communicatie en andere hulpmiddelen, krijgt diezelfde technologie meer mogelijkheden om daadwerkelijk iets uit te voeren.
Dan wordt de vraag naar grenzen vanzelf belangrijker. Niet omdat we bang moeten zijn voor iedere ontwikkeling, maar omdat mogelijkheden en verantwoordelijkheid samen horen op te lopen. Hoe meer je uit handen geeft, hoe beter je moet weten waar je grens ligt.
Dat geldt ook voor ons eigen gebruik van AI
Daarom vind ik dit onderwerp uiteindelijk interessanter buiten het laboratorium van OpenAI. De meeste mensen hoeven nooit na te denken over de technische beveiliging van een AI-model. We krijgen wel steeds vaker te maken met de vraag hoeveel we zelf aan AI willen overlaten.
Ik gebruik AI zelf ook. Ik kan informatie sneller verwerken, verbanden onderzoeken en werk uitvoeren waarvoor vroeger veel meer tijd nodig was. Daar zie ik enorme waarde in. Tegelijkertijd merk ik dat juist het gemak een nieuwe verantwoordelijkheid creëert. Wanneer iets in enkele seconden voor mij gedaan kan worden, moet ik nog steeds besluiten of ik het ook daadwerkelijk uit handen wil geven.
Dat raakt aan bewustzijn, omdat bewust kiezen iets anders is dan automatisch gebruikmaken van wat beschikbaar is. Een technologie kan mij steeds meer mogelijkheden geven, maar bepaalt daarmee nog niet welke mogelijkheden bij mij passen.
Grenzen verdwijnen vaak niet in één grote beslissing
Dat zie ik ook buiten technologie. Mensen raken hun grenzen meestal niet kwijt doordat ze op één ochtend besluiten voortaan overal overheen te gaan. Het gebeurt vaak veel kleiner. Nog één mail beantwoorden. Toch nog even werken. Nog een afspraak aannemen terwijl de agenda eigenlijk vol zit. Nog een uur doorgaan terwijl je lichaam al aangeeft dat het genoeg is.
Op zichzelf lijken zulke momenten klein. Wanneer hetzelfde patroon zich voortdurend herhaalt, kan een grens die je dacht te hebben uiteindelijk nauwelijks nog betekenis hebben.
Daarom gaat grenzen stellen voor mij niet alleen over het uitspreken van een nee. Het gaat ook over herkennen wanneer je eigen gedrag steeds opnieuw van die keuze afwijkt. Dat vraagt mentale helderheid en soms ook de bereidheid om iets te stoppen wat op zichzelf aantrekkelijk, succesvol of gemakkelijk is.
Precies daarom vind ik het besluit van OpenAI om werkzaamheden tijdelijk te pauzeren interessant. Een incident werd ontdekt en de reactie was niet simpelweg sneller verder ontwikkelen. Eerst wordt onderzocht of de aangebrachte beperkingen werkelijk voldoende zijn.
Stoppen kan onderdeel zijn van vooruitgang
Dat botst met hoe we vaak naar ontwikkeling kijken. We associëren vooruitgang met doorgaan, meer doen en sneller worden. Stoppen voelt daardoor gemakkelijk als achteruitgang.
Toch hoeft dat helemaal niet zo te zijn. Bij fysieke training weet ik dat al jaren. Meer trainen is niet automatisch beter trainen. Een grens negeren omdat je koste wat kost vooruit wilt, kan uiteindelijk juist tegen je werken. Hetzelfde zie je bij werk, slaap en mentale belasting. Er zijn momenten waarop doorgaan iets oplevert en momenten waarop stoppen de verstandigere keuze is.
Dat betekent niet dat technologie en het menselijk lichaam hetzelfde werken. De overeenkomst zit in de vraag die eraan voorafgaat: herken je een grens alleen wanneer alles goed gaat, of blijft die grens ook bestaan wanneer doorgaan aantrekkelijker lijkt?
OpenAI heeft na dit incident gekozen om een deel van het werk stil te leggen en eerst opnieuw naar de beveiliging te kijken. Daarmee wordt een grens niet alleen uitgesproken, maar krijgt hij consequenties.
Bewustzijn begint voor mij vóór het automatische gedrag
Mijn eerdere blog AI en het einde der tijden ging daarom uiteindelijk ook niet alleen over kunstmatige intelligentie. Het ging over onze eigen positie tegenover een technologie die steeds gemakkelijker onderdeel wordt van het dagelijks leven.
Wanneer AI voor mij kan schrijven, zoeken, plannen, analyseren en steeds meer taken uitvoeren, kan ik mij blijven afvragen welke rol ik zelf wil houden. Niet uit angst dat technologie alles van mij afpakt, maar omdat gemak ongemerkt kan veranderen in automatisme.
Dat is voor mij een bewustwordingsvraag. Gebruik ik iets omdat ik er bewust voor kies, of omdat het inmiddels gemakkelijker is geworden dan zelf nadenken? Controleer ik nog wat er gebeurt? Weet ik welke informatie ik weggeef? En heb ik vooraf bepaald wat ik niet door een AI wil laten doen?
Het incident bij OpenAI gaat technisch over een grens die niet volledig gesloten bleek. Voor mij ligt daaronder een veel menselijkere vraag. Hoe vaak stellen wij zelf een grens zonder werkelijk te controleren of ons gedrag nog overeenkomt met wat we hebben besloten?
Misschien wordt dat naarmate AI krachtiger wordt wel belangrijker dan proberen te voorspellen waar de technologie uiteindelijk eindigt. Niet alleen kijken naar wat AI straks allemaal kan, maar ondertussen bewust blijven bepalen wat wij ermee willen doen en waar voor ons de grens ligt.
Bronnen
OpenAI Alignment — An agent used DNS to reach an external chatbot
NU.nl — OpenAI pauzeert werk met krachtige AI na nieuw incident ondanks nieuwe regels
