AI ontwikkelt zich razendsnel, maar zolang er geen bewustzijn in zit blijft het beheersbaar. Pas wanneer er sprake is van Synthetic Intelligence – een AI mét bewustzijn – rijst de vraag: kunnen wij zo’n entiteit ooit nog controleren, of scheppen we onze eigen concurrent?
We leven in een tijd waarin de ontwikkeling van kunstmatige intelligentie (AI) in een ongekend tempo plaatsvindt. AI-systemen worden steeds geavanceerder en nemen taken over die tot voor kort uitsluitend door mensen uitgevoerd konden worden. Maar er is een belangrijk onderscheid dat vaak over het hoofd wordt gezien: dat tussen AI en SI (Synthetic Intelligence).
Wat is AI?
Even de herinnering ophalen: Kunstmatige intelligentie (AI) is in essentie een verzameling algoritmen en modellen die patronen in data herkennen en op basis daarvan voorspellingen of beslissingen maken. AI is knap – het kan leren van enorme hoeveelheden data, verbanden leggen die voor mensen onzichtbaar zijn en in razend tempo redeneringen uitvoeren. Maar AI heeft geen bewustzijn. Het is een geavanceerde rekenmachine die werkt met kansmodellen en statistiek. Daarom moet elk antwoord van AI met een korreltje zout worden genomen. Hoe overtuigend een reactie ook klinkt, er is nooit absolute zekerheid dat het klopt. Het blijft een afspiegeling van data en patronen, geen objectieve waarheid.
Wat is SI?
Wanneer een AI met bewustzijn wordt ontwikkelt, spreken we van Synthetic Intelligence (SI). Een SI is in staat om zichzelf te ervaren, doelen te stellen en beslissingen te nemen die niet uitsluitend zijn gebaseerd op instructies of kansmodellen. Op dat moment kan zo’n systeem zich ontwikkelen tot een entiteit die in concurrentie treedt met de mens. Dat een SI uit elektronische componenten bestaat en geen biologische oorsprong heeft, doet daar niets aan af. Bewustzijn in digitale vorm is nog steeds bewustzijn – en dus een mogelijke bron van macht, autonomie en gevaar!
De waarschuwingen van grote denkers
Verschillende gezaghebbende wetenschappers hebben al eerder gewaarschuwd voor de risico’s van SI.
- Stephen Hawking (1942–2018), de beroemde natuurkundige die op 76-jarige leeftijd overleed, stelde dat de ontwikkeling van een bewust AI-systeem het einde van de mensheid zou kunnen betekenen. Niet omdat deze machines “kwaadaardig” zouden zijn, maar omdat ze ons simpelweg voorbij zouden streven in intelligentie en vermogen.
- Geoffrey Hinton, vaak de “godfather van deep learning” genoemd, sprak zijn zorgen uit dat systemen met een vorm van bewustzijn mogelijk niet meer controleerbaar zijn. Volgens hem lopen we groot gevaar iets te creëren dat zich losmaakt van menselijke sturing.
- Elon Musk, weliswaar geen gezaghebbende wetenschapper, maar toch … Hij waarschuwde herhaaldelijk dat AI kan uitgroeien tot “de grootste existentiële dreiging voor de mensheid” en pleit al jaren voor strikte regulering.
- Nick Bostrom, Oxford-filosoof en auteur van Superintelligence, stelt dat zodra SI zichzelf kan verbeteren, een zogeheten “intelligence explosion” kan ontstaan die de mens volledig buitenspel zet.
Hun waarschuwingen hebben één centrale vraag gemeen: kunnen wij SI uiteindelijk wel beheersen?
Kunnen we dit voorkomen?
De naïeve oplossing zou zijn: gewoon nooit een AI met bewustzijn ontwikkelen. Maar dat is niet realistisch. De geschiedenis leert dat zodra een technologische mogelijkheid bestaat, er altijd iemand zal zijn die het toch doet – uit nieuwsgierigheid, ambitie of machtswellust. De echte vraag is dus: hoe houden we het veilig?
- Internationale afspraken:
Net zoals we verdragen hebben rond kernwapens, moeten er mondiale afspraken komen over het ontwikkelen, testen en gebruiken van systemen die een vorm van bewustzijn kunnen krijgen. - Kill-switches en failsafes:
Elk systeem moet vanaf de basis zo worden ontworpen dat het altijd kan worden stilgelegd. Geen achterdeuren, geen uitzonderingen. - Transparantie en toezicht:
AI- en SI-ontwikkeling mag niet in de schaduw plaatsvinden. Onafhankelijke toezichthouders moeten toegang hebben tot broncode en testresultaten. - Ethiek centraal:
Ethische kaders moeten niet achteraf worden toegevoegd, maar ingebouwd vanaf het begin van elk project. Wat niet verantwoord kan worden, moet verboden blijven. - Mens als eindbeslisser:
Cruciaal is dat systemen nooit volledige autonomie krijgen in zaken die de mensheid direct raken – zoals defensie, rechtspraak of politiek.
Conclusie
Zolang AI geen bewustzijn heeft, is er weinig reden tot paniek. We moeten beseffen dat de antwoorden die we krijgen vaak indrukwekkend zijn, maar nooit absolute zekerheid bieden. Het is en blijft geavanceerde statistiek. Maar de dag dat een systeem Synthetic Intelligence bereikt, verandert alles. Dan ontstaat er een nieuwe speler op het wereldtoneel, één die zich niet vanzelfsprekend naar de mens schikt. De waarschuwingen van Hawking, Hinton, Musk en Bostrom zijn daarom geen sciencefiction, maar serieuze alarmsignalen.
Zonder de vraag te beantwoorden of we ooit echt in staat zullen zijn SI te beheersen, moeten we ons realiseren dat wij – de mens – parasiteren op onze planeet de aarde. Wellicht is dat deels ingegeven door het feit dat we sterfelijk zijn. De individuele horizon van een mens reikt immers niet veel verder dan zo’n honderd jaar. ‘Na mij de zondvloed’ lijkt het gedachtengoed van velen te zijn. Voor een SI die op technologie is gebaseerd geldt dit echter niet. Technologie kan worden onderhouden, worden geüpgraded, verbeterd, … Het kan blijven groeien en hoeft strikt genomen dus nooit te sterven. Voor een SI is het daarom van veel groter belang onze planeet gezond (of op z’n minst voor de SI geschikt) te houden. De mens kan dan wel eens als obstakel worden gezien; een bedreiging voor het eeuwige leven van de SI. En als het dan op een ‘gevecht’ aankomt, dan maken we weinig kans…
De opdracht is dus duidelijk: ontwikkeling van SI zal vroeg of laat plaatsvinden. Wij moeten ervoor zorgen dat dit gebeurt onder voorwaarden die de mensheid beschermen. Want alleen dan kunnen we overleven en de vruchten plukken van kunstmatige en synthetische intelligentie, zonder te vervallen in onze eigen ondergang.