KU Leuven
Lessen voor de XXI eeuw Twintigste editie, 2013-2014 9 december 2013
Worden computers zelfstandig? Over de technologische singulariteit.
prof. dr. ir. Ph. Dutré
Faculteit Ingenieurswetenschappen - Departement Computerwetenschappen Philip.Dutre@cs.kuleuven.be
Inleiding
De “technologische singulariteit” als idee is gebouwd op twee veronderstellingen:
1. De steeds snellere toename van de technologische ontwikkeling lijkt exponentieel te verlopen. Het klassieke voorbeeld hiervan is de wet van Moore (“Het aantal transistoren op een chip verdubbelt elke 24 maand”), maar andere voorbeelden – voornamelijk uit de wereld van de ICT - wijzen in dezelfde richting.
2. De tweede veronderstelling is de “intelligentie-explosie”. Als we machines (computers) kunnen bouwen die qua capaciteit en qua denkkracht het menselijk brein evenaren of zelfs overstijgen, zal dit leiden tot de creatie van superintelligentie (intelligentie die het nivea van de mens overstijgt). Dergelijke machines zullen de mens niet meer nodig hebben om zichzelf verder te ontwikkelen.
Omdat het zeer moeilijk is om de impact in te schatten van dergelijke evolutie (als ze al zou plaatsvinden), spreekt men van de “technologische singulariteit”.
Context
• De laatste decennia maken we een sterke digitale (r)evolutie mee. Computers worden steeds krachtiger, niet enkel qua ruwe rekenkracht en geheugen, maar ook qua toepassingen. Indien we de capaciteit van een computer vergelijken met die van het menselijke brein, lijkt een kwantitatieve gelijkheid tussen beiden binnen enkele jaren mogelijk.
• Omdat (menselijke) denkprocessen zich in een materieel medium afspelen, lijken er geen bezwaren te zijn om dergelijke processen te simuleren op een digitale machine,. Op dit moment is de exacte werking van het menselijk brein (ons beste voorbeeld voor ontwikkelde intelligentie) nog niet gekend. Dit schept onzekerheid of het überhaupt mogelijk is om “denken” te laten uitvoeren door een machine. Bijkomend aspect hierin is dat het nog vrij onduidelijk is wat men precies als “intelligentie” kan of wil omschrijven.
• Het is nu reeds zo dat een aantal activiteiten door computers worden uitgevoerd, die het menselijk kunnen overstijgen (rekenen, complexe ontwerpen, manipuleren van grote hoeveelheden data). Het onderzoeksdomein van de Artificiële Intelligentie maakt steeds meer vorderingen op basis van allerhande technieken. Sommige van deze technieken zijn geïnspireerd door wat we weten over het menselijk denken, of vergelijkbare processen in de biologie, maar zeker niet allemaal. Sommige activiteiten die vroeger als intelligent werden omschrijven (klassiek voorbeeld: schaken als denksport), zijn door de kracht van computers onderuit gehaald.
Software
Software-algoritmen die ontwikkeld worden voor computers lijken op dit moment de zwakke schakel in het pad naar superintelligente systemen. Weliswaar worden steeds nieuwere toepassingen ontwikkeld, en worden bestaande toepassingen steeds verder verfijnd, maar het is onduidelijk of de methodologieën die we nu kennen voor software-ontwikkeling dezelfde tred kunnen volgen als die van hardware-ontwikkeling. De ontwikkeling van nieuwe software is alleszins een trager verlopend proces dan de snelheid waarmee de mogelijkheden van hardware toenemen.
Technieken zoals zoekalgoritmen, genetische algoritmen, evolutionary computing, neurale netwerken, het gebruik van Markov- of Bayesiaanse modellen zijn veelbelovend om zelf-lerende systemen te bouwen. Sommigen van deze technieken bestaan reeds verschillende decennia en hebben hun nut reeds bewezen (bvb. slimme zoekalgoritmen), anderen lijken op dit moment nog eerder exploratief.
Kritiek
De idee van de technologische singulariteit kent ook een grote scepsis. Kritiek is er in diverse vormen. Enkele voorbeelden:
• De data waarop de formulering van steeds snellere technologische ontwikkeling gestoeld is, is twijfelachtig en selectief;
• Omdat inzicht in de werking van het menselijk brein nog zeer fragmentarisch is, lijkt het onmogelijk om dergelijk complexe systemen te bouwen;
• Menselijk denken vraagt meer dan enkel een fysisch werkend substraat (en is uniek?).
Andere bedenkingen
• Indien machines intelligenter kunnen worden dan mensen, betekent dit dan ook dat machines zelfbewustzijn kunnen ontwikkelen?
• Indien de technologische singulariteit zou plaatsvinden, welk gevolg heeft dit dan voor de mensheid? Uitroeiing? Isolatie? Inferioriteit? Integratie? Dit laatste lijkt de meest voor de hand liggende optie, wat kan/zal leiden tot transhumanisme: het zijn uiteindelijk de mensen zelf die zichzelf verbeterd hebben met behulp van niet-biologische denkprocessen.
Literatuur & Links
• “The Singularity: A Philosophical Approach”, David J. Chalmers, Journal of Consciousness Studies 17:7-65, 2010.
• The Singularity is Near, Ray Kurzweil, Duckworth Overlook, 2005
• Artificial Intelligence: A modern approach. Stuart Russel, Peter Norvig, Prentice Hall • http://www.singularity.com/
