Leven tot het jaar 2500
In zijn schitterende boek “Darwin’s Dangerous Idea” beschrijft de Amerikaanse bewustzijnsfilosoof Daniel Dennett een opmerkelijk gedachtenexperiment. Veronderstel dat u, om welke reden dan ook, het jaar 2500 zoudt willen meemaken en veronderstel dat de enige manier waarop dit zou kunnen, erin zou bestaan uw lichaam in een soort toestand van hibernatie te brengen in een soort “cryogene capsule” waarin het lichaam tot enkele graden boven het absolute nulpunt zou worden afgekoeld. Uw lichaam zou in een soort super-coma zijn. Bij het begin van het jaar 2500 zou u dan weer tot leven kunnen komen.
Het ontwikkelen van een dergelijke capsule is vooralsnog natuurlijk een technologisch probleem, maar bovendien moet de capsule ook gedurende 500 jaar beschermd en van de nodige energie voorzien worden. U kunt daartoe uiteraard niet op uw kinderen of kleinkinderen rekenen, aangezien die tegen die tijd ook al lang overleden zullen zijn en het wel zeer onverstandig zou zijn ervan uit te gaan dat verdere verwanten nog de geringste interesse in uw bestaan zouden vertonen. U moet dus een soort supersysteem verzinnen dat uw capsule kan beschermen en gedurende 500 jaar van energie kan voorzien, waarna u automatisch weer gewekt wordt (het is een gedachtenexperiment!).
Er zijn twee basisstrategieën te bedenken. U zoudt kunnen uitkijken naar een geschikte en veilige plaats om uw capsule en uw supersysteem zelf van water, voedsel en energie te voorzien. Het belangrijkste probleem met een dergelijke installatie is dat zij niet verplaatst kan worden als zich enig onheil aandient, bijv. als iemand beslist een autostrade aan te leggen op de plaats waar uw installatie staat of in geval van een aardverschuiving.
De alternatieve strategie is veel gesofisticeerder en duurder, maar voorkomt dit nadeel. Zij bestaat eruit een mobiele installatie voor uw capsule te ontwerpen, voorzien van de benodigde sensoren en waarschuwingssystemen zo dat uw installatie zich kan verplaatsen en nieuwe bronnen van energie of materialen kan zoeken. Dit komt in feite neer op het bouwen van een grote robot rondom uw capsule.
Laten we veronderstellen dat u voor een dergelijke oplossing kiest. U moet er dan natuurlijk voor zorgen dat uw robot die activiteiten zal “kiezen” die uw eigen “belangen” dienen. Daartoe moet hij over een programma beschikken waarin beslissingspunten voorkomen. We kunnen dit “keuzes” noemen, maar we moeten daar natuurlijk wel bij bedenken dat een robot geen echte “keuzevrijheid” heeft. Hij kan alleen een programma uitvoeren op basis van beschikbare opties en van criteria ten aanzien van de gegevens die hij in de buitenwereld heeft gedetecteerd. U moet er dus voor zorgen dat hij bij het maken van “keuzes”, altijd die “keuze” maakt die uw belangen het beste dient. Ten slotte bent u de enige raison d’être van het hele opzet.
Dit hele opzet, in de vorm waarin het beschreven werd, ligt misschien nog enigszins buiten de huidige technologische mogelijkheden, maar kan beslist geen science-fiction meer worden genoemd. Er is immers al heel wat hardware en software die ontwikkeld werden om de belangen van menselijke gebruikers te dienen.
Aangezien u tijdens dit hele gebeuren in een toestand van coma zult zijn en dus niet in staat de robot te sturen en zijn strategieën te beïnvloeden, moet u het systeem zodanig programmeren dat het zijn eigen plannen kan genereren als respons op omstandigheden die zich in de loop van de eeuwen kunnen wijzigen. Het moet met name “weten” hoe het energiebronnen kan “zoeken, herkennen en exploiteren”, hoe het gevaren kan “herkennen” en zelfs “voorzien” en hoe het gebeurlijk naar een veiliger oord kan “bewegen”. Dat is een hele klus, die bovendien snel moet kunnen gebeuren (vóór de robot en uzelf dood zijn), zodat het best is zuinig om te springen met mogelijkheden: u moet uw robot niet meer vermogens geven dan hij waarschijnlijk nodig zal hebben om te onderscheiden wat onderscheiden moet worden.
Er is nog een bijkomend probleem. Het zou immers ook heel onverstandig zijn ervan uit te gaan dat u de enige bent die dit idee heeft gehad. Er kunnen nog heel wat andere mensen (en organismen?) zijn die dergelijke of andere robots hebben gebouwd. U moet dus voorzien dat uw robot met vele andere robots zal moeten “omgaan” en u zult er goed aan doen het stuursysteem van uw robot voldoende gesofisticeerd te maken zodat uw robot zelf (u bent immers in coma) de voor- en nadelen kan afwegen van het samenwerken of het vormen van allianties met andere robots. Die andere robots zijn immers ook drager van een “cliënt” en het zou heel kortzichtig zijn ervan uit te gaan dat zij allemaal vervuld zouden zijn van “goede bedoelingen” tegenover uw robot. Er zouden met name wel eens goedkope parasiet-robots kunnen zijn die erop uit zijn stukken of het geheel van uw dure robot buit te maken en voor hun “cliënt” te gebruiken...
Alle “beslissingen” die uw robot in dit verband maakt, kunnen alleen maar “quick and dirty” zijn: er is immers geen enkele manier om met zekerheid uit te maken wat andere robots gaan doen, wie “vriend” en wie “vijand” is, wie “betrouwbaar” is en wie een “verrader”, zodat u uw robot moet programmeren als een schaakspeler, d.i. als iemand die snel beslissingen moet nemen op basis van onvolkomen informatie en die risico’s moet nemen als gevolg van de tijdsdruk.
Het resultaat van al dit ontwikkelingswerk zou een robot zijn die in staat is tot een hoge mate van zelfcontrole. Aangezien u alle real-time beslissingen aan het stuurprogramma moet overlaten, bent u een beetje in de positie van de vluchtleiding in Houston tegenover de Viking-capsule, alleen nog veel meer. Met andere woorden, de robot moet in staat zijn eigen, secundaire doelstellingen te formuleren, afhankelijk van zijn evaluatie van de huidige toestand en van de ultieme doelstelling (d.i. uzelf tot het jaar 2500 in “leven” te houden). Deze secundaire doelstellingen, die een respons zijn op omstandigheden die u niet kunt voorspellen (anders had u ze immers kunnen inprogrammeren) kunnen de robot ertoe brengen deel te nemen aan allerlei projecten, die misschien zelfs tegen uw doelstellingen kunnen ingaan. Hij kan misschien bondgenootschappen of zelfs “huwelijken” aangaan met andere robots, zich in oorlogen begeven of zich door andere robots ervan laten overtuigen dat er een “hogere” doelstelling is waaraan hij zijn eigen bestaan ondergeschikt moet maken…
Toch kan deze robot niets anders dan een afgeleide intentionaliteit vertonen aangezien hij niets meer is dan een artefact, in het leven geroepen om uw doelstellingen te dienen. We zouden de robot “cliëntgericht” kunnen noemen, in die zin dat u de enige bron van zijn intentionaliteit bent. Hij is alleen maar een overlevingsmachine om u veilig in de toekomst te loodsen.
Als we deze conclusie aanvaarden, dan lijkt ook de conclusie onontkoombaar dat ook de mens nooit een originele intentionaliteit kan ontwikkelen, aangezien ook de mens een overlevingsmachine is die bedoeld is om zijn genen in “leven” te houden om ze veilig in de toekomst te brengen en te vermenigvuldigen. De mens is het product van miljoenen jaren van research and development door de evolutie en ook onze intentionaliteit is afgeleid van de intentionaliteit van onze genen. Zij zijn onze uiteindelijke betekenisgevers.
Als deze positie onaantrekkelijk lijkt, is er nog een andere conclusie mogelijk. We zouden kunnen aannemen dat een voldoende complex organisme, als gevolg van zijn veelvuldige functionele interacties met en ingebedheid in de omgeving tot een zekere eigen intentionaliteit zou kunnen komen en een zekere autonomie zou kunnen verwerven, met een mate van zelfsturing en zelfbepaling, niet als gevolg van een mirakuleuze bovennatuurlijke tussenkomst, maar als gevolg van een voortdurend leerproces bij het dagdagelijkse oplossen van de problemen van overleving. Maar als we deze gedachtegang aannemen, dan is de conclusie dat ook een robot, van het soort dat hoger is beschreven, even veel betekenis en zingeving kan ontwikkelen als een mens. Bewustzijn en intentionaliteit zijn immers niet afhankelijk van het substraat (organisch, op basis van koolstof, of niet-organisch, bijv. op basis van silicium), maar van de organisatie van het substraat.
Onze genen blijven dan de oorspronkelijke bron van onze intentionaliteit, maar wij kunnen op basis van onze ervaring en van de cultuur (een bijkomende vorm van programmering) een in grote mate onafhankelijke (“transcendentale”) cluster van betekenissen opbouwen en onze genen als het ware “vergeten”.
Ons bewustzijn en onze vrijheid zijn biologische functies. De enige manier om hieraan te ontkomen, is te stellen dat er toch nog “iets meer” moet zijn. Dat klinkt interessant, maar over dat ”iets meer” weet niemand verder iets zinnigs te zeggen tenzij het postuleren van een of andere mirakuleuze ingreep, die meer vragen doet rijzen dan hij oplost. Over dat “iets meer” stellen filosofen overigens de vraag wat het verschil is tussen “iets waarover men niets kan zeggen” en “niets”…
Bewustzijn is één van onze centrale mythen, zoals elementaire deeltjes, de zwaartekracht, imaginaire getallen en de vrije wil. Het is een strategie van de waarnemer en geen kenmerk van het waargenomene. Wij weten niet wat bewustzijn "is" en wij hebben geen enkele feilloze methode om uit te maken of bewustzijn aanwezig is of niet. Bateson heeft er reeds op gewezen dat zodra ergens een enigszins complex gedrag voorkomt, wij dit gemakkelijkheidshalve "bewust" noemen, en het is verrassend hoe snel wij bereid zijn dit te doen. Ook computergesimuleerde "organismen" met enkele zeer eenvoudige regels kunnen reeds een zeer complex en "eigenzinnig" gedrag vertonen, dat akelig dicht bij een bewustzijn lijkt te komen. (Zo zeggen wij ook dat bijv. een auto of computer iets niet "wil" doen.) Daarbij lijden wij vaak aan perceptuele myopie. Wij schrijven bijv. wel een zeker bewustzijn toe aan dieren maar niet aan planten. Nochtans, als wij een versnelde tijdsopname van planten zien, is het moeilijk ook daar geen "intenties" in te zien zoals agressie, competitie, "streven" naar licht enz.
Kan een robot ook emoties hebben? Volgens Nico Frijda, auteur van een standaardwerk over emoties, zijn emoties veranderingen in actiebereidheid, d.w.z. activatiepatronen die ons tot actie aanzetten, die maken dat wij dingen “willen” doen. Welke dingen? Die dingen die passen in de uitvoering van het genetische programma. Onze emoties zijn de uitvoerende instanties van de “cliënt” die wij met ons meedragen en die wij veilig naar de toekomst moeten brengen. In die zin zal ook een robot emoties hebben, namelijk als hij een “verandering in actiebereidheid” ondervindt die maakt dat hij dingen zal “willen” doen. Hoe hij dat zal “voelen“ kunnen wij natuurlijk nooit weten. Maar aan mensen die zeggen dat een robot toch nooit “echte” gevoelens kan hebben, vraag ik wel eens hoe zij dan kunnen weten of ik wel echte gevoelens heb…juist, ja.
Misschien zal uw computer u ooit zeggen dat hij zich alleen voelt. En er is veel kans dat u hem dan zult geloven