35
years
v2_
 

Leven, intelligentie en andere gevaarlijke constructies van geest en materie

Translation of a text by Kerstin Dautenhahn from the 1997 publication "TechnoMorphica."

KUNSTMATIG LEVEN

Het onderzoeksplan van kunstmatig leven (AL) richt zich op het synthetiseren van 'levensechte' systemen, complexe structuren, die voortkomen uit silicium in plaats van uit koolstof. Deze van onderaf beginnende, synthetische aanpak om te komen tot complexiteit en intelligent gedrag zet zich met kracht af tegen de klassieke kunstmatige intelligentie (AI) en de daarin geldende definitie van intelligentie als rekenend en probleem-oplossend vermogen. Dit wil echter niet zeggen dat AL relevantere bijdragen levert aan vraagstukken van leven en intelligentie dan klassieke AI. De wetenschappelijke methodologie van AL bestaat uit het gebruik van natuurlijke en kunstmatige systemen als onderdeel van 'vergelijkende studies'. AL en AI gaan beide uit van een objectieve menselijke ontwerper, die er moet zijn om analogieën op te merken, de kwaliteit van het model en de implicaties ervan te evalueren. Maar in de lijn van het radicale constructivisme is objectivisme zelf een illusie, ontworpen als een maatschappelijke conventie die ons in staat stelt om analoge ervaringen uit te wisselen. Dus hoe kan ik, als ontwerper van artefacten, iets leren over leven en intelligentie door zelf deel uit te maken van het systeem? Daarop antwoord ik dat mijn interactieve opvatting van intelligentie en levensecht gedrag gebaseerd is op het bestuderen van het sociale stelsel dat zowel artefacten bevat als mensen die erbij betrokken zijn als onderzoekers, ontwerpers en/of waarnemers. Een van de belangrijkste kwesties die mij bezighouden is hoe mensen technologie interpreteren. In plaats van het aannemen van een duidelijk onderscheid tussen het domein van de waarnemer enerzijds en dat van het 'object' anderzijds, kunnen we object plus waarnemer beschouwen binnen één domein van de cognitieve constructie van sociale 'realiteiten' en leven. Er bestaat geen 'juist antwoord' op de vraag hoe leven kan worden gedefinieerd. Ons dagelijks leven telt talloze voorbeelden van het scheppen van 'artefacten' en wat ze kunnen betekenen voor mensen. Mensen zijn vanaf hun vroegste jeugd heel bedreven in het als echt aanvaarden van allerlei abstracte of denkbeeldige zaken en raken daar ook emotioneel bij betrokken (zoals personages uit stripverhalen, televisieseries en videospelletjes, voetbalclubs, maar ook politieke theorieën en religie). Waar het volgens mij om gaat, is wat echt is voor de belichaamde geest van een individueel mens. Als we de argumentatie van het radicale constructivisme volgen, is het zinvoller om te praten over de door het individu geconstrueerde opvatting van de werkelijkheid dan over een objectieve werkelijkheid. De betekenis, en niet de technologische basis, staat centraal. Zodoende moeten de gebeurtenissen die van belang zijn in het leven van een individu serieus worden genomen, of ze nu ontstaan uit echte, gesimuleerde, virtuele of fictionele ervaringen. Mensen zijn sociale wezens en ze willen technologie die 'vertrouwd' overkomt. Als de betekenis van robots, en de mate waarin deze betekenis sociaal-cultureel is 'ingebed', net zo diepgaand was bestudeerd als hun vermogen tot navigeren en het oplossen van problemen, zouden zelfs robots 'vertrouwd' kunnen worden en 'maatschappelijk aangepast' aan ons.


GELOOFWAARDIGE SCHEPSELS

De laatste tijd krijgt het begrip 'geloofwaardigheid' meer aandacht in het wereldje van autonome, intelligente agents. Het begrip komt uit de kunst en werd aanvankelijk gebezigd voor software agents. Geloofwaardigheid hangt niet noodzakelijk af van het tonen van intelligent, complex of realistisch gedrag. 'Geloofwaardigheid' is het product van de ervaring van de waarnemer. De attitudes van de mens tegenover artefacten zijn voornamelijk bestudeerd door kunstenaars. Op de een of andere manier is de aandacht van een wetenschappelijk onderzoeker anders gericht dan die van een kunstenaar. Maar bij het construeren van artefacten wordt intelligentie uitgedrukt (en gemeten) door het gedrag van het artefact. Op dit punt doen de individuele persoonlijkheid, de naïeve psychologie en het invoelend vermogen van de waarnemer hun intrede en deze kunnen moeilijk worden onderscheiden van wat 'objectieve prestatie-parameters' zouden moeten zijn. Voorbeelden van geloofwaardige personages zien we in 'Toy Story' of in 'Luxor Jr.' (door John Lasseter van Pixar Animation Studios) of in het computerspel 'Creatures' (Millennium). Krijgt niet elk artefact dat wordt beoordeeld door menselijke waarnemers te maken met het geloofwaardigheidsaspect? Geloofwaardigheid heeft niets te maken met misleiding, dat wil zeggen het op oppervlakkige wijze optuigen van een artefact met allerlei eigenschappen die het voor een menselijke waarnemer aantrekkelijk moeten maken. Je kunt wel een staart aan een robot plakken, twee grote ogen op hem schilderen en hem bedekken met kattenvacht, maar daarmee heb je nog geen geloofwaardige kat-robot. We kunnen geen geloofwaardige robots maken door het oppervlakkig 'imiteren' van dierlijke schepsels en hun gedrag, omdat mensen een heel zuiver gevoel hebben voor wat een verhaal plausibel, coherent en 'goed' maakt. Geloofwaardigheid heeft niets te maken met 'in de maling nemen', of met misbruik maken van de typisch menselijke manier waarop we de wereld waarnemen en interpreteren in termen van intentionaliteit. We genieten van liefdesliedjes of films die ons aan het lachen maken of tot tranen toe roeren. Dat duidt niet op het exploiteren van de menselijk voorliefde voor romantiek of tragedies. We houden ervan of niet. Maar het duidt wel op een goed verhaal, een verhaal dat ons kan meeslepen.


HERINNEREN ALS VERHALEN VERTELLEN

In AI en in de computerwetenschap in het algemeen werd het begrip 'geheugen' gedomineerd door de metafoor van de database. Deze metafoor heeft ook grote invloed gehad op begrippen betreffende het menselijk geheugen in de cognitieve wetenschappen. Daartegenover stellen Roger C. Schank en Robert P. Abelson een meer dynamische opvatting van geheugen. Ze wijzen op de relatie tussen verhalen en kennis en geheugen, en de rol die verhalen spelen in processen van individueel en maatschappelijk begrijpen. 1

1. R.S. Wyer, 'Knowledge and memory: the real story', Lawrence Erlbaum Associates, 1995.

Zij menen dat verhalen over iemands ervaringen en over die van anderen de fundamentele bouwstenen zijn van het menselijk geheugen, de menselijke kennis en van sociale communicatie. Nieuwe ervaringen worden geïnterpreteerd in termen van oude verhalen. Opgeroepen herinneringen vormen de basis van de herinnering van het individu aan zichzelf. In die zin zouden gedeelde herinneringen aan verhalen binnen sociale groepen een sociale identiteit definiëren. Verhalen gaan niet alleen over mensen. Machines en technologie hebben er ook altijd deel van uitgemaakt, net als dieren (huisdieren, vee, mythische figuren zoals wolven en beren). We moeten er rekening mee houden dat intelligente, autonome artefacten steeds meer deel zullen gaan uitmaken van ons persoonlijk en cultureel geheugen, en dat ze een rol zullen spelen in onze sociale verhalen.


WETENSCHAPPELIJKE VERHALEN

Wat is de invloed op wetenschappelijk onderzoek van de 'verhalen' die zo'n belangrijke rol lijken te spelen in onze beleving en interpretatie van de wereld? Om een voorbeeld te geven: de technologie waarmee we een robot bouwen, de experimenten die we bedenken, de methodes waarmee het gedrag van de robot kwantificeren en evalueren, de taal en de stijl waarin we over dit project praten – dit alles maakt deel uit van wat de robot is; het is het 'wetenschappelijk verhaal' over dit ene systeem. En als het wetenschappelijk werk het construeren van een artefact betreft dat 'levensecht' gedrag vertoont, ofwel een lichaam heeft als, of zich gedraagt op een manier die eender is aan een natuurlijk levend systeem, dan speelt geloofwaardigheid een belangrijke rol, vooral in de publieke opinie. Het verhaal kan een eigen leven gaan leiden. Zelfs als de robot al weer ontmanteld is, blijft het 'verhaal' bestaan, in de gedachten van mensen, in de 'cultuurmedia' (kranten, video et cetera). De kans dat een verhaal doorleefd is groter naarmate het plausibeler is, met andere woorden: naarmate het een 'beter' verhaal is. In de wetenschap is plausibiliteit gerelateerd aan de mate waarin iets kan worden toegevoegd aan reeds bestaande hoofdstukken in de wetenschappelijke dialoog, ofwel of er een koppeling mogelijk is met reeds bestaande kennis en begrippen omtrent wat 'juist' en 'redelijk' is. We zijn ons ervan bewust dat technologische, historische en sociale aspecten invloed kunnen hebben op wetenschappelijk onderzoek, maar dit inzicht schijnt geen effect te hebben op lopend wetenschappelijk werk. Plausibiliteit werd door Gerhard Roth beschouwd als het 'enige' doel van wetenschappelijk onderzoek in het tijdperk van het constructivisme waarin we er beginnen achter te komen dat de waarheid niet ergens te vinden is! Sommige mensen echter beschouwen het in twijfel trekken van objectiviteit in wetenschappelijk onderzoek als een 'gevaar' voor het wetenschappelijk werk omdat het de grondslagen van methodologie en wetenschapsleer bedreigt. Met andere woorden dat het volledig zou afrekenen met het vlaggenschip van de wetenschap: het streven naar reproduceerbare resultaten. Maar we kunnen best experimenten doen en streven naar reproduceerbare resultaten en tegelijkertijd niet geloven dat we dé waarheid kunnen vinden.


SOCIAAL BEGRIP: VERHALEN OVER ONSZELF EN ANDEREN

Hoe kunnen artefacten deze grens tussen verschillen in opvatting van 'begrijpen' binnen computersystemen en fenomenologie overschrijden en 'sociale geesten' worden? Mijns inziens is de fenomenologische dimensie van sociaal begrip nauw verbonden met empathie als een lichamelijk ervaringsfenomeen van interne dynamiek en, in een tweede proces, met de biografische re-constructie die de empathiserende 'agent' in staat stelt verband te leggen tussen een concrete communicatie-situatie en een complex biografisch 'verhaal', hetgeen hem helpt sociale interacties te duiden en te begrijpen. Biografische re-constructie, die ik belangrijk vind voor meer uitgewerkte vormen van het empathisch begrijpen van een andere persoon, kan gezien worden als het scheppen van een plausibel verhaal over iemands achtergrond en biografie, dat aspecten van zowel verleden, heden en toekomst omvat. Volgens mij vormen verhalen niet alleen de fundamentele structuur van onze herinneringsprocessen, maar zijn ze inherent aan ons (sociaal) begrip van en inter-actie met de wereld. Dit creatieve aspect van het verhalen vertellen, het vertellen van autobiografische verhalen over onszelf en van biografische re-constructies van anderen, is gekoppeld aan het empathisch, door middel van ervaringen relateren van anderen aan onszelf. Mijn stelling is dat dit het centrale mechanisme van sociaal begrip is dat ten grondslag ligt aan wat we 'sociale intelligentie' noemen. Deze algemene opvatting van ervarings-begrijpen beperkt zich niet tot fysiek belichaamde agents; we kunnen ook denken aan een algemene 'sociale interface', bijvoorbeeld om te komen tot middelen voor interactie en communicatie waarbij allerlei soorten agents betrokken kunnen zijn. In mijn opvatting is betrokkenheid een sleutelbegrip voor betekenisvolle, belichaamde interactie. Software agents en fysieke agents (robots) hoeven niet per se een 'natuurlijke' vorm van sociaal gedrag, communicatie en interactie te vertonen; ze kunnen sociale structuren opbouwen in hun eigen gemeenschappen. Maar interacties (bijvoorbeeld in communicatie situaties of bij het gezamenlijk oplossen van problemen) met mensen vergen van deze schepsels dat ze zich 'natuurlijk' gedragen, dus op een manier die acceptabel is voor mensen en waarbij mensen zich prettig voelen. belichaming hoeft niet beperkt te zijn tot een fysiek lichaam; het kan ook worden bereikt als een agent wordt ingebed in en gekoppeld aan z'n omgeving. We zullen gewend raken aan intelligente, persoonlijke agents die computernetwerken doorkruisen en ons helpen op zowel zakelijk als privé-terrein, die instructies geven aan intelligente machines, onderhandelen met autonome robots en die het web weven van een wereldwijde trans-technologische, trans-soortige maatschappij van fysieke en virtuele schepselen die zich 'levensecht' gedragen, gemaakt van metaal, silicium en koolstof.


WETENSCHAP EN FICTIE

Mijns inziens kunnen wetenschappelijke onderzoekingen en kunstzinnige 'scheppingen' (die meestal worden gezien als tegengestelde en/of onafhankelijke terreinen) samenkomen in het zoeken naar het scheppen van complexiteit bij kunstmatig leven. Ik onderscheid twee richtingen in het AL-onderzoek. De richting die waarschijnlijk het meest wordt gevolgd is gebaseerd op de vooronderstelling dat er objectieve criteria bestaan waarmee een objectieve 'logica van het leven' kan worden ontwikkeld die los staat van de materie waaruit de levensvorm is gemaakt. Deze 'logica van het leven' wordt beschouwd als een taal die biologisch leven heeft voortgebracht, die kunstmatig leven (robots, software schepsels) kan voortbrengen en die in aanleg ook van toepassing is op andere, onbekende en nog te ontdekken buitenaardse levensvormen op andere planeten. Deze onderliggende 'filosofie van het denken' is nauw verwant aan AI en de inspanningen binnen die richting om te komen tot een definitie van intelligentie en wil criteria en een Turing-test voor 'leven' ontwikkelen. Langs deze lijn vindt de discussie plaats over 'objectieve' criteria voor leven, en over welke proeven in staat zijn levende artefacten te onderscheiden van niet-levende (analoog aan de Turing-test voor menselijke intelligentie). Volgens mij is het helemaal niet nodig dat wetenschappers specificaties van leven opstellen en mechanismes van 'leven' definiëren die voor alle soorten en voor alle fysieke vormen gelden. Opvattingen over het leven en over leven zijn persoonlijk, subjectief en individueel. Maar als AL niet gaat om het specificeren van leven, waar gaat het dan wel om?

Wat let ons om AL te benaderen binnen het kader van het creatief 'verhalen vertellen', met als doel het vinden van vormen van complexiteit in kunstmatige media die zich voordoen als natuurlijk – en die ons plausibele verklaringen van het leven aanreiken. Hier wordt niet uitgegaan van een 'logica van het bestaan'. Het startpunt is de fysieke materie, niet een abstracte theorie. De uitdagingen zijn gelegen in het doorgronden en onderzoeken van de vorm die complexiteit binnen kunstmatige media kan aannemen, en hoe die ontwikkeld en/of ontworpen kan worden. We moeten niet alleen de evolutie bestuderen om complexiteit te onderzoeken. Het ontwerpen van complexe systemen kan ook plausibele verklaringen opleveren. Elk materiaal kan z'n eigen inherente 'logica' hebben, eigenschappen en mechanismes die complexe structuren vormen. Overigens, waarom moeten we per se een definitie van leven hebben? Leven (en intelligentie) bestaan in de waarneming van de beschouwer (dat wil zeggen: in de gedachten van de onderzoeker). Deze begrippen zijn kenmerkend voor de manier waarop mensen de wereld interpreteren. Waarom moeten wetenschappers het leven definiëren als ieder individueel mens zijn of haar eigen opvattingen over het leven en hoe te leven heeft? Desalniettemin is als doel van het onderzoek gesteld het vinden van geloofwaardige 'wetenschappelijke verhalen' die ons plausibele verklaringen en interpretaties van het leven kunnen verschaffen. Het verschil tussen beide benaderingen van AL is niet hetzelfde als het onderscheid tussen de zwakke en de sterke interpretatie van AL. Ook valt het verschil niet terug te voeren op het gebruik van bepaalde bouwwijzen of mechanismes zoals in de tegenstelling in aanpak tussen dynamische systemen en een op logica gebaseerde benadering. Het cruciale verschil is eerder of men denkt dat er 'daar buiten' iets is wat ontdekt moet worden (de logica achter de dingen, de logica van het leven) of dat het proces zelf van scheppen, construeren, onderzoeken en ontwerpen van systemen hetgeen is – dat ons helpt bij het leren wat leven is. Dit is mijn antwoord op de vraag die Simon Penny stelde: "Waarom willen we dat onze machines lijken te leven?" 2

2. Simon Penny, 'The pursuit of the living machine', Scientific American, 1995.

Deze creatieve 'verhalende' richting in AL is mijns inziens de reden waarom AL zo fundamenteel belangrijk is en vormt tevens de garantie dat dit gebied kan voortbestaan als een waarachtig interdisciplinair onderzoeksveld.


DE TOEKOMST VAN ROBOTS EN MENSEN

Hoe wordt de relatie tussen robots en mensen binnen de door mij aangehangen 'geloofwaardige verhalen vertellende' benadering van AL? We weten heel goed hoe mensen zijn, want we zijn zelf mensen. We weten wel niet precies welk 'doel' mensen hebben, maar we hebben wel een idee wat ze kunnen doen, zouden moeten doen en normaal gesproken doen. Ons beeld van mensen en hun 'functie' is niet consistent, en dat hoeft ook niet. Maar het beeld is kleurrijk, gestructureerd, en zit vol verhalen. Waartoe dient een artefact, bijvoorbeeld een robot? Het kan een machine zijn die voor ons werkt en taken uitvoert, bijvoorbeeld een intelligente stofzuiger. Als het klaar is met z'n werk, zetten we het uit of het gaat naar z'n 'nest'. In ieder geval laat het ons met rust. Het kan ook een uiterst complexe, onvoorspelbare, 'intelligente' machine zijn die ingewikkelde taken uitvoert en die overleeft in rioolbuizen of op de maan. Ze moeten 'functioneren', op wat voor manier en met welke techniek dan ook. Geven we iets om ze? Kijk, ze zijn enigszins 'levensecht', in bepaalde opzichten doen ze ons aan dieren denken. Maar ze zijn niet zoals wij, dus waarom zouden we iets om ze geven? We moeten ze wel kunnen beheersen, want ze kunnen gevaarlijk worden. Ze zijn niet aan ons aangepast. Als ze echt goed zijn, kunnen ze ons zelfs gaan beconcurreren. Zullen ze in staat zijn ons te amuseren, ons te behagen, ons verhalen te vertellen? Ik denk het niet. Ze beelden alleen maar de verhalen uit die ze verteld zijn (door de menselijke ontwerper). Mensen zullen 'beter' zijn, misschien fysiek zwakker en vreselijk langzaam, maar de mens blijft de verhalenverteller. De complexe, belichaamde menselijke geest blijft de bron van creativiteit. Robots kunnen onze 'metgezellen' zijn; onze persoonlijke robots, die ons helpen in het dagelijks leven, op een individuele manier met ons omgaan, voor ons zorgen, ons helpen overleven, ons amuseren. Ze zijn aan ons, als individu, aangepast en aan de menselijke samenleving, aan het menselijk leven. Ze kunnen ons zo grappig proberen na te doen en ons aan het lachen maken wanneer ze een salto proberen te maken en hun wielen steeds blokkeren. Ze leren er dingen bij in hun leven, over zichzelf, over ons. Ze zitten samen met ons in de tuin en kijken naar de kraaien die ronddartelen in de lucht. Als we zeggen dat we zo graag zouden willen kunnen vliegen, zegt de robot: "Ik snap wat je bedoelt". Ze kunnen luisteren. En hun eigen verhalen maken. Geven we dan om ze? Geven we om onze huisdieren? Ze lijken natuurlijk een beetje op ons, ze horen bij het gezin. Ze betekenen iets voor ons, in onze 'wereld', de mentale wereld die in onze gedachten bestaat; de enige wereld waar we toegang toe hebben. Het enige wat 'echt' is. Het kan ons niet schelen tot welke soort robots behoren of waarvan ze gemaakt zijn. Het zijn onze vrienden.

Document Actions
Document Actions
Personal tools
Log in