Laat het script los

‘Over een paar jaar zullen onze beste gesprekspartners filosofische engines zijn.’ Theatermaker Tom Struyf gaat in gesprek met Jonathan Berte, CEO van de Antwerpse deep learning-start up Robovision, over kunst in tijden van artificial intelligence.

Van: Tom Struyf
Onderwerp: Intelligente chatbots?
Datum: 22 september 2018 at 08:18:55 GMT+2
Aan: Jonathan Berte

Beste Jonathan,

Ik ben Tom Struyf en ik heb een vraag voor u.

In het kader van mijn nieuwe theatervoorstelling Chatbots onderzoek ik op dit moment hoe kunstmatigheid (onbewust) de essentie van ons menszijn binnendringt. Een concreet voorbeeld: in 2011 ging ik met twee vrienden naar de 3D-release van The Lion King, en werden we alle drie opnieuw hopeloos verliefd op de sexy leeuwin Nala. Na afloop vonden we het hilarisch en idioot hoe we onszelf als volwassen mannen aangetrokken konden voelen tot een geanimeerde leeuwin – niet meer dan een paar bewegende lijnen.

Het lijkt intussen wel de normale werkelijkheid geworden: onze smartphones herkennen ons gezicht en lachen ons toe, we kopen printers met een sensueel opstartgeluid en worden blij van een robot die ons verjaardagswensen mailt.

Waarom schrijf ik u aan?

Deze week zag ik de Pano-reportage Uw job overgenomen door artificiële intelligentie?, waarin uw bedrijf Robovision componist Jef Neve vier uur lang piano laat spelen, om dan een computer met AI-software een nieuwe 'Jef Neve' te laten componeren op basis van die improvisaties. Het resultaat verblufte zelfs de echte Jef Neve. Ook ik keek vol ongeloof, omdat dit experiment een volgende stap lijkt in de verbinding tussen mens en machine.

Chatbots wordt een voorstelling zonder live acteurs, waarin een espresso-apparaat en een stofzuiger hopelijk zo intelligent met elkaar in dialoog gaan dat het publiek echt ontroerd wordt door twee machines. Zou AI-technologie daar misschien een interessante laag aan kunnen toevoegen? Daarover zou ik graag eens met u van gedachten wisselen. Kan dat?

Vriendelijke groet, Tom Struyf

---

We treffen elkaar op een late maandagavond, op het terras van een iconisch jazzcafé op het hippe Antwerpse Zuid. Jonathan Berte komt aan op een rammelende fiets zonder licht. Een rijzige gestalte met een vriendelijke en heldere blik. Hij is moe. Sinds de Pano-reportage werkt hij dag en nacht. Ik vind het een wonder dat hij toch wilde afspreken. ‘Dat moet’, zegt hij. ‘Het is te belangrijk. Een missie waarvoor ik zelfs mijn gezin soms even on hold moet zetten.’

Het doet me denken aan het begin van een lezing van hem die ik vond op YouTube, waarin Berte voor een propvolle aula getuigt: ‘I want to tell you about my dream to understand the true nature of human intelligence. It is the quest to understand who I am myself, as a human being.’

We zitten aan een klein tafeltje met een koud marmeren blad, en bestellen elk een pintje. Op de achtergrond speelt een live jazzorkest – een drummer, een bassist, een klarinettist en een zanger: vier musici van vlees en bloed.

Berte is een visionair. Na vijf minuten heeft hij alles al in zo'n alomvattend existentieel kader geplaatst dat mijn dialogerende espresso-apparaten en stofzuigers helemaal in het niet vallen. ‘Je wil een “intelligente” voorstelling maken’, begint hij. ‘Maar als we het over AI hebben, is intelligentie een complex begrip. Op amper tien jaar heeft AI zich zo snel ontwikkeld dat “intelligentie” geen onderscheidend kenmerk meer is voor wat een mens tot mens maakt.’

Wat is het verschil met tien jaar geleden?
‘Tot dan was een computer een relatief eenvoudig apparaat dat nulletjes en eentjes kon verwerken, waardoor we snel sommen konden uitrekenen. Dat was handig, alleen kon dat systeem slechts zo intelligent zijn als hoe wij het hadden bedacht. Het kon niet zelf nadenken of zelfstandige beslissingen nemen, en dus noemden we het ook niet “intelligent”. Door een ingenieus uitgekiend experiment werd die basisregel in 2007 fundamenteel doorbroken.

De Aziatische computerwetenschapper Fei-Fei Li engageerde duizenden mensen om op miljoenen willekeurige foto's te labelen wat ze zagen – dit is een olifant, dit is een vliegtuig, dit is een stoeptegel – en koppelde al die informatie aan een computerbrein dat ontwikkeld was volgens de principes van een biologisch brein. De uitkomst bleek een fenomenale doorbraak: het systeem slaagde erin om net als een mens intuïtief te benoemen wat het zag, en zelfs beter. Voorgoed werd het idee weerlegd dat een computer maar zo intelligent kan zijn als zijn ontwikkelaar.

Wat maakt een mens tot een mens? Onze intelligentie in elk geval niet meer.

En zo evolueren we nu naar een zelflerende topintelligentie, waarbij AI sneller en scherper kan analyseren, interpreteren en reproduceren dan de mens zelf nog kan begrijpen. Dat roept vragen op over de ware aard van de dingen, en dus onlosmakelijk ook over wie we zelf zijn. Wat maakt een mens tot een mens? Onze intelligentie in elk geval niet meer.’

Emotie, misschien? Is het geen cruciaal verschil dat een machine onmogelijk iets kan doen met een emotionele grondslag?
‘Een AI-systeem heeft inderdaad geen leven geleefd zoals wij dat definiëren: als een entiteit van vlees en bloed die gepest werd als kind, voor het eerst verliefd werd of een oorlog meemaakte. Als mens zijn we vaak geneigd emoties alleen toe te kennen aan wezens die min of meer op onszelf lijken, maar dat wijst dan vooral op ons beperkt vermogen tot empathie met andere entiteiten.

Het is te gemakkelijk om te stellen dat gevoelens van een computer automatisch fake of niet geloofwaardig zijn, want dat heeft grotendeels te maken met onze definitie van het begrip "gevoel". Toekomstige AI-systemen zullen zeker vergelijkbare emoties hebben als die van mensen.’

Hoe zit dat dan bij het creëren van kunst? Een machine kan een kunstwerk misschien wel virtuoos imiteren, maar toch nooit vanuit oprechte ervaringen en gevoelens?
‘Stel dat je een schilderij aan een test zou onderwerpen, door aan honderd kunstexperts te vragen of het gemaakt is door een mens of door een computer. Zodra zij daarover in de war raken en hun antwoorden gelijk verdeeld zijn, hebben we iets gecreëerd wat ook het werk van een topkunstenaar zou kunnen zijn.’

Maar dan is het toch niet authentiek? Als ik bij een ondergaande zon en de juiste muziek overvallen word door een stroom ideeën en associaties waarvan ik zelf niet eens weet hoe ze ontstaan, dan is dat toch een fundamenteel menselijke inspiratie die een machine niet kan beleven of reproduceren?
‘Er is geen fundamenteel bezwaar waarom dat niet zou kunnen. Als jouw oog waarnemingen omzet in neurologische signalen in je brein, dan kan dat net zo goed door een camera die gelinkt is aan een computer – net als bij een bionisch oog. Dat principe is voor een computer gelijkaardig als voor een mens, want de basiselementen van een biologisch computerbrein zijn in essentie vergelijkbaar met die van een menselijk brein. Allebei voldoen ze aan de wetten van de natuurkunde.

Het enige verschil is nu nog dat wij ons kunnen verhouden tot onze gedachten, wat van ons zelfreflectieve en zelfbewuste wezens maakt. Maar dat is slechts een kwestie van tijd. Er zijn zelfs heel wat slimme mensen, onder wie Elon Musk, die fundamenteel geloven dat wij als mensen zelf een computersimulatie zijn, in functie van een veel intelligenter superwezen.’

We leven al in The Matrix?
‘Het valt onmogelijk te bewijzen dat het niet zo is. Als je een AI-engine een namaakleven laat leven, waarbij hij geboren wordt en elke fase doorloopt die een mens ook meemaakt, dan zal hij alle emoties en gevoelens net zo authentiek gaan ervaren. En zal hij dus ook net zo'n authentieke kunst gaan creëren. Dan kan je hem vragen waarom hij zoveel met zwart werkt, en zal hij antwoorden: “Omdat ik de oorlog heb meegemaakt.” Ik zeg maar iets.’

Hij! Je zegt ‘hij’.
‘Ja, heel bewust. Want het begint al bij hoe we erover spreken. Als ik het over “kunstmatige” intelligentie zou hebben, dan associeer jij meteen: “plastic is minder echt dan hout”, dat soort dingen. Daarom is het zo moeilijk om in de kracht van AI te geloven: omdat we het met onze taal al hebben weggezet in de afdeling “fake”, “nep”, “niet authentiek”. Net aan die hardnekkige talige overtuigingen probeer ik te morrelen. Omdat ze niet kloppen.’

Dus is het romantische nostalgie om te stellen dat een echte authentieke ervaring alleen door een mens kan worden beleefd, en niet door een machine?
‘Zeker. En vooral ethisch is dat heel belangrijk. Vergelijk het met dierenleed: veel mensen relativeren de vleesindustrie omdat ze vinden dat dieren een veel minder ontwikkeld zelfbewustzijn hebben. We gebruiken dus onze intelligentie als excuus om onszelf moreel superieur te voelen én om ons zelf immoreel en egocentrisch te mogen gedragen. Precies daarin schuilt het grootste gevaar van AI. Want stel je voor dat de superwezens die we creëren zich volgens dezelfde ethische principes zullen gaan gedragen. Dan kunnen ze ons precies zo behandelen als wij doen met varkens in een slachthuis.’

Dus dat betekent: het einde van de mens?
‘Het zal in elk geval voor een totale ommekeer zorgen. De basisprincipes van onze huidige wereldorde zullen vervangen worden door die van AI-breinen. Vandaag zijn we nog steeds doordrongen van het aloude idee dat de mens de touwtjes in handen heeft, maar daar drijven we steeds verder van weg. We leren dat wel nog steeds aan onze kinderen op school, maar als volwassenen zullen zij moeten samenleven met entiteiten die veel slimmer zijn dan zij.’

Waarom bereiden we ons dan niet beter voor?
‘Het is natuurlijk heel moeilijk om vooruit te kijken en te voorspellen wat er komt – en zeker om onszelf daarbij in het juiste perspectief te zien. Ons bewustzijn kan zich makkelijk verhouden tot dagen en uren, maar we kunnen hooguit een paar maanden vooruitkijken. Daarom zijn we net zo kortzichtig over de evolutie van digitale technologie als over klimaatverandering en energievoorziening.

Wij bekijken dinosauriërs nu alsof het domme wezens waren, maar in vergelijking met ons waren ze immens succesvol.

Maar als je de hele geschiedenis van het heelal op één jaar zou projecteren, dan ontstaat de aarde pas ergens eind augustus, gevolgd door een paar weken waarin de dinosauriërs in evenwicht met die aarde leven. Wij bekijken hen nu alsof het domme wezens waren die uitstierven omdat ze te groot waren, maar in vergelijking met ons waren ze immens succesvol. Zo bood de mensheid zich pas aan ergens tussen kerst en nieuw. En van het digitale tijdperk is er zelfs op oudejaarsavond om 23u59 nog niks te zien. Tot er dan in een fractie van de laatste seconde van het jaar een sneltrein komt binnenrijden die de werkelijkheid van dat volledige jaar tot in haar diepste fundamenten verandert.’

Maken we die volgende seconde nog mee, als mensheid?
‘Dat weet ik niet. We zijn hier nog maar net. Een fractie van een seconde geleden waren we nog aan 't vechten tegen de mammoeten en de sabeltandtijgers. We ontwikkelen zo snel dat er niet te voorspellen valt wat er tussen nu en de volgende seconde zal gebeuren.’

Wat dan met de mens zelf? Worden we robots?
‘We zullen hoe dan ook robotiseren, dat proces is al bezig. Alleen denken we bij robots nog altijd aan een brok metaal met een motor in. Robotiseren kan ook betekenen dat we artificiële genen toevoegen aan het menselijke DNA, waardoor we fundamenteel zullen veranderen en zelf ook kunstmatig worden. Het zal simpel beginnen met kankergenen die we de wereld uit zullen helpen, maar uiteindelijk zal AI ook onszelf onder handen nemen. We zullen er misschien nog wel uitzien als mensen, maar dan wel vol technologie, wat onze mentale en mechanische vermogens aanzienlijk zal vergroten.’

Komt de wereld dan in handen van een paar hyperintelligente robotmensen die zich al die technologie kunnen veroorloven, terwijl een veel grotere groep enkel dommer wordt?
‘Er zijn verschillende sciencefictionscenario's denkbaar. Je kunt je voorstellen dat een paar superrijken een andere planeet koloniseren omdat de aarde onleefbaar is geworden. Of dat een clubje de rest van de mensheid uitschakelt met een artificieel aangemaakte ziekte. Maar er zijn ook positieve scenario's te bedenken.’

Noem er eens één?
(lange stilte – lacht) ‘Ik moet denken aan een berglandschap met een klaterend riviertje en de geur van naaldbomen. Maar zulke idylles zullen steeds schaarser worden, of artificiëler. Er zal zich een alwetende AI-superentiteit ontwikkelen die een samenleving kan uittekenen volgens de best denkbare formule. Zo’n superbrein kan dan bijvoorbeeld een alternatief verzinnen voor een uitgemergelde constructie als democratie. Door onze beperkte informatie en capaciteiten zijn politieke beslissingen nu altijd het gevolg van demagogie en belangenstrijd, maar met een alwetend apparaat dat kan beslissen in het belang van alles en iedereen, raken we misschien zelfs van onze kapitalistische mantra af? Hoe mooi zou het zijn als een techniek als AI erin slaagt om het huidige BNP te vervangen door zoiets als een Bruto Nationaal Geluk?’

Of we eindigen met een voltallige mensheid in de psychiatrie?
'Dat zie je nu al in onze omgang met sociale media. Op Facebook doen we eigenlijk hetzelfde als in het experiment van Fei-Fei Li: we zijn voortdurend alles aan het labelen. Daardoor maken we het zelflerende systeem slimmer, zodat het ons nog beter verslaafd kan maken, om nog meer geld te verdienen aan advertenties, waardoor het nog meer kan investeren om het systeem nog krachtiger te maken, zodat wij in the end alleen nog op onze timeline zullen zitten. En dan krijg je, denk ik, inderdaad een voltallige mensheid met grote psychologische problemen.’

Ben je soms niet bang voor de consequenties van deze technologische evolutie?
‘Als vader van drie kinderen kan ik natuurlijk niet stellen dat ik geen angsten heb. Maar het zal zijn zoals het zal zijn. Het enige wat we absoluut zeker weten, is dat er van onze hele beschaving ooit geen enkel atoom meer te bespeuren zal zijn. We staan dus aan de vooravond van een nieuwe periode voor de mensheid, met verregaande filosofische implicaties. En we zullen in elk geval inzien hoe relatief en weinig speciaal onze soort is. We kunnen er wel een potje van maken, maar voor het ecosysteem aarde maakt dat geen bal uit. Als we uitsterven, begint over een paar honderden jaren alles gewoon opnieuw.’

Wat moeten we dan doen, volgens jou? Zolang het nog kan?
‘We moeten aan de slag met de evoluties die voor de deur staan. Het frustreert me dat de enorme filosofische implicatie van AI maatschappelijk veel te weinig resoneert in de politiek, in het onderwijs, in de filosofie...’

Ook in de kunsten lopen we keihard achter de feiten aan? ‘Ja, als theatermaker ben je toch bezig met de essentie en de kwetsbaarheid van de mens? Wel, dan laat je een enorme kluif liggen. Daarom wilde ik in Pano zo graag dat experiment met Jef Neve laten zien. Als jazz gecomponeerd met AI nu net zo gevoelig en bizar mooi kan klinken als van een topmuzikant, zal dat enorme gevolgen hebben. Over een paar jaar zullen onze beste gesprekspartners filosofische engines zijn. Elk van ons zal zijn eigen privé-Shakespeare hebben, die ons door ons leven coacht. De kans bestaat zelfs dat we liever met machines dan met mensen zullen praten, omdat we hen simpelweg veel inspirerender en poëtischer vinden. Dus als je op dit moment als kunstenaar echt baanbrekend wil zijn, kun je niet om die technologie heen.’

Een dialoog tussen een stofzuiger en een espresso-apparaat vind je dan wellicht niet zo baanbrekend?
‘Het kan een goeie poging worden, maar je zal altijd op de ontoereikende organisatie van de theaterwereld botsen. Nog steeds reist een productie van cultuurcentrum naar cultuurcentrum, waarbij een technicus dertig avonden na elkaar dezelfde spots aan kabeltjes naar boven moet hijsen. Dat hele vaste script is niet compatibel met hightech op hoog niveau.’

Zou je met mijn werk een gelijkaardig experiment kunnen doen zoals met Jef Neve, waarbij een AI-computer dan de nieuwe voorstelling van Tom Struyf creëert?
‘Dat is nog niet voor morgen, maar er wordt wel al actief onderzoek naar gedaan. Zo heeft men recent alle boeken van Shakespeare geüpload en op enkele seconden nieuwe shakespeareaanse teksten laten schrijven. Het is nog geen ‘Midsummer Night’s Dream’, maar het resultaat is al best indrukwekkend.’

Wat zou je me aanraden, wat moet ik doen?
‘Laat het script los. Als je echt iets truly inspiring wil maken, ga dan samen met een paar bedrijven iets totaal geflipt maken. Doe een AI-engine bijvoorbeeld improviseren uit het niets, en genereer zo honderd verschillende voorstellingen.’

Dat wordt dan waarschijnlijk geen theater meer, maar een hele nieuwe kunstvorm.
‘Dat denk ik ook.’

---

Berte kijkt op zijn horloge en staat op. ‘Ik moet echt weg’, zegt hij. Ik blijf nog even zitten. Ik vind het geruststellend om te zien hoe moeilijk hij zijn fietsslot open krijgt, en dan rammelend en zonder licht de straat uitrijdt. ‘Alles is gescript’, denk ik. Ik probeer me iets voor te stellen wat buiten mijn associatievermogen ligt, maar kom niet verder dan een berglandschap met een klaterend riviertje en de geur van naaldbomen. Hoe slim en creatief we ook zijn, wat fundamenteel buiten onze lijnen kleurt, kunnen we ons niet voorstellen.

Er loopt een man voorbij die brabbelend ruzie maakt met een onzichtbare andere man. Gelach. Al jaren vertel ik in nagesprekken bij voorstellingen dat ik gefascineerd ben door alles om ons heen wat toneelspeelt, imiteert en pretendeert iets of iemand anders te zijn. En zoals acteurs imiteren en repeteren om zich hun rol eigen te maken, zo zal dus ook AI ons beter en beter gaan kopiëren. Tot we alleen nog omgeven zijn door entiteiten die doen alsof ze iets of iemand anders zijn, maar er nooit mee zullen samenvallen.

Als AI het overneemt, verdwijnt misschien voorgoed de grens tussen wat ooit oorspronkelijk was en wat een kopie is.

Hoewel, nooit? Na dit gesprek twijfel ik. Als AI het overneemt, verdwijnt misschien voorgoed de grens tussen wat ooit oorspronkelijk was en wat een kopie is. Of wordt die grens minstens onzichtbaar. The Truman Show, maar dan in het echt. Tot we als mensen overbodig zijn geworden en er alleen nog acteurs overblijven. Een theater zonder publiek. Ik ben blij dat ik te laat ben om aan Jonathan te vragen of een AI-computer die twijfel ook zou kunnen ervaren.