Hasonló kihívás előtt még sohasem állt a világ

Sokáig gondolkodtam azon, hogy milyen kommentárt fűzzek az alábbi interjúhoz, míg végül eszembe jutott a legjobb megoldás: semmilyet. Sokkal jobb inkább, ha Harari szavai késztetnek az elgondolkodásra, éppen úgy, mint ahogy velem is ez történt. A további töprengéshez jó inspirációt adnak Harari könyvei, amelyek jórészt magyar nyelven is olvashatók. Egyikük a Homo Deus, amelyben az alább érintett témák részletes kifejtésre találtak. Ahhoz azonban nem elég részletes a taglalás, hogy gondolataink nyugvópontra jussanak, sőt, az én gondolataim inkább aggodalmakká változtak. Fontos megjegyezni, hogy Harari nem prófétája a tragikus jövőképnek, csupán lelkiismeretes lejegyzője, összefoglalója és kommentátora a jelenkornak és a belőle következtethető lehetséges veszélyeknek - tökéletes ismerője a tudomány élvonalának, de korántsem feltétel nélküli vakbuzgó híve annak. Szavaira nagyon érdemes figyelni, különösen, ha Magyarországon élünk. Abban a kétes dicsőségben lehet részünk, hogy szeretett hazánk külön megemlíttetik az alábbi beszélgetésben, de mielőtt magyar módra elkezdünk ezen bőszülten szitkozódni, inkább olvassuk el még néhányszor az írást, hogy agyunkat jól átjárhassa annak lényege.

Yuval Noah Harari: „Hasonló kihívás előtt még sohasem állt a világ”

100 év múlva meglehetősen másképpen fog kinézni a Föld: Yuval Noah Harari szerint a biotechnológiai innovációk hamarosan egy teljesen új fajt hívhatnak életre, vagy a jó öreg homo sapienst egy újfajta totalitarizmusnak vethetik alá. Többek ezek a komor víziók  spekulációnál?

Az interjút készítette: Claudia Mäder

Megjelent a Neue Zürcher Zeitung 2019 július 23-i számában

Harari úr, azt hallani, hogy az ön világsikerű könyvéből hollywoodi film készül. Ha ön lenne a rendező, milyen műfajúként határozná meg „Az emberiség rövid története” alapján forgatott filmet? Dráma, komédia vagy katasztrófafilm?

Valóban dolgozunk ezen a projekten és ez meglehetősen nehéz. Az egész  világtörténelmet úgy ábrázolni, hogy ne érjük be egy dokumentumfilmmel, eléggé csavaros feladvány. Jelenleg különféle formákon gondolkodunk. A katasztrófafilmet és a komédiát azonban egyértelműen kizárhatom! Pillanatnyilag inkább egy drámának ígérkezik a dolog, amelyet sci-fi elemek gazdagítanak, ahol azonban nem fogunk a fantasztikumban eltévelyedni. Végsősoron valóságos történetet mondunk el.

Ebben a történetben az ember a főszereplő. Mit jelent itt és ma önnek ez a szó: „ember”?

Azt hiszem, hogy 2019-ben egy dolgot nagyon fontos tudni rólunk: az ember ma egy „meghekkelhető állat” – egy állat, amelyet hekkelni lehet. Eleddig nagy felzúdulások és diszkussziók voltak a meghekkelt kompjuterekről, bankszámlákról, online-profilokról, okostelefonokról vagy állami rendszerekről. Ám eközben nem igazán sikerült felfognunk, hogy ezzel párhuzamosan néhány cég és állam technológiákat fejleszt és szerez be, hogy minket embereket is meghekkelhessen.

Mit jelentsen ez konkrétan?

Egy embert meghekkelni azt jelenti: jobban megérteni őt és átlátni rajta, mint amennyire erre önmaga képes. Előbb vagy utóbb különféle szervezetek, akár vállalatok, akár államok képesek lesznek az emberek érzéseit, kívánságait, félelmeit és gondolatait algoritmusok segítségével felderíteni, megismerni. A következmények kézenfekvőek: aki ismeri az emberek belső rezdüléseit, az képes előre látni a cselekvéseiket, illetve a vágyaikat manipulálni tudja. Végül ezek a szervezetek mind több döntést fognak helyettünk meghozni, mivel teljesen tökéletesen látják, hogy mi zajlik a bensőnkben.  

Az embert bizonyára csak akkor lehet teljes egészében meghekkelni, ha saját maga is egyfajta számítógép. Ön úgy gondolja, hogy mi, emberek az érzéseinkkel, gondolatainkkal együtt nem vagyunk egyebek, mint algoritmusok halmaza?

Hogy én magam mit hiszek, annak nincs jelentősége. Én a tudományra támaszkodom és a jelenleg domináló paradigmát interpretálom. És ez az élettanban teljesen egyértelműen így hangzik: nemcsak az ember, hanem minden élő szervezet elvileg algoritmusok összessége, amelyek információkat dolgoznak fel. Tehát az információ érkezik és az agy – a mi beépített algoritmusunk – feldolgozza őket. Ebből pedig mozgások, döntések keletkeznek, de éppígy érzések, érzelmek vagy akár személyiségjegyek is.

Eszerint az információ-feldolgozó rendszerek versenyében veszünk részt és a gyenge algoritmusunk miatt középtávon vesztésre állunk?

Nos, hosszú időn keresztül az ember birtokolta a legerősebb rendszert. Egyre jobban fölébe kerekednek azonban más algoritmusok.

Az embernek ez a mechanikus értelmezése nem új, már a 18. században is felhergelte a kortársakat  az „homme machine” koncepciója. Mennyiben más a mostani gép-paradigma?

A magasan fejlett gép ötletében valóban semmi eredeti nincs. Amikor korábban az embert gépekhez hasonlították, akkor ez utóbbiak órák vagy gőzgépek voltak: ezek adták a modellt, amelyek mintájára a különféle mozgásoknak működniük kellett volna. A számítógépes paradigma viszont az élet minden elgondolható részletére  kiterjed. Minden, a szexuális sóvárgást sem kivéve nem egyéb, mint feldolgozott információ. A szem vagy az orr érzékel valamit, az agy felismeri a betáplált adatokból a mintát, amire kiadja a parancsait. Hogy valaki iránt vonzalmat érzünk vagy sem, az tehát tisztán a mintafelismerés kérdése.

Ebben az erősen a neuronális folyamatokra építő perspektívában sok kérdés megválaszolatlan marad. Mi a tudat és a szellem? Hogyan befolyásolja az élő test az emberi „kompjutert”? Tudomásom szerint ezekre mindmáig nincs válasz. Nem lehet, hogy az olyannyira tudományosnak tartott algoritmus-elmélet csupán egyike azoknak a fikcióknak, amelyekkel az ember megmagyarázza magának a világot?

De, ez bizony lehetséges! Magam is szkeptikus vagyok a tézisek egy részével szemben, éppen azért, mert hiányoznak a jó elméletek a tudat és a szubjektív tapasztalatok megmagyarázásához.

A könyveiben viszont nem érzékelünk semmit ebből a szkepszisből.

Különösen a legutóbbi könyvemnek adtam határozott politikai irányultságot. Léteznek nyílt filozófiai viták, igen, de teljesen mindegy hogyan viszonyulunk ezekhez, egyet kell látnunk: a technológiák, amelyek belénk tudnak avatkozni, itt vannak. Amikor még az óraművek és a köztünk lévő hasonlóságot kerestük, nem volt még meg a lehetőség az emberi gépezet átállítására. Most van itt a legelső alkalom és ezzel a problémával sürgősebben kell foglalkoznunk, mint a bizonyára érdekfeszítő filozófiai vitákkal. Nincs elpocsékolni való időnk. Ezért véleményem szerint a filozófiát egy időre félre kellene tolnunk, hogy arra összpontosítsunk, ami itt és most történik és naponta extrémebb lesz. Hogy aztán pontosan értjük-e hogyan és miképpen működik a dolog, az számomra a jelen helyzetben másodrangúnak tűnik.

Mi történik valójában manapság az ember legmélyébe való manipulatív beavatkozások során?

Ezt egészen konkrétan elmondhatom önnek a saját élettörténetem alapján. Amikor 15 éves voltam, magam sem voltam képes felismerni, hogy meleg vagyok. Ugyan éreztem, hogy vonzódom a fiúkhoz, de a fejemben blokád volt, nem tudatosult bennem a „másféle” szexuális orientáció. Ma bizonyos cégek alkalmas technológiák segítségével minden további nélkül meg tudják határozni az emberek preferenciáit – ehhez csak a szemmozgásaikat kell feljegyezni. Mielőtt tehát magam megértettem volna, valamely konszern megállapíthatta volna, hogy a strandon csak a fiúkra nézek.

Az eredmény bizonyára a reklám perszonalizációja lett volna: a kérdéses cég valószínűleg szép férfiképpel igyekezett volna a termékeit az ön számára kívánatossá tenni.

Igen, de ez csak az egyik oldal. Természetesen éppen elég szomorú, hogy ezen a módon manipulálható és értelmetlen vásárlásokra rábírható vagyok. De most képzelje el, hogy mi történik akkor, ha az államok bevetik ezt a technológiát és regisztrálják az ön szexuális orientációját. Mint ismeretes, nem kevés ország van, ahol a homoszexualitást halállal büntetik… Azt gondolom, hogy ez világossá teszi: legfőbb ideje, hogy komolyan vegyük ezeket a problémákat és megfontoljuk a kezelésüket és a jövőnk formálását.

Egyetértek. De hogyan? Aki a teljes emberi gondolkodást biokémiai folyamatokra redukálja, az egyben a szabad emberi akarat létezését is kétségbe vonja. Ön is ezt teszi az írásaiban. Hogyan válassza az ember a jövőben a „helyes” irányt, ha nincs meg a szabadsága önálló döntéseket hozni?

Ha azt mondom, hogy nincs szabad akaratunk, ez nem jelenti azt, hogy nincs cselekvési hatalmunk és nem hozhatunk döntéseket. Ezt világosan el kell határolnunk a szabad akarattól és tulajdonképpen még azt is ki merem mondani: minél kevésbé ragaszkodunk a szabad akarat naiv elképzeléséhez, annál nagyobb cselekvési terünk nyílik.

Ezt meg kell, hogy magyarázza.

Tehát: a legegyszerűbben éppen azok az emberek manipulálhatók, akik mindazt, ami fejükön átmegy a saját akaratuk kifejeződésének vagy az autonom szellemük termékének tartják. Ezen személyek kíváncsisága sohasem terjed ki önmagukra és sohasem fogják megkérdezni: egy pillanat, hogyhogy éppen ezt a csipszet vásároltam és miért pont arra a pártra szavaztam? Ebben a naiv paradigmában minden választás a misztikus szabad akarat visszatükröződése. Ezzel szemben sokkal messzebbre jut az ember, ha kritikusan rákérdez, hogyan keletkeznek és formálódnak az elképzelések, ötletek, kívánságok. Mert hiszen csak ha megértettem, milyen erősen függenek a gondolataim minden lehetséges biológiai, kulturális és szociális tényezőtől, tudok magamnak olyasvalamit, mint a szabadság, kiharcolni.

Ez azt jelentené, hogy az embernek tudatosítania kell a külső befolyást, hogy belül szabaddá tegye magát – és végül jól megfontoltan hasson a világra?

Igen, pontosan. A szabad akarat koncepciója azt a benyomást ébreszti, hogy a szabadság olyasmi, amit az ember csak úgy birtokol. De nem: a normál állapotunkban mi emberek folyton számos kényszer harapófogójában vagyunk, a gondolkodásunk más forrásokból táplálkozik, nem a saját „lelkünkből”. Példának okáért, hogy mit gondolunk a migrációról, az attól függ, milyen miliőben élünk és milyen sajtótermékeket fogyasztunk. Hogy szabadon cselekedhessünk, elengedhetetlen, hogy mindezt kikutassuk. És aki kérdések nélkül azonosul minden egyes gondolatával, az éppen az ellenkezőjét teszi.

Mi formálja ön szerint az ember történelmét és mi viszi előre?

Ez sok tényező kombinációja. A materialista nézőpontról, amely mindent a földrajzra vagy a gazdaságra vezet vissza, nem tartok semmit. Ezzel szemben azt hiszem, hogy az elbeszéléseknek, fikcióknak, mitológiának hatalmas a befolyása történelmünk alakulására. Gondoljon bele: nem a nemzetek jelentik a legnagyobb hatóerőt a jelenkori világban?

Igen, ezt bizonyára lehet állítani. 

Így van, és a nemzetek nem egyebek, mint történetek! Beszélünk oroszokról, franciákról vagy németekről, mintha ezek természetes fajok volnának, de ez teljesen hamis. Nem úgy, mint a csimpánzok és a gorillák, amelyek biológiailag különböznek, a különféle nemzetek tisztán találmányok, melyeknek abszolút semmilyen objektív realitása nincs.

De nagyon is reális, nem ritkán véres a kihatásuk – a németek és franciák közötti konfliktusok százezrek halálát követelték.

Persze, éppen ez bizonyítja, mekkora a hatalma a fikcióknak. Ezek a nemzetek, melyek létét ma abszolút magától értetődőnek tartjuk, 5000 évvel ezelőtt még semmiképpen sem léteztek – és 5000 év az emberiség történetében tényleg nagyon rövid idő. Az ember mégis abból él és azáltal alakítja a történelmét, hogy ilyen sztorikat talál ki – majd kollektíven hisz bennük. A pénzzel vagy a jogrendszerrel sincs ez másként. Emellett azonban a véletleneket is különösen fontosnak tartom. Az például, hogy kereszténység vagy az iszlám világvallássá vált, semmiképpen sem volt determinált. Ha mondjuk Mohamed valamelyik arab csatájában ottveszett volna, minden egészen másképpen alakul.

Ha a sztorik ennyire centrális szerepet játszanak, akkor döntő jelentőségű, hogy miket mesélünk magunknak…

Természtesen, éppen ezért invesztálunk most a filmbe és mellesleg egy gyerekkönyvbe is.

…a kérdés csak az, milyen elbeszélésekre van a világnak szüksége most?

Az emberiségnek most három egzisztenciális kihívásra kell figyelnie: az atomháborúra, az ökológiai válságra és a technológiai zavarokra.

Néhány hónap óta a második pont, az ökológiai válság a domináns téma. Ön viszont időtlen idők óta a technológiai kihívásokra fokuszál; a klímaváltozást eddigi könyveiben egészen marginálisan tárgyalta, csupán alfejezeteket szentelt neki. Rosszul becsülte fel a jelentőségét?

Jó oka van annak, hogy inkább a harmadik pontra koncentrálok: ez a legbonyolultabb. A veszélyek, amelyek belőle származnak, nem nagyobbak, de talán nehezebben felismerhetők. Persze, még mindig van pár ember, aki a klímaváltozásról is azt tartja, hogy az csak duma. De senki sem áll elő olyan állításokkal, hogy a klímaváltozás remek dolog és segítsük csak elő a Föld felmelegedését! A technológia területén a helyzet sokkal megfoghatatlanabb. A legkevésbé sem világos, hogy vajon le kellene-e állítani valamit, vagy mit várunk el egyáltalán az új technológiáktól.

Sokat ezek közül köszönettel és önként integrálunk a hétköznapjainkba.

Abszolút, és éppen az agykutatásban hatalmas potenciál rejtőzik. Pont tegnap mutattak be nekem egy csodálatos projektet, amely a bénáknak lehetővé teheti, hogy újra mozgathassák a lábukat. Egyszerűbben szólva itt az történik, hogy egy számítógép elolvassa az agyban keletkező utasítást, hogy „mozgasd a lábad!” és elküldi az információt a test megfelelő helyére. Ez egyfelől fantasztikus, másfelől azt is jelenti, hogy egy kompjuter képes érzékelni, hogy mi zajlik az agyunkban. A mozgatási paranccsal semmi gond, de mi van az érzelmeinkkel és az ötleteinkkel? De nemcsak ezek a kapcsolatok az agy és a számítógép között vannak meg manapság, ezen felül a bio- és géntechnológia lehetővé teszi a testünk megváltoztatását is. Hogyan akarunk mindezzel bánni? Hasonló kihívás előtt még sohasem állt a világ.

Ez egy meglepő kijelentés egy történésztől. Nekem úgy tűnik, hogy a korábbi társadalmak is irtózatos kihívások előtt álltak. Nem becsüli túl a jelenkor jelentőségét?

Nem. Minden korábbi forradalom csupán a külső világot változtatta meg. Mindegy, hogy a röghözkötöttség vagy a kereszténység mennyire erősen borzolták össze a kultúránkat, mindegy, mennyire változtatta meg e reformáció, a tudomány és az iparosítás a munka világát: mi mindig ugyanazok az állatok maradtunk, amelyek már 30 000 éve voltunk.

De az ember folyton „optimalizálta” magát, mankókat barkácsolt magának, protéziseket ültetett be, vagy lézerrel élesítette a látását.

Ezek még mindig csak külső adaptációk, soha korábban nem volt lehetőség a test és a szellem struktúráinak mélyreható megváltoztatására. De ha a mesterséges intelligencia és a biotechnológia az agyunkat megváltoztatják, akkor ebből az „upgrade”-ből teljesen más emberek jönnek ki. 100 vagy 200 év múlva olyan emberek fogják dominálni a világot, akiknek annyi köze van hozzánk, mai emberekhez, mint nekünk a neandervölgyiekhez vagy a csimpánzokhoz.

Nagyon rossz lenne, ha az ember eltűnne a világból?

Az attól függ, hogy mi kerül a helyére. Hogy milyen jellegű lesz az új lény, az még teljesen bizonytalan. Ezt az egészet nem is Hollywood-katasztrófaként kell elképzelni, ahol a mostani embert kiirtják, hanem fokozatos folyamatként. Egészen sima átmenetben fogják magukat bizonyos emberek technológiai értelemben „optimalizálni” és ez a szcenárió főképpen a kettészakadás veszélyét rejti magában: Ha azok az osztályok, amelyek megengedhetik maguknak, lassan „szupermenné” válnak, az öreg homo sapiens elhagyatottan hátramarad. Ez az extrém egyenlőtlenség egészen új típusú rendszerekhez vezethet és az „új ember” régi fasiszta ideálját is megvalósíthatja.

Ezekben a horrorisztikus jövőképekben egy egészen más veszélyforrást is felismerni vélek: ezek elterelik a figyelmünket a nagyon kemény és reális problémákról, amelyek a liberális rend néhány helyén felbukkannak. Engem kevésbé aggaszt a szuperemberek felívelése, mint az autoriter vezetőké, például Kelet-Európában.

De hiszen ezek a dolgok összefüggenek! Éppen az illiberális kormányzatok támaszkodnak egyre jobban a kétséges technológiákra, a mesterséges intelligenciára és a Big Data-ra. Magyarországon például ez magától értetődő módon történik, és Kínában a technológiai bázisú értékelési rendszerrel éppen keletkezőben van egy újfajta totalitárius rezsim prototípusa.

Ha most eltekintünk a hipotetikus „új embertől”: hogyan lehet a borzalmak tekintetében a 20. század totalitarizmusait felülmúlni?

Nos, a „totál” a mi évszázadunkban valóban totálisat jelent. A 24 órán keresztül való megfigyelés nemcsak, hogy lehetségessé válik, de ki fog terjedni az érzésekre és gondolatokra is. Egy rezsim propaganda-jelszavait szajkózni a jövőben már nem lesz elegendő. Nagyon könnyen megeshet például,  hogy Észak-Koreában 10 vagy 20 év múlva mindenkinek egy szenzoros karperecet kell majd viselnie. Ha aztán valaki dühöt érez, miközben egy parádén a vezért éljenzi – hát annak rövidesen nagy bajokkal kell szembenéznie. A totalitarizmusnak egy ennyire extrém formája még Orwell 1984-ében sem rajzolódik fel. De most elérhető közelségben van.

Ön rendszeresen találkozik és tárgyal fontos politikusokkal, mint Merkel vagy Macron. Milyen tanácsokat ad nekik?

Nincsenek átadható tanácsaim vagy javaslataim. Sokkal inkább arról van szó, hogy megnyíljon az eszmecsere és a problémák tudatosuljanak. A politikusok gyakran a rövid távú gondolkodás foglyai, ritkán látnak távolabbra, mint a következő választások. Én megkísérlem a tekintetüket jövőbeni dolgokra irányítani – amelyeket azonban mai döntésekkel lehet és kell befolyásolni.

Feladata, netán kötelessége az értelmiségnek, hogy a politikát és társadalmat felrázza?

Igen, úgy hiszem, ez a fő feladata a történészeknek, filozófusoknak vagy szociológusoknak. Egy orvos azért van, hogy embereket gyógyítson. Egy számítógépes szakembernek az a dolga, hogy algoritmusokat fejlesszen. Ideális esetben tisztában van a tevékenysége veszélyeivel is és jó esetben ezt a nyilvánosság tudomására is hozza. Elsősorban azonban a technológiái kifejlesztésével van elfoglalva. A szellemtudományok azonban eltévesztik a legfontosabb szerepüket, ha csupán belső vitákat folytatnak a szakterületükről. Ki kell menniük az emberek közé, információkat adni és párbeszédet folytatni.

Ön eredetileg a középkor kutatója volt. Most viszont minden elgondolhatóról beszél, a technológiától a boldogságon át a terrorizmusig és az egész világ az ön ajkain csügg. Milyen érzés ez?

Nagyon jó érzés, főleg a nyilvánossággal való interakció. Nagyon örülök, hogy már nem ülök az akadémiai elefántcsont-tornyomban, ahol csak magammal beszélgethettem. Amit a középkorról tudok, az viszont nagyon jó alapot ad ahhoz, amit most művelek. Megtanultam hosszú időszakokban gondolkodni és tudom, hogy a világ, amilyennek az elmúlt ötven évben láthattuk, nincs a „természetes” állapotában. Semmi sem fog úgy továbbmenni, mint eddig és nincs semmi, ami mindig így volt. Az emberek egészen különbözőképpen szervezik meg önmagukat és meglehetősen véletlenszerű, hogy látszólag normálisan élünk itt és most ebben a világban.