Omar Hatamleh és Tilesch György Mesterség és intelligencia című könyvéről beszélgetett a Különvélemény podcastadásában Szabados Ádám teológus, blogger és Somody Imre ex-vállalkozó, a PontJézus szolgálat gondviselője. A beszélgetésük témáját adó könyv szerzői a mesterséges intelligencia nemzetközileg elismert kutatói. A Libri Könyvkiadónál megjelent mű egyik fő állítása, hogy a mesterséges intelligencia (röviden: MI) az a kortárs globális jelenség, amely leginkább meghatározhatja a jövőnket. Hogy ez miért van így, milyen veszélyeket hordoz magában és milyen kiút állhat előttünk, a könyv mellett a podcastadásból is kiderül – ez utóbbi tartalmi összefoglalója olvasható ebben a cikkben.

Szabados Ádám szerint a Mesterség és intelligencia érdekes, informatív, olvasmányos mű, egyszerre nyomasztó és nagyon fontos. Miközben bevezet az MI világába, folyamatosan emlékeztet a felelősségünkre is. Nem tagadja, hogy az MI sok előnnyel is jár, például az egészségügy területén, és fel is sorolja a pozitív példákat, hogy ne féljünk ezektől. A veszélyek kapcsán pedig rámutat, hogy van ráhatásunk a folyamatokra, és most kell meghoznunk az etikai döntéseket, amelyek kihatnak arra, hogy milyen irányba haladjanak. Szabados elmondta: olvasás közben sokszor érezte úgy, hogy jobb lett volna bizonyos találmányokat nem felfedezni, de azt is belátja, hogy a haladás folyamata nem tartóztatható fel, mert az emberi kíváncsiság, a felfedezés izgalma mindig előrébb viszi.

Az emberi gondolkodás határa
Somody Imre a könyv alapján vázolta fel az MI három pillérét:
1. Neurális hálózatok, komplex algoritmusok, amelyek lehetővé teszik, hogy gépek mindent felismerjenek. Ezek lassan mindenféle lenyomatot képesek érzékelni, jobban, mint az ember.
2. A szimultán végrehajtás, ami azért okoz robbanásszerű növekedést, mert elképesztő számolási kapacitással rendelkezik.
3. A gépi tanulás, amely az előbbi kettőből adódik.

Ma az MI alapértelmezett szinten áll, még fókuszált, csak egy-egy területre koncentrál. De a könyv arra figyelmeztet, hogy nagyon hamar el fogja érni az úgynevezett általános szintet, amelyen már az emberi gondolkodáshoz hasonlóan működik. A harmadik szint a szuperintelligencia, de ezzel a könyv nem foglalkozik. Némelyek szerint ez utóbbi inkább a sci-fi területe, mások szerint az MI az általános szint után már sokkal gyorsabban fogja elérni a szuperintelligencia szintjét.

„A könyv alapján az MI-k nagy mumusa az öntudat” – mondta Szabados. Sok MI-kutatás az emberre bonyolult gépezetként tekint, amit lehet emulálni, ezért abban bíznak, hogy ha feltérképezik, akkor gépi formában is meg tudják valósítani. „Mivel azt sem tudjuk, mi is pontosan az öntudat, az is lehetséges, hogy az MI még az általános szinten sem fogja elérni. A technokrata szakbarbárságból sokszor hiányoznak azok a filozófiai kérdések, amelyekkel mások, például a teológia is foglalkozik, hogy mi is teszi az embert emberré.”

„Az MI átveszi az életünk fölött az irányítást, és ez a folyamat már megfigyelhető azon, hogyan térképezik fel az algoritmusok az ízlésünket, szokásainkat, véleményünket” – vélte Somody. Az MI-kutatásnak a könyv szerint három nagy fókusza van a világon. Az egyik az USA, ahol üzleti célokból a világ legnagyobb technológiai cégeinek (big tech) hatalma viszi előre a kutatásokat. A másik Kína, ahol az állam társadalmi szempontok szerint kísérletezik ilyesmivel, de emellett van globális nagyhatalmi érdeke is. Harmadikként Európa le van szakadva hozzájuk képest, de az EU az egyetlen olyan fókuszú terület, ahol az MI humanista vonatkozásai is érdemben szóba kerülnek.



Az etikai korlátok kérdései
A könyv három példát is hoz arra, miért gond a nagy techcégek felügyelet nélküli működése. Az egyik, hogy mindez számukra piacosítási kérdés, nem pedig biztonsági. A másik, hogy lobbin keresztül próbálják megvenni a politikusokat, és ez lassítja a szabályozást. A harmadik, hogy mindent a több profit érdekében egységesítenek, emberi és egyéb szempontokat figyelmen kívül hagyva. Az emberiség történelme során most először válik teljesen szét egymástól az értékteremtés és az emberi munka. Ezek a cégek egyre kevesebb emberrel egyre nagyobb érték birtokába kerülnek, elsősorban az adatbázisok és szoftverrendszerek működtetése és birtoklása által. Az MI feletti uralomért folytatott globális harc elszakadt az erkölcsi imperatívusztól, nincs etikai korlátja.

Az adatok átadásától és a rendszerbe való belépéstől kezdve egyfajta kényszerpályán van milliárdnyi ember, és a társadalom működtetéséért felelős hatalmak részéről hiba volt ezt engedni. Sok mai algoritmus esetén a feketedoboz elve alapján csak a bemenetet és a kimenetet látjuk, ami a kettő között zajlik, az az ember számára ismeretlen. Ez a rendszer egyértelműen amorális, semlegesnek mégsem tekinthető. Egyrészt állandósítja létrehozója logikáját és céljait, másrészt hibás adatokra is alapoz döntést, harmadrészt az MI nem érti meg a kontextust és az erkölcsöt, de így is társadalmi és erkölcsi hatást gyakorol. Az erkölcsnélküliség és az erkölcstelenség közötti határ pedig igencsak vékony.

Ez az emberiség számára új helyzet, amely egyszerre lehetőség és rendkívüli veszély, mert társadalmi ellenőrzés nélkül az MI üzleti alapon, agresszívan fog működni. A könyv sokat foglalkozik az etikai vonatkozásokkal, esettanulmányokra hivatkozva, majd javaslatot tesz arra nézve, hogyan kellene egy globális etikai felügyeleti keretrendszert létrehozni. Ha ez nem valósul meg, az óriási bajokat eredményezhet. Ezt azért most kellene meglépni, mert ha az MI eléri az általános intelligencia szintjét, akkor már nem tudjuk számonkérni.

Tilesch György hisz benne, hogy fölállítható egy olyan techcégektől független, globális keretrendszer, amelybe beleépülhetnének azok a mindennapokban fontos adatbázisok, amelyeknek hiánya tényleg gond lenne. Példaként az egészségügyet és a tömegközlekedést említette. Somody szerint kicsit utópisztikusnak tűnhet ez a javaslat, hiszen a mai világban sehol sem tapasztalható ilyen mértékű együttműködés.

Szabados szerint Tilescht behatárolja annak a kaliforniai partvidéki Amerikának a véleménybuborékja, amelyben él. „Nem biztos, hogy teljesen komolyan veszi vagy érti, hogy milyen mélyek azok a világnézeti szakadékok, amelyek szétválasztják a társadalmakat. Éppen ezért sokkal nehezebb ezeket a szakadékokat közös etikai szabályokkal áthidalni, mert ezek az ellentétek mélyebbek, mint azt a társadalommérnökösködés feltételezi. Én kétlem, hogy megvalósítható a globális párbeszéd, amit javasol.” Hozzátette: hite alapján pont az a baj ma az etikával, hogy a képletből eltűnt Isten mint végső vonatkoztatási pont.

A lehetséges kiutak
Szabados szerint a kiutat több szinten is keresnünk kell. Egyrészt kezdenünk kell valamit az MI-vel a kormányok és a nagy cégek szintjén. Mivel közös etika kialakítása kilátástalannak tűnik, ezért jobb esélyekkel kecsegtet, ha folyamatosan fennmarad a globális verseny, és minél több kézben összpontosul a hatalom. „Látok arra esélyt, hogy Isten közbeavatkozik majd, mint Bábel tornyánál, és nem engedi meg, hogy a szuperintelligenciáig eljussunk. De akár meg is engedheti az ítélete részeként. Mindenesetre felette áll ennek az egésznek.”

A másik szint az egyéni, ahol meg kell tanulnunk együttélni az MI lehetőségeivel, megőrizve kapcsolatainkat, lelkünk egészségét, emberségünket, és továbbhaladva a megszentelődés útján. Ezekre egyéni döntések sokaságával kell törekednünk, és elmennünk vasárnaponként gyülekezeti közösségbe, hogy kapcsolatban maradjunk egymással. „Szeressük egymást, adjunk egymásnak, és legyünk észnél, hogy ne vesszünk el!”

Istennek van terve az emberiséggel – tette hozzá Somody. „Támaszkodhatunk az MI adta lehetőségekre, de az irányítást nem adhatjuk át! Ebben a sajátos helyzetben először definiálnunk kell a konkrét problémákat, majd tisztázni ehhez a viszonyunkat, végül ezt kell képviselnünk és közvetítenünk. Elengedhetetlen, hogy az egyéni szint mellett közösségben is felelős döntéseket hozzunk. A mi különvéleményünk abban állhat, hogy ugyan nem tudjuk, hogyan birkózik meg ezekkel a problémákkal a világ, de bízunk benne, hogy Istennek is van ezekre örök érvényű válasza.”


A Különvélemény fentebb összefoglalt adása meghallgatható Spotify-on és Apple podcast-en.

Barna Bálint
Képek: Különvélemény, Libri Könyvkiadó