A gépfelség elve

A go nevű kínai játék koreai világbajnoka bejelentette, hogy visszavonul, miután 4 : 1 arányú vereséget szenvedett a Google Alpha Go nevű algoritmusától. Nem is az jelzi leghívebben a mesterséges intelligencia fejlődésének szédítő ütemét, hogy a sakk után röviddel a póker és a go legjobbját is legyőzte, hanem az, hogy a go világbajnokát megverő szoftver pár hónap múlva mesterséges kihívót kapott, mely 100 : 0-ra semmisítette meg a játék trónjára nemrég felkapaszkodott gépet.

A koreai világbajnok azzal magyarázta visszavonulását, hogy a mesterséges intelligenciát soha többé nem lehet legyőzni, úgy véli, egyetlen győzelmét is az okozta, hogy abban a játszmában a szoftver vírusos lehetett. Nehéz ezzel a szemlélettel azonosulni, hisz a síkfutás világbajnoka sem hagyott fel a futással, amikor az automobil gyorsabbnak bizonyult; a súlyemelők továbbra is súlyokat emelnek, bár közelébe sem érnek egy toronydaru erejének, ahogy a súlylökés versenyszámát sem tette tönkre az ágyú megjelenése.

Mégis érteni vélem a koreai mester elkeseredését, hisz a szakmának, amelynek professzora volt, ma már csak a diákja lehet. Esélye sincs valaha is felérni arra a szintre, ahol ezt a játékot az igazán nagyok űzik. Életcélja villámsebesen húzott el mellette: egy életen át mindennap azzal kelt és feküdt, azért képezte magát, és hozott elképesztő áldozatokat, hogy ő legyen a legjobb, aztán egy nap kiderült, hogy tudásának sokszorosát másfél dollárért bárki letöltheti a felhőből – aligha lehet könnyű feldolgozni ezt.

A világ legjobbja volt, s most ő lett az, aki az emberiség nevében leteszi a fegyvert. Döntésének motivációja innen nézve világos: ha tovább versenyez, előbb-utóbb óhatatlanul kihívja egy ember, aki legyőzi őt – így a mesterséges intelligencia előtt kapitulál, amellyel a jövőben minden emberi eredményt zárójelbe tesz, és a sportágból az emberi faj örökös bajnokaként távozik. Becsvágya ennél nagyobb elégtételt aligha nyerhet.

A mesterséges intelligencia hatalomátvétele a laikusok számára még ijesztőbb. Senki nem érti, mit miért tesz a gép, s a legijesztőbb, hogy maga sem érti, mindössze olyan mennyiségű szimulációt futtat le, amelynek árnyékában az értés felesleges luxus. A gép nem tudja elmagyarázni – az ember nem tudja megérteni. Új elv született, mely immár nem racionális, hanem funkcionális. Az ember viszonya a mesterséges intelligenciával talán épp olyan lesz, mint barlanglakó őseié a természettel: az ősemberek a kiszolgáltatottak megadásával fogadták az őket érő csapásokat, amelyeknek bizonyára volt okuk, de egyedül az erőkkel kapcsolatba lépő sámán tudta, hogy mi az.

A legnehezebb döntés egyéni és társadalmi szinten még várat magára, de az emberi faj aligha tudja majd megúszni: az embernek előbb-utóbb át kell adnia a kormányrudat. Azok lesznek a sikeres személyek és társadalmak, akik és amelyek nagyobb mértékben bízzák magukat a gép döntésére. Minél engedelmesebben képes egyén és közösség követni egy ismeretlen forrású, esetleg irracionálisnak vagy immorálisnak tűnő parancsot, minél inkább formálja öntudatlanná magát, és herék méhkasává társadalmát, annál jobban fog teljesíteni a mindennapos versenyben. Az értelem, az autonómia és az erkölcsi érzék akadállyá, a vakhit, az engedelmesség és a morál nélküli hatékonyság lehetőséggé válik.

Félek, nincs esély arra, hogy a gépek megértsék: a mérhető mennyiségen kívül létezik a humánum, a fájdalom, a humor, a szépség, a szeretet, az igazság és a kultúra minősége. Talán minden jól alakul, és úgy zajlik majd, mint az antik mitológiában. Az Ares programmal a harcot választhatjuk, a Hades programmal a gyászt, a Pallas X a kollektív tudathoz biztosít hozzáférést, az Aphrodite 2.0 társkereső és párkapcsolat-segítő szoftver szépséget és harmóniát hoz a mindennapokba, a Hermes program pedig a magasabb képességeket a felhasználó ügyének szolgálatába állítja. Remélem, a jövő emberének lesz annyi szabadsága, hogy maga válassza ki, melyik programot futtatja – talán ma sincs több.

Félek a technológiai szingularitástól. Félek, hogy megfosztja szabadságától az emberiséget, és a kontrollt végleg átveszi az automatizmus. Amikor az ember többé sem karbantartani, sem átprogramozni, sem kikapcsolni nem tudja a gépet, amely fenntartja őt, tényleges sorsa megsemmisül.

Ennek a cikknek a nyomtatott változata a Magyar Hang 2019/49. számában jelent meg december 6-án.