A mesterséges intelligencia az emberiség utolsó, végzetes találmánya lesz, vagy egy új korszak hajnala? Kell-e tartanunk az olyan új technológiáktól mint a szintetikus biológia, a robotika és a kvantumszámítógép, amik az MI-vel kiegészülve egy új civilizációs hullámot indítanak el? Hogyan lehet minimalizálni ezek káros hatásait, miközben kiaknázzuk a bennük rejlő hatalmas lehetőségeket? Mustafa Suleyman és Michael Bhaskar könyve többek között ezekre a kérdésekre keresi és adja meg a választ.
[Új sorozatot indítunk a Kosárértéken – olyan könyveket veszünk górcső alá, melyektől az ecommerce és a jövőnk szempontjából sokat várunk, sokat tanulhatunk. A könyvrecenziókhoz nagy segítséget jelent, hogy a Libri biztosítja a tárgyalt kötetet, az alábbi, első ilyen cikkhez pedig azt a Youtube-on elérhető videoanyagot is felhasználtuk, melyben Zanny Minton Beddoes, a The Economist főszerkesztője kérdezi a szerzőt.]
Az a kérdés, hogy ki a csoda az a Mustafa Suleyman, valójában úgy is feltehető, hogy: Hogy a fenében lesz egy oxfordi egyetemen filozófiát és teológiát tanuló hallgatóból a világ egyik legsikeresebb MI vállalkozója?
Az MI-ben élenjáró DeepMind (ma már Google DeepMind) megalapítása ugyanis, illetve a személyes MI asszisztenseket fejlesztő Inflection AI is a könyvet első szerzőként jegyző Suleymanhoz köthető. Saját elmondása alapján a filozófiát mindig is egy rigorózus gondolkodási rendszernek tartotta, ami segít neki megfogalmazni az állításait – egyébként pedig otthagyta a filozófiai fakultást (így illeszkedik a nagy tech cégek alapítóinak sorába, mint amilyen Steve Jobs vagy Bill Gates). Teológiát pedig úgy hallgatott, hogy egyébként ateista. Az egyetem után önkéntesnek állt a Muslim Youth szervezethez, majd a londoni polgármester emberi jogi politikai tanácsadója lett.
Ezt a kacskaringós életkezdést Suleyman motivációja teszi érthetővé. Mindig is az érdekelte, hogy az elméleti, elvont dolgokat hogyan lehetne praktikussá tenni és segíteni vele az embereken. Zavarta azonban, hogy milyen kevés hatással tud lenni a környezetére. Ezért érdeklődni kezdett aziránt, hogy mi teszi az embereket hatékonnyá, mint fajt. Ez az útkeresés egybeesett a Facebook indulásával, Suleyman-t pedig megigézte hogyan nőtt ki a cég két év alatt a semmiből és ért el százmillió havi aktív felhasználót.
A deep learningre fogadott
Ekkor döntötte el, hogy beleássa magát a technológiába és célirányosan kezdte el képezni magát ezen a területen. Végül találkozott az iskolai legjobb barátjának testvérével, aki akkor fejezte be az idegtudományi PhD-ját és együtt alapították meg a DeepMindot 2010-ben, hogy MI-t fejlesszenek.
A DeepMind a deep learningre fogadott, ami végül bejött, mert ez lett a mai MI forradalomnak az egyik technológiai alapja. Jeffrey Hinton, akit ma az MI (egyik) keresztapjának tartanak volt az első fizetett tanácsadójuk. (Hinton tavaly felmondott a Google-nél és az MI veszélyeire, szabályozási kérdéseire kezdte el ráirányítani a figyelmet. Arra, amiről végeredményben Suleyman könyve is szól.) A DeepMindot 2014-ben adták el a Google-nek. Suleyman 2019 decembere és 2022 januárja között a Google szabályozási kérdésekkel foglalkozó egyik vezetője lett, ami tulajdonképpen már szorosan összefügg a könyv témájával, a technológia lehetséges kordában tartásával.
E-kereskedő mesterséges intelligencia
Suleyman kiinduló feltételezése, hogy 3-5 éven belül az MI eléri egy csomó területen az emberi képességek szintjét. Ezt nevezi ACI-nak (Artificial Competent Intelligence).
Tíz évvel ezelőtt az MI fejlesztők elkezdték megoldani a klasszifikálás problémáját. Azt, hogyan lehet sok nyers és strukturálatlan adatból valamit kihozni például megmondani mi van a képen vagy leírni, amit valaki diktál. A következő szintet az jelentette – ahol most tartunk a generatív MI forradalmával – amikor erre építve létrehozunk olyasmit, ami korábban nem volt. Időközben az adatok mennyiségének és a számítási erőnek a növelésével egyre jobban működő modellek jöttek létre. Az elmúlt tíz évben évente tízszereződött a legjobb MI modellek mögötti számítási kapacitás, tehát a fejlődés nem inkrementális, hanem exponenciális, például a ChatGPT 2 és a 4 között százszoros nagyságrendű.
A modern kori Turing-teszt
Egyelőre egy dimenziós generatív kéréseink lehetnek. Például, hogy írj egy verset X stílusában. A fejlődéssel viszont elérhetőek lesznek olyan lehetőségek is, ahol több dimenzióban, több paraméterben kell összehangolnia az MI-nek a saját tevékenységét. Itt található az e-kereskedők számára talán legérdekesebb gondolata a könyvnek, Suleyman modern kori Turing-tesztje (96. oldal).
Százezer dollárból kellene egymilliót csinálnia autonóm módon egy MI-rendszernek ahhoz, hogy bebizonyítsa, emberi szintű intelligenciával bír. Ennek nagyjából a következő menete lenne:
- találjon ki egy új terméket,
- ehhez végezzen önállóan kutatást,
- készítsen üzleti tervet,
- tervezze meg a terméket,
- keressen hozzá bérgyártót,
- tárgyalja le a legjobb árat és ha kell rendelje is meg a nevünkben,
- találja ki a bevezető kampányt,
- készítse el a célcsoporttal rezonáló marketing anyagokat stb.
Az a vicces ebben, hogy erre valószínűleg az emberek túlnyomó többsége sem lenne képes, vagyis megbuknának ezen az intelligencia teszten. Suleyman viszont úgy látja, hogy nagyjából öt éven belül elérhet erre a fejlettségi szintre az MI. Szóval: el lehet kezdeni gyűjteni azt a százezer dollárt, amit megtízszerez majd nekünk az MI.
Az MI minden területen, az oktatástól az egészségügyig hatékonyabbá teheti a működést (többet és gyorsabban tudunk elérni kevesebből), mivel képes lesz új megoldásokkal előrukkolni a meglévő problémákra. Ráadásul ez a technológia nem csak a leggazdagabbaknak vagy a leghatalmasabbaknak lesz elérhető, hanem mindenkinek. Ahogy most is emberek milliárdjai vehetik meg a legjobb laptopokat vagy okostelefonokat.
A nemzetállamot érő kihívások
De ebben a technológiai fejlődésben komoly kockázatok is vannak és a könyv valójában ezek kordában tartásának lehetőségéről szól. Ahogy az MI modellek olcsóbbak, gyorsabbak és könnyebben használhatóak lesznek, úgy lehet azokat rossz szándékkal is felhasználni. Úgy adnak lehetőségeket a rossz szereplőknek is a céljaik eléréséhez (pl. terroristák számára bomba receptek készítéséhez). Mindezt a modellek tréningje során figyelembe lehet venni, de az open source modellekkel saját MI is építhető, ahol ezek a korlátok kiiktathatók.
Nem tesz egyhamar munkanélkülivé
A szerző további kockázatokat is ismertet, például, hogy az MI elveheti a munkánkat. Suleyman erről azt gondolja, hogy történelmi tapasztalatok alapján egyre hatékonyabban csinálunk dolgokat, ami jólétet és megnövekedő szabadidőt eredményez, illetve növeli a keresletet és igényeket új dolgok (leginkább szolgáltatások) iránt, és ami így végül viszont új munkahelyeket teremt. Szintén új munkahelyeket hoz létre a technológia fejlődése önmaga körül, például app fejlesztő, prompt engineer stb. Suleyman szerint a következő két évtizedben nem várható még strukturális munkanélküliség (aki dolgozni akar, fog munkát találni).
Ezt követően azonban lehetnek olyan emberek, akik még MI segítségével sem lesznek képesek olyan dolgot csinálni, amiért hajlandó lenne a piac fizetni. Mert az MI sokkal hatékonyabb, megbízhatóbb, stabilabb, miközben folyamatosan képes dolgozni. De mindez azért nem gond Suleyman szerint, mert nem a munka a társadalom célja, hanem a jólét, a béke és a prosperitás. Sokan nem dolgoznának, nem csinálnák azt, amit, ha nem lenne szükségük a cserébe kapott pénzre, amiből meg tudnak élni. Viszont, ha jólét és bőség van, nekik nem is kell dolgozniuk.
Természetesen ez azt jelenti, hogy a jelenlegi újraelosztási rendszert (például az adózást) meg kell reformálni, ami szerinte is iszonyatosan nagy kihívás.
Ebben a megreformált jövőben kulcsszerepet játszik a nemzetállam. Ugyanakkor a demokrácia működését az MI nehezebbé teszi (lásd például a deep fake (hamisított videók) problémáját – a szintetikus média erősen manipulatív és személyre szabott tud lenni az egyéni félelmek mentén). 2024-ben több milliárd ember választ világszerte, vajon hogyan próbálják meg majd manipulálni őket?
Nemzetállami kihívást is jelent
Ráadásul akkor éri el az MI jelentette kihívás a kormányzatot, amikor történelmi mélységben van az intézményekbe és politikusokba vetett bizalom és óriási a társadalmi megosztottság. Suleyman szerint a nemzetállamot komoly kihívás éri a következő technológiai hullám révén. Ám, ellentétben a kritikus hangokkal – amik szerint az állam nem tölti be amúgy sem a funkcióját, így nem kár veszni hagyni – Suleyman szerint ez katasztrofális lenne.
Ne feledjük, fiatal korában a londoni polgármesternek és civil szervezeteknek is dolgozott, illetve a családja egyik ága szír, így testközelből tapasztalhatta meg milyen az, amikor valójában összeomlik egy állam. A könyv egyik kimondott célja tehát, hogy segítsen a nemzetállamoknak szembenézni a közeledő technológiai hullámmal.
Suleyman tehát nem pesszimista – ellentétben például Hararival, aki szerint ez a demokrácia vége lesz.
Úgy véli, az MI felerősíti bennünk a legjobbat és a legrosszabbat is, de nem eldöntött, hogy mi lesz a kimenete az előttünk álló fejlődésnek. Amire szükség van, az egy jól működő kormányzati ellenőrzése az MI-nek – de mindez azért is nehéz, mert az Egyesült Államok és Kína teljesen másképpen áll a technológiához és együtt kellene tudniuk működni az MI globális szabályozásának kérdésében, hogy az előttünk álló hatalmas fejlődés ne ész és szabályok nélküli verseny legyen beláthatatlan következményekkel és mellékhatásokkal. Szerinte Európa jó példát mutat az MI szabályozásával kapcsolatos aktivitásaival, mint amilyen például az EU AI Act, ami ugyan közelről sem tökéletes, de mutatja a követendő irányt. De Kínát sem kell démonizálni, ők is jólétet, az országuk függetlenségét, a békét és az állampolgáraik gyarapodását tekintik célnak és e mentén már lehetne kooperálni velük.
A kordában tartás a kulcs
A „Következő hullám” 2023-ban jelent meg és azóta több tucat nyelvre lefordították. A cím emlékeztethet Alvin Toffler „Harmadik hullám” című egykor ünnepelt könyvére, ami az információs forradalomról szólt (meg is említi Suleyman a 38. oldalon). Könyvének eredeti címe amúgy az lett volna, hogy Containment is not possible (A kordában tartás nem lehetséges), ami jobban leírta volna Suleyman fő gondolatát.
Azt, hogy az MI (és más, a könyvben részletesen taglalt radikális technológiák, mint a robotika, kvantum-számítástechnika és szintetikus biológia) gyors terjedése nem elkerülhető, tehát eljut a rossz szándékú emberekhez is, ezért kordában kell tartani őket. De ez a cím kevésbé lett volna figyelemfelhívó. Viszont a „következő hullám”, mint cím utal arra, hogy egy új technológiai hullám hajnalán állunk, ami gyökeres változásokat fog indukálni. Ilyen általános célú technológiából egyébként 21 volt eddig az emberiség története során, a pattintott kőeszközöktől kezdve a tűzön át a vas és bronz megmunkálásán keresztül a mezőgazdasági forradalomig és az internetig.
Ez az új dilemmák könyve
Végeredményben a könyv az emberiség előtt álló dilemmákról szól. A dilemma, ami a könyv fókuszában áll, hogy létre lehet-e hozni olyan technológiákat, amik hasznosak és nem növelik, hanem csökkentik a kockázatokat? Suleyman krédója ugyanis: „én még mindig meg vagyok győződve arról, hogy a technológia világunk és életünk jobbá tételének alapvető hajtóereje” (275) De ugyanakkor attól tart, hogy miközben a technológiai fejlődés szükséges a jelenlegi életszínvonalunk (és civilizációnk) fennmaradásához, a nem szándékolt negatív következmények elkerülhetetlenek és egy kiút nélküli helyzetbe vagyunk bezárva. Emiatt „egyre nehezebb kompromisszumokat kell kötnünk, hogy megtaláljuk az utat a jólét, a megfigyelés és a fenyegető katasztrófa között”.
Vagyis a technológiai fejlődés a szabadság és a biztonság dilemmájáról szól, avagy mennyit tudunk feladni az egyikből, hogy többet kaphassunk a másikból. A keskeny útnak (ami a technológia sikeres kordában tartását jelenti) mindkét oldalán szakadék húzódik. Az egyik szakadékot a mindenkit megfigyelő leviatán totális technoállam kiépülése jelenti, amire Kína az intő példa, a másik szakadékot az új technológiát mindenki kezébe eljuttató liberális demokrácia testesíti meg, ahol a véletlenül előidézett vagy szándékos katasztrófák elkerülhetetlenné válnak (mint amilyen egy világjárvány lehet) és globális kataklizmákat okoznak.
Suleyman a könyv utolsó 50 oldalán tíz elvet fogalmaz meg, ahogy az MI-t kordában lehetne tartani, ami mindannyiunk közös felelőssége. Ebben a képzeletbeli kordában tartási rendszerben együttműködnek a technológia fejlesztői, a nagy tech cégek, a nemzetállamok, a nemzetközi szervezetek és az MI kutatók, miközben a kordában tartást elősegítő kultúra alakul ki. A ChatGPT sokakat ráébresztett világszerte, hogy az MI sokkal fejlettebb és gyorsabban jön, mint korábban gondoltuk.
„Valami elkezdődött. Még nem a kordában tartás, de a közeledő hullám kérdéseit most először kezelik olyan sürgető problémaként, ahogyan kellene.” (338)
Néhány kritika a könyvvel és a magyar kiadással kapcsolatban
Az nekem nem tetszett a könyvben, hogy összekeveri: bizonyos dolgokat nem azért nem csinálunk meg, mert (technológiailag) nem lehetségesek, hanem mert a társadalmi együttélés normáiba, szokásrendszerünkbe, a társadalom működésébe egyszerűen nem férnek bele. Olyan a kiindulási alapú félelme, mintha azért nem kellene feltalálni a nyelvet, mert akkor hazudni és manipulálni fogják egymást az emberek, vagy a telefont, mert azt telefonbetyárkodásra fogjak használni. Ez valójában minden új technológiával kapcsolatban felmerült félelem és rendszerint feleslegesen túlzónak bizonyult. Ami persze új – és ebben igaza van Suleymannak -, hogy a hálózatiság és a bonyolult rendszerek miatt a kevés rossz szándékú felhasználás is katasztrofális károkat tud okozni globális szinten a legújabb technológia esetén.
Egyrészt-másrészt viszony
További probléma a technológiával kapcsolatos ellentmondásos viszonya. Egyrészt Suleyman teljes mértékben technológiai determinista, szerinte a történelem középpontjában a technológia és a találmányok állnak (34. oldal). Másrészt a könyv végén azt írja, hogy „[túl] sok jövőkép kezdődik azzal, hogy mire lesz képes a technológia, majd innen építkezik tovább. Ez rendkívül hibás alap […] nem a technológia lesz a jövő lényege, nem az lesz a tétje. Hanem mi leszünk.” (351) Miközben utóbbi esetben igaza van, tulajdonképpen azt kritizálja, ahogyan ő is eljárt a könyv megírásakor.
Végül pedig volna itt egy észrevétel a magyar kiadással kapcsolatban is. Jó lett volna, ha a fordító vagy a lektor jobban ért azokhoz a területekhez, amelyeket a könyv érinti. Például a science and technology studies területén bizonyos fogalmaknak meg van már a magyar megfelelője. Ilyen a nem szándékolt következmény, amely sajnos „nem szándékos következmény”-ként került a kötetbe. Mindent összevetve: egy kicsit túlírt, de rendkívül fontos és hasznos könyv A következő hullám. Kötelező olvasmány mindenkinek, aki érdeklődik a mesterséges intelligencia és az új technológiák felelős felhasználása iránt a 21. században.
A könyv adatai:
- Cím: A következő hullám – Mesterséges intelligencia, technológia, hatalom és a 21. század legnagyobb kihívása
- Szerzők: Mustafa Suleyman és Michael Bhaskar (fordító: Farkas Veronika)
- Kiadó, Kiadás éve: Magnólia, 2023
- Oldalak száma: 400
(A könyv ismertetését a Libri támogatta, a kötet megvásárolható: itt.)
