Az örök kiegészítő

A szerzők megjegyzése: Ez a jövő gazdaságáról szóló esszésorozatunk első része, amely egy új platformon ad teret független véleményeknek az AGI-val formálódó jövőről. Saját nézeteinket tükrözi, nem az OpenAI vagy kollégáink álláspontját.

Az emberiség szinte az idő kezdetéig visszalátott.

Egyenleteink nagyrészt összefüggő képet adnak a világegyetemről annak első pillanataitól kezdve. Távcsöveinkkel a kozmosz távoli vidékeire tekintettünk, és bepillantottunk korai történetébe. Ismerjük a csillagok születését és a galaxisok kialakulását.

Mégsem jutott még ember a Holdnál messzebbre.

Az általunk keresett magyarázatok átfogják a világegyetemet, miközben testben alig hagytuk el otthonunkat. Elménk jóval messzebbre merészkedik, mint ameddig a kezünk elér.

Ez az eltérés két nagyon különböző dolgot jelenthet.

Az egyik lehetőség, hogy nem is kell messzire mennünk: talán a legmélyebb igazságok is megérthetők egyetlen bolygóról. Éleslátó érveléssel és hatékony műszerekkel úgy tárjuk fel a világegyetemet, hogy nem kell bejárnunk. Ebben a történetben civilizációnk nem terjeszkedéssel, hanem elmélyüléssel halad előre. Ez segítene megmagyarázni, miért nem találkoztunk más intelligens élettel: talán egy ragyogó elmékkel teli galaxisban élünk, amelyeknek sosem kellett terjeszkedniük, és ezáltal számunkra észlelhetővé válniuk.

A második lehetőség ijesztőbb. Lehet, hogy elménk egyszerűen megelőzte megvalósítási képességünket. Minden következő lépés több időt és több erőforrást igényel. Álmokban nincs hiány, de megvalósításukhoz nincs elég munkaerőnk.

Galilei két lencsével és egy csővel tágította ki látóhatárunkat. Hogy ma tovább tágíthassuk, az emberiség megépítette a James Webb-űrtávcsövet: egy tízmilliárd dolláros obszervatóriumot, amelyet egy rakétába hajtogatva egymillió mérföldre küldtünk. Tizennyolc hatalmas tükörszegmensét ötven nanométeres pontossággal készítették. Az obszervatórium tizennégy ország háromszáz szervezetének munkájából született. Galilei munkájához néhány tucat segítő kéz kellett. A Webbhez egész hadsereg, mögötte pedig egy világgazdaság.

Ahhoz, hogy messzebbre lássunk, nem csupán okosabb elmékre volt szükség. Hanem nagyobb bürokráciára is.

Több kérdést teszünk fel, mint amennyit meg tudunk vizsgálni. Több kísérletet tervezünk, mint amennyit el tudunk végezni. Gyorsabban találunk ki alkotói lehetőségeket, mint ahogy valóra tudjuk váltani őket. Ráadásul sok területen igaz: minél előrébb jutunk, annál bonyolultabb megépíteni azt, amit elképzelünk.

Nick Bloom és szerzőtársai⁠(új ablakban nyílik meg) az amerikai gazdaság egészében vizsgálták a kutatás termelékenységét. Moore törvényének fenntartásához ma több mint tizennyolcszor annyi kutatóra van szükség, mint az 1970-es évek elején. Az 1930-as évek óta a gazdaság egészében a tényleges kutatási ráfordítás huszonháromszorosára nőtt, miközben a kutatás mért termelékenysége a negyvenegyedére esett.

A technikusok létszáma kétszer olyan gyorsan nő⁠(új ablakban nyílik meg), mint a tudósoké. Négy évtized alatt megkétszereződött⁠(új ablakban nyílik meg) a speciális berendezések használata a tudományban. Egy chipgyár ma ötször annyiba kerül⁠(új ablakban nyílik meg) – és jóval kiterjedtebb üzem –, mint harminc éve.

Ezek az adatok arra utalnak, hogy a további haladás egyre többe kerül. A gazdaság mégis fejlődik, mert a kutatási tevékenység hatalmas bővülése ellensúlyozta az egységnyi ráfordítás csökkenő hozamát.

E történet fényében másként kellene gondolnunk a zsenialitásra: nem önmagában, hanem egy termelési folyamat egyik tényezőjeként. Egy zseniális hipotézishez is kellenek bizonyítékok, műszerek és a vizsgálatához szükséges eszközök. Egy ötlet önmagában még nem haladás: kell hozzá a megvalósítást szolgáló gépezet és támogató személyzet.

A közgazdászok két termelési tényezőt akkor neveznek kiegészítőnek, ha az egyik mennyiségének növekedése emeli a másik értékét. Az élvonalbeli intelligencia és az ötleteinek megvalósításához szükséges kapacitás ebben az értelemben kiegészítik egymást. Egy jobb távcső értékesebbé tesz egy jó csillagászati kérdést. Egy jobb kérdés értékesebbé teszi a távcsövet.

Egyes kiegészítő tényezők fizikai természetűek. Egy elmélet részecskegyorsítóra vár; egy műszaki terv a megépítéséhez szükséges energiára és gépekre.

Más kiegészítő tényezők kevésbé kézzelfoghatók. Egy ötlet önmagában törékeny dolog. Sokféle intézményre van szüksége. Törvények, bürokrácia, finanszírozási mechanizmusok, ellátási láncok és még sok minden együtt teszi lehetővé az ötlet megvalósítását.

Egy nagyszerű ötletnek ezen intézmények helyesen végrehajtott részfeladatainak hosszú láncán kell végigjutnia. Nevezzük ezt intézményi intelligenciának: a megvalósítás kevéssé ünnepelt intelligenciájának. A zseni megtervezi az emlékművet; az intézmények rakják le a köveket. Az egyik ragyogó, a másik unalmasnak tűnik; mindkettő nélkülözhetetlen.

A szuperintelligenciát néha egymilliárd Einsteinként képzeljük el. De egy egymilliárd Einsteinből álló civilizációban is a többségüknek kőbányákban kellene dolgoznia és könyveléssel foglalkoznia. Élvonalbeli innováció csak akkor születhet, ha körülötte a hétköznapi világ zökkenőmentesen működik. A haladáshoz mindenki kell: a távcső egyik csavarját behegesztő munkástól annak az általános iskolának a biztosítójáig, ahová a csillagászt ápoló nővér járt. A haladás egy olajozottan működő gazdaságra épül, amelyről legnagyobb eredményeink történeteiben gyakran megfeledkezünk.

Az emberi intelligenciához hasonlóan az MI-t is egyaránt fordítjuk majd zseniális felismerésekre és intézményi feladatokra. A kérdés az, melyikre jut majd idejének nagyobb része.

Az MI már most enyhíti a megvalósítási kapacitás hiányát. Megírja a kódot, átkutatja az ismeretlen szakirodalmat, és működő prototípust készít egy vázlatból. Egyre több olyan ötletet valósíthat meg egyetlen ambiciózus ember, amelyhez korábban egész szervezet kellett.

A legtöbb feltörekvő filmes sosem kap kétszázmillió dollárt, hogy megmutathassa, mire képes. A legtöbb játéktervező egész pályafutása során mások alkotói elképzeléseit valósítja meg. Igyekszünk a legtehetségesebbeket támogatni, de óhatatlanul maradnak kiaknázatlan tehetségek. Innen nézve az intelligencia kora az emberi leleményesség kiegészítésével kezdődik: többünknek biztosít segítő személyzetet saját ötleteink megvalósításához.

Ebből egyéni hangvételű projektek sokasága születhet, és több alkotás jöhet létre azokon az intézményeken kívül, amelyek korábban megszabták, ki érvényesülhet az adott területen. A szűkös tényező többé nem a megvalósítás, hanem az ízlés lesz: annak megítélése, hogy mit érdemes létrehozni, milyen kérdést érdemes feltenni, és ezer hihető irány közül melyiken érdemes elindulni.

De lehet, hogy a történet itt nem ér véget. Ahogy az MI önállóan is képessé válik zseniális új felismerésekre – amit például a matematikában talán már most is látunk –, már nemcsak munkaerőt ad, hanem a feladatokat is kijelöli. Egyetlen emberi kutatási program végrehajtása helyett saját programok ezreit tervezi meg. Az MI-zsenik nyomán ugrásszerűen megnő a kidolgozásra érdemes filmötletek és a tesztelésre érdemes hipotézisek száma. Az ötletek gyorsabban szaporodnak, mint ahogy a háttér-infrastruktúra fel tudja dolgozni őket.

A mai MI régóta várt fellélegzést hoz: jó ötleteink végre megkapják a nekik járó lehetőséget. Holnap azonban annyi jó ötletünk lehet, hogy a megvalósítási kapacitás hiánya minden eddiginél szorítóbbá válik.

Végső soron nem tudjuk, hogy az új felismerések hasznosításához szükséges kiegészítő tényezők iránti igény nőni fog, csökkenni fog, vagy változatlan marad. Mekkora szellemi haladás érhető el pusztán gondolkodással? Mennyi bürokráciára van szüksége a zsenialitásnak?

Szerintünk a válasz attól függ, meddig juthat el a gondolat, mielőtt újra kapcsolatba kell lépnie a valósággal.

Két lehetséges utat vázolunk fel. Az első az elmélyülés civilizációja, amelyben a szuperintelligencia szükségtelenné teszi a fizikai tőke és a bürokratikus koordináció további növelését. A második a terjeszkedés civilizációja, amelyben a természet annyira összetett, hogy semmilyen intelligencia – sem emberi, sem gépi – nem képes előrehaladni nagyszabású, egyre bonyolultabb valós kísérletek nélkül.

Az emberi történelem eddig a kiegészítő kapacitások iránti növekvő igényre utal. Galilei távcsöve elfért a kezében; a Webbhez egy civilizáció kellett. A Bell Labs kis csapata egy munkapadon állította össze az első tranzisztort; a chiptechnológia élvonalbeli fejlesztései ma már egy bonyolult, globális ellátási láncból születnek. Minél messzebbre akarunk jutni, annál többet kell mozgósítanunk hozzá a civilizációból.

A múlt azonban nem feltétlenül szabja meg a jövőt. Az okos elmék hatékonyabb kiegészítőket találhatnak fel. Ha egy új részecskegyorsító korlátja az energia, a zsenialitás takarékosabb gyorsítót vagy jobb energiatermelési módszert találhat ki.

A zsenialitás egyes kiegészítőit helyettesítheti is. Einstein nagyon kevés tapasztalati adatból, gondolkodás útján jutott el a relativitáselmélethez. Nekünk sokkal többre lenne szükségünk. Vannak, akik minden programjukat észben tartják – legtöbbünk a Google Naptár bürokráciájára támaszkodik.

A zsenialitás az ízlést is tökélyre fejlesztheti: kiválasztja a tesztelésre legérdemesebb hipotéziseket, és elkerüli a pazarló kudarcokat. Ha minden újabb zseni javítja a terv minőségét, akkor az egyre nagyobb bürokrácia igénye mellett is sokat fektetnénk a zsenialitásba, éppen azért, mert a megvalósítás túl drága ahhoz, hogy rossz célokra pazaroljuk.

Egyik út sem írja le tökéletesen a tényleges jövőnket, de civilizációnk két lehetséges fejlődési irányának tekinthetjük őket.

Az intelligencia háromféleképpen bővítheti a tudást. Alapelvekből kiindulva érvelhet. Meglévő bizonyítékokból juthat új felismerésekre. Vagy új bizonyítékokat gyűjthet a világ megfigyelésével és az abba való beavatkozással.

Az első módszer pusztán gondolkodással is messzire vezethet. Ennek legtisztább példája a matematika. Egy kiváló elme egy bizonyítás vagy projekt számos elágazásánál következetesen jó döntést hozhat. Évekig tartó céltalan keresgélést vált ki rövid, célirányosabb érvelési lánccal.

A második módszer is bőséges, kiaknázatlan lehetőséget kínál a gyors haladásra. Az emberiség jóval több bizonyítékot gyűjtött össze, mint amennyit megértett. Adataink – csillagászati felvételek, mikroszkópos metszetek, online hozzászólások – vizsgálatát az emberi intelligencia szűkössége korlátozta. A tudományos archívumokban egy-egy kérdés megválaszolására rögzített megfigyelések sok más kérdésre is választ rejthetnek. A bőségesen rendelkezésre álló zsenialitás nem új adatok gyűjtésével, hanem a már meglévők felismerésével is felfedezésekre juthat. Új világegyetemet találhat anélkül, hogy akár egyetlen új fotont begyűjtene.

A harmadik módszer nem ilyen egyszerű, mert kölcsönhatásba kell lépnünk a fizikai világgal. A fizikai folyamatok időt igényelnek, és gyakran alig tehetünk valamit a felgyorsításukért. A vegyi anyagoknak reagálniuk kell. Az élőlényeknek növekedniük kell. A gépeket meg kell építeni. Az űrhajóknak valós távolságokat kell megtenniük, a kozmikus sebességkorlátoknak alávetve. Még egy tökéletes elme sem figyelheti meg egy el nem végzett kísérlet eredményét.

De megpróbálhatja. Az elmélyülés civilizációja sem kerülhetné el, hogy a valósághoz forduljon. Csak éppen radikálisan takarékosabban tenné. A jobb érvelés kijelölné azt a néhány kísérletet, amely valóban számít. A legtöbb kérdést szimulációk döntenék el, és pontosan meghatároznák azt a bizonytalanságot, amelyet a valóságnak kell feloldania. A szuperintelligencia maximális hatékonyságra törekedhet: szűkös erőforrásaihoz igazítja a terveit, hogy a legtöbbet hozza ki belőlük.

Képzeljünk el egy asztrofizikai laboratóriumot, amelynek több hipotézise van a sötét anyagról. Ezeket először hiperrealisztikus számítógépes modellezésnek vetik alá. Minden elméletnél ellenőrzik, hogy összhangban van-e az összes meglévő adattal. Csak ezután készül néhány célzott új felvétel az égről a legígéretesebb elméletek tesztelésére. A civilizációnak továbbra is szüksége van a zsenialitás kiegészítőire, de mindegyik egységük sokkal több értéket teremt.

Az elmélyülés civilizációjához vezető utunk egy kirakós játékhoz hasonlíthat. Az elején és a végén könnyű a haladás, középen a legnehezebb. Eleinte ott vannak az egyértelmű szélek és a könnyen összeilleszthető darabok. Aztán ezek elfogynak, miközben a képből még túl kevés állt össze ahhoz, hogy eligazítson a többiben. A végéhez közeledve a fennmaradó hézagok szinte maguk megmondják, mi illik beléjük. Egy csaknem teljes tudomány számára az utolsó felfedezések könnyebbek lehetnek, mint azok, amelyekért ma küzdünk.

Ez a tudományban jól ismert jelenség. Mengyelejev azért tudott leírni még fel nem fedezett elemeket, mert a periódusos rendszer többi része behatárolta, mi hiányozhat. A standard modell alapján a fizikusok már évtizedekkel a Higgs-bozon megfigyelése előtt számítottak a létezésére. Kísérleteink célzottan azt keresték, aminek a megfigyelésére számítottunk: azt, ami összhangban volt a meglévő elmélettel és adatokkal.

A szuperintelligencia úgy hozhatja el az elmélyülés civilizációját, hogy annyira jól érti a világ mintázatait, hogy pontosan tudja, milyen új adatokra van szüksége. Mélyebb gondolkodással vinné előre a haladást, nem a fizikai terjeszkedés lassú menetére támaszkodva.

Ha ezek a hatékonysági előnyök kerülnek túlsúlyba, a civilizáció gyorsan elmélyítheti a természet feletti uralmát, miközben kevésbé szorul az óriási új kísérleti apparátusokat irányító intézményi intelligenciára. Fizikai kiterjedése kicsi maradhat, miközben bölcsessége gyarapszik.

Mi, emberek már most is rengeteget megértettünk a világegyetemből anélkül, hogy elhagytuk volna otthonunkat. Az elmélyülés civilizációja ezt a hagyományt folytatná.

Az új bizonyítékok iránti igény azonban felülmúlhatja ezeket a hatékonysági előnyöket. Az intelligencia olcsóbbá teheti a valóság minden egyes vizsgálatát, miközben sokkal több okot talál a vizsgálódásra. A jobb műszerek a megismerés finomabb határvidékeit nyitják meg. A gyorsabb kísérletek további kísérleteket tehetnek érdemessé az elvégzésre.

Ha Einstein relativitáselméleteihez vezető, szinte tisztán gondolati útja az elmélyülés civilizációját példázza, akkor a biológia vetítheti előre legjobban a terjeszkedés civilizációját. Minden felhalmozott tudásunk és felhasznált adatunk ellenére az új gyógyszereket továbbra is sok emberen kell tesztelni ahhoz, hogy tudjuk: biztonságosak és hatásosak. A gépek már képesek biológiai folyamatokat szimulálni, így a biológusok fizikai kísérletek helyett in silico tesztelhetnek új gyógyszereket, ám ezek a digitális szimulációk még nem tükrözik elég hűen a valóságot ahhoz, hogy kiváltsák a nagyszabású humán vizsgálatokat. Minél több gyógyszerjelöltet ad a gép, annál szűkebb keresztmetszetté válik a tapasztalati ellenőrzés.

A terjeszkedés civilizációjában a zsenialitás önmagában nem elég a haladáshoz. A fizikai erőforrások és a felhasználásukat irányító bürokrácia iránti igényünk gyorsabban nő, mint amennyire egy okos elme takarékoskodni tud velük.

Akkor is ez lehet az utunk, ha a jövő MI-rendszerei messze felülmúlják az emberi intelligenciát. Egy szuperintelligencia egy délután alatt megtervezhetne egy évszázadnyi kísérletet, majd az egész évszázadot azzal tölthetné, hogy a természetre és a gépekre vár. Egy ilyen világban többet ér az intelligenciát az ötletek megvalósításához szükséges intézményi folyamatokra fordítani, mint magára az ötletelésre.

A hatás tovább erősödik, ha minden újabb lépés egyre több háttér-infrastruktúrát igényel.

Itt arányaiban kevesebb gondolkodást és több építést látnánk. A laboratóriumok automatizálódnak. A gyárak megsokasodnak. Az energiatermelés nő. Mindezek megvalósításában az intézményi intelligencia kerül túlsúlyba. A fizikai terjeszkedés válik a tudás motorjává, a civilizáció pedig azért terjed, mert kérdései túlnőttek a válaszok megszerzéséhez rendelkezésre álló eszközein. Több anyag, több energia, több adat kell a továbblépéshez.

A Dyson-gömb ennek a jövőnek egy szélsőséges példája. Megtervezése rendkívüli áttöréseket igényel, a projekt nagy része mégsem áttörő gondolatokról szólna. Hanem csillagászati léptékű építkezésről és logisztikáról.

A Dyson-gömb terveinek elkészítéséhez ragyogó elmékre van szükség. Ugyanakkor ez lenne minden idők egyik legismétlődőbb, legegyhangúbb, szervezési szempontból legnehezebb vállalkozása.

Ez nem az intelligencia kudarca, hanem éppen a sikerének következménye. Az okosabb elmék több érdemes vállalkozást fedeznek fel; az összetettebb vállalkozások megvalósításához pedig több anyag kell.

Ha így van, akkor a szuperintelligencia szuperereje talán nem a zsenialitásában rejlik. Hanem abban, hogy hajlandó betölteni a bürokrácia szerepét: összehangolni azt a hatalmas technológiai és intézményi gépezetet, amely az ötletek egyre nagyobb léptékű megvalósításához szükséges.

Szinte a teljes gépi intelligenciát nem a zseniális, hanem az unalmas feladatokra fordítanánk.

A további haladásnak aztán a fizikai terjeszkedés természeti sebességkorlátai szabhatnának határt. Egy csillag energiájának hasznosítására szolgáló gépezet megépítése az anyagi világban zajlik, bármilyen gyorsan készülnek is el a tervek. Azon túl más csillagok és galaxisok vannak, a távolság pedig – amennyire tudjuk – önmagában is fékezőerő: egyetlen űrhajó sem haladhat, és egyetlen jel sem térhet vissza a fénynél gyorsabban. A terjeszkedés civilizációja lassú civilizáció. Nagy változásait évezredek, talán évmilliók választanák el egymástól. Minden következő lépés több időt igényel.

A mezőgazdasági és ipari forradalmak egy sokkal hosszabb, jóval lassabban haladó történelem lázas nyitányának tűnnének.

Könnyen lehet, hogy a jövő MI-rendszerei felülmúlják az embert mind az élvonalbeli felismerésekben, mind az ezek gyakorlati hasznosításához szükséges erőforrások összehangolásában. Ez a lehetőség azonban nem csökkenti az emberi kíváncsiság jelentőségét.

Először is, a megismerés akkor is kötelességünk marad, ha a gépek látszólag jobbak benne. A világegyetemben talán már most is léteznek nálunk sokkal bölcsebb elmék, amelyek olyan tudományos és erkölcsi kérdésekre is tudják a választ, amelyeket mi fel sem fogunk. Mi mégis magunk próbáljuk megérteni a világot. Egy másik intelligencia megjelenése – még ha mi magunk hozzuk is létre – ezen nem változtat. Amíg nem tudjuk biztosan, hogy az emberiségnek már nincs semmi egyedi hozzátennivalója, a feladással elpazarolnánk mindazt, amit csak mi adhatunk a világnak. Továbbra is kötelességünk kérdezni és válaszokat keresni.

Másodszor, az élvonalbeli intelligencia terén komparatív előnyünk lehet az intézményi intelligenciához képest. Ez azt jelentené, hogy bár mindkettőben gyengébbek vagyunk, az előbbiben viszonylag jobbak, így arra szakosodunk. Az emberek szívesebben alkotnak, mint végeznek rutinmunkát, a robotoknak viszont nincs ilyen preferenciájuk.

Harmadszor, a változatosság értéket teremt. Még ha a gépek az emberi gondolkodás nagy részét utánozni is tudják, amíg megőrzünk valamit az egyediségünkből, gazdagítjuk az alkotói sokszínűséget. A gépi intelligencia nagy része saját önfenntartó apparátusán belül maradna, de egy kis hányadát mi állítanánk alkotói elképzeléseink szolgálatába. Az egésznek csupán töredékét, de a mi léptékünkhöz mérten bőségesen elegendőt, a mai erőforrásainknál jóval többet.

A leleményesség nem magányos műfaj. Szüksége van a világra, a zsenialitásnak pedig építőkre, hogy alkotói elképzelései valóra váljanak.

Az emberi intelligencia nagy részét ma is az ötletek megvalósításának kevéssé méltatott munkája köti le. A gépi elmék ugyanezt a függőséget öröklik majd. Nem lehetnek mind lángelmék. Bürokratáknak is kell lenniük.

Jövőbeli történetünk – és haladásunk üteme – attól függ, hogy a nagy elméknek egyre többre lesz-e szükségük a világból, vagy egyre kevesebbel érnek el többet.