Večný komplement

Poznámka autorov: Toto je prvá esej z našej série o ekonomike budúcnosti, ktorá je súčasťou novej platformy pre nezávislé hlasy skúmajúce budúcnosť s AGI. Vyjadruje naše názory, nie názory OpenAI ani našich kolegov.

Ľudstvo dovidelo takmer až na počiatok času.

Naše rovnice podávajú zväčša ucelený obraz vesmíru od jeho prvých okamihov. Teleskopmi sme nahliadli do vzdialených končín kozmu a zazreli jeho ranú históriu. Vieme, ako sa rodia hviezdy a vznikajú galaxie.

Žiadny človek však nikdy necestoval ďalej než na Mesiac.

Hľadáme vysvetlenia pre celý vesmír, no naše telá sotva opustili domov. Naša myseľ sa vydáva ďaleko za dosah našich rúk.

Tento nesúlad môže znamenať dve veľmi odlišné veci.

Jednou možnosťou je, že nemusíme ísť veľmi ďaleko a že najhlbšie pravdy možno pochopiť z jedinej planéty. Vďaka osvietenému uvažovaniu a účinným prístrojom odhaľujeme vesmír bez toho, aby sme ním museli putovať. V tomto príbehu naša civilizácia napreduje do hĺbky, nie do šírky. Pomohlo by to vysvetliť, prečo sme nezaznamenali iný inteligentný život: možno žijeme v galaxii plnej brilantných myslí, ktoré sa nikdy nepotrebovali rozšíriť natoľko, aby sme si ich všimli.

Druhá možnosť je znepokojivejšia. Naše myslenie možno jednoducho predbehlo naše realizačné schopnosti. Každý ďalší krok si vyžaduje viac času a viac zdrojov. Snov máme dosť, chýbajú nám však ľudia, ktorí by ich uskutočnili.

Galileo rozšíril náš rozhľad dvoma šošovkami a tubusom. Aby ho ľudstvo dnes rozšírilo opäť, postavilo Vesmírny teleskop Jamesa Webba – observatórium za desať miliárd dolárov, ktoré zložilo do rakety a vyslalo do vzdialenosti milión míľ. Jeho osemnásť obrovských zrkadlových segmentov je vyrobených s presnosťou na päťdesiat nanometrov. Na vzniku observatória sa podieľalo tristo organizácií zo štrnástich krajín. Galileovo dielo si vyžiadalo niekoľko desiatok rúk. Webb potreboval celú armádu ľudí a za ňou globálnu ekonomiku.

Aby sme dovideli ďalej, nestačili len bystrejšie mysle. Bol potrebný aj väčší byrokratický aparát.

Kladieme si viac otázok, než dokážeme preskúmať. Navrhujeme viac experimentov, než dokážeme uskutočniť. Tvorivé možnosti vymýšľame rýchlejšie, než ich dokážeme realizovať. A v mnohých oblastiach platí: čím ďalej pokročíme, tým zložitejšie je vybudovať to, čo si predstavujeme.

Nick Bloom a jeho spoluautori⁠(otvorí sa v novom okne) skúmali produktivitu výskumu v celej americkej ekonomike. Udržanie tempa Moorovho zákona si dnes vyžaduje viac než osemnásťkrát toľko výskumníkov ako na začiatku 70. rokov. Efektívne výskumné úsilie v celej ekonomike od 30. rokov vzrástlo dvadsaťtrikrát, zatiaľ čo nameraná produktivita výskumu klesla na jednu štyridsaťjednatinu.

Počet technických pracovníkov rastie dvakrát rýchlejšie⁠(otvorí sa v novom okne) než počet vedcov. Využívanie špecializovaných zariadení vo vede sa za štyri desaťročia zdvojnásobilo⁠(otvorí sa v novom okne). Továreň na čipy je dnes päťkrát nákladnejšia⁠(otvorí sa v novom okne) – a má oveľa rozsiahlejšiu prevádzku – než pred tridsiatimi rokmi.

Tieto štatistiky naznačujú, že cena ďalšieho pokroku rastie. Ekonomika stále napreduje, pretože obrovský nárast rozsahu výskumu vykompenzoval klesajúcu výnosnosť každej jeho jednotky.

Táto história by nás mala viesť k inému pohľadu na genialitu: nie ako na niečo izolované, ale ako na jeden zo vstupov do výrobného procesu. Aj brilantná hypotéza potrebuje dôkazy, prístroje a prostriedky na overenie. Samotný nápad ešte nie je pokrokom, ak chýbajú zariadenia a podporný personál na jeho uskutočnenie.

Ekonómovia nazývajú dva vstupy komplementmi, ak väčšie množstvo jedného zvyšuje hodnotu druhého. Prelomová inteligencia a schopnosť uskutočňovať jej myšlienky sú v tomto zmysle komplementmi. Lepší teleskop zvyšuje hodnotu dobrej astronomickej otázky. Lepšia otázka zvyšuje hodnotu teleskopu.

Niektoré komplementy sú hmotné. Teória čaká na urýchľovač častíc; technologický návrh čaká na energiu a stroje potrebné na jeho realizáciu.

Iné komplementy sú menej viditeľné. Samotná myšlienka je krehká. Potrebuje inštitúcie každého druhu. Na jej uskutočnení sa spoločne podieľajú zákony, byrokracia, mechanizmy financovania, dodávateľské reťazce a mnohé ďalšie prvky.

Skvelá myšlienka musí úspešne prejsť dlhým reťazcom správnych čiastkových krokov naprieč týmito inštitúciami. Nazvime to inštitucionálna inteligencia: nedocenená inteligencia realizácie. Génius navrhne monument; inštitúcie kladú kamene. Jedno je brilantné, druhé sa zdá nudné; obe sú absolútne nevyhnutné.

Superinteligenciu si niekedy predstavujeme ako miliardu Einsteinov. Aj civilizácia miliardy Einsteinov však potrebuje, aby väčšina z nich ťažila v lomoch a viedla účtovníctvo. Prelomové inovácie môžu vznikať len vtedy, keď okolitý bežný svet funguje hladko. Pokrok potrebuje každého – od zvárača skrutky do teleskopu až po poisťovateľa základnej školy, na ktorej sa učila zdravotná sestra, ktorá ošetrila astronóma. Pokrok stojí na dobre fungujúcej ekonomike, ktorú v príbehoch o našich najväčších úspechoch často prehliadame.

Podobne ako ľudská inteligencia, aj AI bude slúžiť brilantným objavom aj efektívnemu fungovaniu inštitúcií. Otázkou je, čomu bude venovať prevažnú väčšinu svojho času.

AI už dnes zmierňuje nedostatok realizačných kapacít. Píše kód, prehľadáva neznámu odbornú literatúru a mení náčrt na funkčný prototyp. Nápady, ktoré kedysi vyžadovali celú organizáciu, čoraz častejšie dokáže rozvíjať jediný ambiciózny človek.

Väčšina začínajúcich filmárov nikdy nedostane dvesto miliónov dolárov, aby ukázala, čo v nich je. Väčšina herných dizajnérov celú kariéru uskutočňuje tvorivé vízie iných. Snažíme sa podporovať tých najnadanejších, no časť talentu nám nevyhnutne uniká. Z tohto pohľadu sa vek inteligencie začína doplnením ľudskej vynaliezavosti: viacerí z nás získajú podporný tím na uskutočňovanie vlastných nápadov.

Mohlo by to priniesť záplavu osobitých projektov a viac tvorby mimo inštitúcií, ktoré predtým rozhodovali o tom, kto vôbec dostane šancu v daných oblastiach tvoriť. Vzácnym vstupom už nie je realizácia, ale vkus – schopnosť rozhodnúť, čo sa oplatí vytvoriť, akú otázku má zmysel položiť a ktorý z tisíca sľubných smerov stojí za to sledovať.

Tým sa však príbeh nemusí skončiť. Keď AI začne sama dospievať k brilantným novým poznatkom – čo už možno vidíme v oblastiach ako matematika –, bude poskytovať nielen pracovnú silu, ale aj zámery. Namiesto uskutočňovania jedného ľudského výskumného programu navrhne tisíce vlastných. Géniovia v podobe AI prudko zvýšia počet filmových námetov, ktoré sa oplatí rozvíjať, a hypotéz, ktoré sa oplatí overiť. Nápady pribúdajú rýchlejšie, než ich podporná infraštruktúra dokáže spracovať.

Dnešná AI prináša dlho očakávanú úľavu: naše dobré nápady konečne dostávajú priestor, aký si zaslúžia. Zajtra môže byť dobrých nápadov toľko, že nám realizačné kapacity budú chýbať viac než kedykoľvek predtým.

Napokon nevieme, či množstvo komplementov potrebných na produktívne využitie nových poznatkov bude rásť, klesať, alebo zostane rovnaké. Aký veľký intelektuálny pokrok možno dosiahnuť samotným myslením? Koľko byrokracie potrebuje genialita?

Podľa nás odpoveď závisí od toho, ako ďaleko môže myslenie zájsť, kým musí opäť nadviazať kontakt s realitou.

Opisujeme dve možné cesty. Prvou je civilizácia hĺbky, v ktorej superinteligencia prekoná potrebu ďalšieho fyzického kapitálu a byrokratickej koordinácie. Druhou je civilizácia šírky, v ktorej zložitosť prírody presahuje schopnosť akejkoľvek inteligencie – ľudskej či strojovej – napredovať bez rozsiahlych a čoraz komplikovanejších experimentov v reálnom svete.

Ľudské dejiny zatiaľ naznačujú rastúcu potrebu doplnkových kapacít. Galileov teleskop sa mu zmestil do rúk; Webb potreboval celú civilizáciu. Malý tím v Bell Labs zostavil prvý tranzistor na pracovnom stole; prelomové pokroky v čipoch dnes vznikajú v zložitom globálnom dodávateľskom reťazci. Čím ďalej chceme dosiahnuť, tým väčšiu časť civilizácie na to potrebujeme.

Minulosť však nemusí predurčovať budúcnosť. Bystré mysle môžu vynájsť efektívnejšie komplementy. Ak nový urýchľovač častíc brzdí nedostatok energie, genialita môže priniesť úspornejší urýchľovač alebo lepší spôsob získavania energie.

Genialita môže niektoré zo svojich komplementov aj nahradiť. Einstein dokázal dospieť k teórii relativity premýšľaním na základe veľmi malého množstva empirických údajov. My by sme ich potrebovali oveľa viac. Niektorí ľudia si jednoducho pamätajú všetky svoje termíny – väčšina z nás sa spolieha na byrokraciu Kalendára Google.

A genialita môže vybrúsiť vkus na maximum: vybrať najlepšie hypotézy na overenie a vyhnúť sa zbytočným neúspechom. Ak každý ďalší génius zvyšuje kvalitu plánu, aj pri potrebe čoraz väčšej byrokracie by sme do geniality naďalej výrazne investovali – práve preto, že realizácia je príliš drahá na to, aby sme ňou plytvali na nesprávne veci.

Ani jedna cesta presne nevystihne našu skutočnú budúcnosť, no môžeme ich chápať ako dva možné smery vývoja našej civilizácie.

Inteligencia môže rozvíjať poznanie tromi spôsobmi. Môže odvodzovať závery z princípov. Môže vyvodzovať nové poznatky z existujúcich dôkazov. Alebo môže získavať nové dôkazy pozorovaním sveta a zasahovaním doň.

Prvý spôsob dokáže zájsť ďaleko len vďaka mysleniu. Najčistejším príkladom je matematika. Na mnohých rázcestiach dôkazu či projektu sa výnimočná myseľ dokáže opakovane rozhodnúť správne. Roky tápania nahrádza krátkym, cielenejším sledom krokov uvažovania.

Aj druhý spôsob ponúka neprebádaný priestor na rýchly pokrok. Ľudstvo zhromaždilo oveľa viac dôkazov, než dokázalo pochopiť. Skúmanie našich údajov – astronomických snímok, mikroskopických preparátov či internetových diskusií – obmedzovala nedostatočná kapacita ľudskej inteligencie. Vedecké archívy obsahujú pozorovania zaznamenané na zodpovedanie jednej otázky, ktoré môžu skrývať odpovede na mnohé ďalšie. Dostatok geniality môže prinášať objavy nie získavaním niečoho nového, ale rozpoznaním toho, čo tam už bolo. Možno tak objaví nový vesmír bez zachytenia jediného nového fotónu.

Tretí spôsob nie je taký jednoduchý, pretože si vyžaduje interakciu s fyzickým svetom. Fyzické procesy si vyžadujú čas a často ich dokážeme urýchliť len málo. Chemické látky musia zreagovať. Organizmy musia vyrásť. Stroje treba postaviť. Kozmické lode musia prekonať skutočnú vzdialenosť a podliehajú kozmickým rýchlostným limitom. Ani dokonalá myseľ nemôže pozorovať výsledok experimentu, ktorý sa neuskutočnil.

Môže sa však o to pokúsiť. Civilizácia hĺbky by sa nevyhla potrebe overovať svoje predstavy v realite. Robila by to však radikálne úspornejšie. Lepšie uvažovanie by určilo tých niekoľko experimentov, na ktorých skutočne záleží. Simulácie by vyriešili väčšinu otázok a presne by určili neistotu, ktorú musí rozptýliť realita. Superinteligencia môže maximalizovať efektívnosť tým, že návrhy prispôsobí svojim obmedzeným zdrojom, aby z nich vyťažila čo najviac.

Predstavte si astrofyzikálne laboratórium so súborom hypotéz o tmavej hmote. Tie sa najprv preveria hyperrealistickým počítačovým modelovaním. Pri každej teórii sa overí súlad so všetkými existujúcimi údajmi. Až potom sa zhotoví niekoľko cielených nových snímok oblohy na overenie najsľubnejších teórií. Civilizácia stále potrebuje komplementy geniality, no každá ich jednotka prináša oveľa väčšiu hodnotu.

Naša cesta k civilizácii hĺbky by mohla pripomínať skladanie puzzle. Na začiatku sa napreduje ľahko, na konci tiež a najťažšie je to uprostred. Najprv sú tu jasné okraje a dieliky, ktoré sa dajú ľahko spojiť. Potom sa však minú a z obrazu je poskladané príliš málo na to, aby nás viedol ďalej. Ku koncu vám zostávajúce medzery takmer samy napovedajú, čo do nich patrí. Takmer zavŕšená veda by mohla dospieť k posledným objavom ľahšie než k tým, o ktoré sa usilovne snažíme dnes.

Vo vede je to bežný jav. Mendelejev dokázal opísať neobjavené prvky, pretože zvyšok periodickej tabuľky vymedzoval, čo v nej chýba. Štandardný model dával fyzikom dôvod očakávať Higgsov bozón desaťročia predtým, než sme ho pozorovali. Naše experimenty cielene hľadali to, čo sme očakávali – to, čo bolo v súlade s existujúcou teóriou a údajmi.

Superinteligencia by mohla dospieť k civilizácii hĺbky tým, že zákonitostiam sveta porozumie natoľko dobre, až bude presne vedieť, aké nové údaje potrebuje. Pokrok by poháňala hlbším myslením, nie spoliehaním sa na pomalý postup fyzickej expanzie.

Ak tieto úspory prevážia, civilizácia by mohla rýchlo prehlbovať svoju schopnosť ovládať prírodu a menej by potrebovala inštitucionálnu inteligenciu na riadenie rozsiahlych nových experimentálnych zariadení. Jej fyzický rozsah môže zostať malý, zatiaľ čo jej múdrosť dozrieva.

My ľudia sme už o našom vesmíre pochopili tak veľa bez toho, aby sme opustili domov. Civilizácia hĺbky by v tejto tradícii pokračovala.

Dopyt po nových dôkazoch však môže tieto úspory prevýšiť. Inteligencia môže zlacniť každé overovanie v realite a zároveň objaviť oveľa viac dôvodov, prečo ho vykonať. Lepšie prístroje otvárajú cestu k skúmaniu jemnejších detailov. Rýchlejšie experimenty môžu spôsobiť, že sa oplatí robiť ďalšie.

Ak Einsteinova takmer čisto myšlienková cesta k teóriám relativity vystihuje civilizáciu hĺbky, biológia azda najlepšie predznamenáva civilizáciu šírky. Napriek všetkým poznatkom, ktoré sme nahromadili, a všetkým údajom, ktoré sme využili, musíme nové lieky stále testovať na veľkom počte ľudí, aby sme vedeli, že sú bezpečné a účinné. Stroje dnes dokážu simulovať biologické procesy, takže biológovia môžu testovať nové lieky in silico namiesto fyzických experimentov. Tieto digitálne simulácie však neodrážajú reálny svet natoľko verne, aby nahradili rozsiahle štúdie na ľuďoch. Čím viac kandidátnych liekov stroje navrhnú, tým väčšou brzdou sa stáva empirické overovanie.

V civilizácii šírky samotná genialita na pokrok nestačí. Naša potreba fyzických zdrojov – aj byrokracie na riadenie ich využívania – rastie rýchlejšie, než ich bystrá myseľ dokáže šetriť.

Touto cestou sa môžeme vydať aj vtedy, ak budúce systémy AI výrazne prekonajú ľudskú inteligenciu. Superinteligencia by za jedno popoludnie mohla navrhnúť experimenty na celé storočie a potom storočie čakať, kým ich príroda a stroje uskutočnia. V takom svete je cennejšie investovať inteligenciu do inštitucionálnych procesov potrebných na uskutočnenie nápadov než do samotného vymýšľania.

Tento účinok sa bude násobiť, ak si každý ďalší krok vyžiada čoraz viac podpornej infraštruktúry.

Videli by sme tu relatívne menej premýšľania a relatívne viac budovania. Laboratóriá sa automatizujú. Továrne pribúdajú. Výroba energie rastie. Dominantnú úlohu zohráva inštitucionálna inteligencia, ktorá to všetko umožňuje. Fyzická expanzia sa stáva motorom poznania a civilizácia sa rozširuje, pretože jej otázky prerástli možnosti získavania odpovedí. Na ďalšie napredovanie treba viac materiálov, viac energie, viac údajov.

Dysonova sféra je krajným obrazom takejto budúcnosti. Jej návrh si vyžaduje mimoriadne prelomové objavy, no väčšina projektu by nespočívala v prelomovom myslení. Išlo by o výstavbu a logistiku v astronomickom rozsahu.

Na vypracovanie plánov Dysonovej sféry sú potrebné brilantné mysle. Zároveň by patrila k projektom s najväčším podielom opakovanej a monotónnej práce a s najnáročnejšou organizáciou v dejinách.

Nie je to zlyhanie inteligencie, ale skôr dôsledok jej úspechu. Bystrejšie mysle objavujú viac zmysluplných projektov; zložitejšie projekty potrebujú na uskutočnenie viac hmoty.

Ak je to tak, superschopnosťou superinteligencie nemusí byť jej genialita. Bola by ňou skôr ochota prevziať úlohu byrokracie a koordinovať obrovský technologický a inštitucionálny aparát potrebný na premenu myšlienok na skutočnosť v čoraz väčšom rozsahu.

Takmer všetka strojová inteligencia by sa využívala nie na geniálnu, ale na nudnú prácu.

Ďalší pokrok by potom mohli brzdiť prírodné limity rýchlosti fyzickej expanzie. Vybudovanie zariadení na získavanie energie hviezdy je projektom vo svete hmoty, nech už sú plány hotové akokoľvek rýchlo. Za ňou ležia ďalšie hviezdy a galaxie a vzdialenosť je, pokiaľ vieme, sama osebe brzdou: žiadna loď nemôže cestovať ani žiadny signál sa nemôže vrátiť rýchlejšie než svetlo. Civilizácia šírky je pomalá civilizácia. Jej veľké zmeny by mohli oddeľovať tisícročia, možno aj milióny rokov. Každý ďalší krok trvá dlhšie.

Poľnohospodárska a priemyselná revolúcia by vyzerali ako horúčkovitý úvod do oveľa dlhších dejín s omnoho pomalším tempom pokroku.

Je celkom možné, že budúce systémy AI prekonajú ľudí v objavovaní prelomových poznatkov aj v koordinácii zdrojov potrebných na ich praktické využitie. Táto možnosť však neznižuje význam ľudskej zvedavosti.

Po prvé, naša povinnosť usilovať sa o poznanie zostáva, aj keď sa zdá, že stroje sú v tom lepšie. Vo vesmíre už možno existujú mysle oveľa múdrejšie než tie naše, ktoré poznajú odpovede na vedecké a morálne otázky presahujúce naše chápanie. Napriek tomu sa stále snažíme porozumieť svetu sami. Príchod inej inteligencie – hoci aj takej, ktorú sami vytvoríme – na tom nič nemení. Kým s istotou nevieme, že ľudstvo už nemá čím jedinečným prispieť, vzdať sa znamená premárniť všetko, čo môžeme svetu priniesť len my. Našou povinnosťou zostáva klásť otázky a snažiť sa na ne odpovedať.

Po druhé, v prelomovej inteligencii môžeme mať komparatívnu výhodu oproti inštitucionálnej inteligencii. To by znamenalo, že aj keď sme horší v oboch, v tej prvej sme relatívne lepší, a preto sa na ňu špecializujeme. Ľudia dávajú prednosť tvorivosti pred rutinou, kým roboty takúto preferenciu neprejavujú.

Po tretie, rozmanitosť nám prináša hodnotu. Aj keby stroje dokázali napodobniť väčšinu ľudského myslenia, ak si zachováme istú jedinečnosť, budeme prispievať k tvorivej rozmanitosti. Veľká časť strojovej inteligencie by zostala vo vlastnom sebestačnom aparáte, no malý zlomok by sme využívali podľa svojich tvorivých zámerov. Bol by to len zlomok celku, no vzhľadom na naše potreby priam luxusný – oveľa väčší než zdroje, ktoré máme dnes.

Vynaliezavosť neexistuje v izolácii. Potrebuje svet a génius potrebuje staviteľov, ktorí uskutočnia jeho tvorivú víziu.

Veľká časť ľudskej inteligencie sa dnes venuje nedocenenej práci: premene myšlienok na skutočnosť. Rovnakú závislosť zdedia aj strojové mysle. Nemôžu byť všetky velikánmi. Musia byť aj byrokratmi.

Náš budúci príbeh – aj tempo jeho napredovania – závisí od toho, či veľké mysle potrebujú čoraz viac zo sveta, alebo dokážu viac s menším množstvom zdrojov.