Skepsa voči Muskovej utópii umelej inteligencie rastie

Technologickí lídri čoraz častejšie tvrdia, že umelá inteligencia čoskoro vytvorí svet hojnosti schopný vyriešiť najväčšie výzvy ľudstva, od klimatických zmien až po ekonomický nedostatok. Pod pojmom „technologickí lídri“ myslia široký ekosystém technologických spoločností, vedcov, vynálezcov, investorov a priemyselných novinárov, ktorých inovácie zmenili moderný život tým, že ho zrýchlili, hoci nie nevyhnutne zlepšili.

V nedávnom rozhovore pre The Economist Elon Musk povedal, že akonáhle bude mať ľudstvo „obrovské množstvo robotov s rozsiahlou digitálnou inteligenciou“, globálna ekonomika sa stane „takmer neobmedzenou“. V takomto svete, tvrdil, „môže mať každý čokoľvek, čo chce“ a peniaze sa do roku 2036 stanú do značnej miery irelevantnými, pretože každý si bude užívať vysoký príjem bez toho, aby musel pracovať. Musk prirovnal túto budúcnosť k post-vzácnej spoločnosti zobrazenej v Star Treku.

Sen o neobmedzenej hojnosti

Muskova vízia odráža širšie ambície v technologickom priemysle: budúcnosť, v ktorej sa dá prakticky čokoľvek vytvoriť stlačením tlačidla alebo jednoduchým hlasovým povelom. Je to tá istá vízia, ktorú spopularizoval Star Trek, kde chudoba zmizla, peniaze už nie sú potrebné a potreby ľudí sa uspokojujú bez námahy.

Autor si spomína, ako sa ho raz kamarát opýtal: „Keby si mal stroj, ktorý by dokázal vyrobiť čokoľvek, čo by si chcel, a plne pohlcujúcu miestnosť virtuálnej reality, prečo by si vôbec cestoval?“ Postavy v Star Treku však trávili veľa času objavovaním nových civilizácií a vzdialených svetov.

Musk tvrdí, že aj v spoločnosti bez nedostatku by sa niektorí ľudia stále rozhodli pracovať, podobne ako niektorí ľudia pokračujú v záhradkárčení, aj keď si môžu kúpiť potraviny v supermarkete.

Nezodpovedaná otázka

Najvýraznejším prvkom Muskovej vízie je však jeho očakávanie, že umelá inteligencia by mohla ovládať svet zhruba do desiatich rokov s minimálnym zapojením človeka.

To vyvoláva zjavnú otázku: ak inteligentné systémy riadia všetko, ako budú spoločnosti naďalej zarábať peniaze? Budú spoločnosti vôbec naďalej existovať?

Podľa autora Musk neponúka jasnú odpoveď.

Prirodzene vyplýva ďalšia otázka. Ak ľudia prestanú pracovať, kde budú mať príjem?

Muskova odpoveď je jednoduchá: vlády by jednoducho posielali občanom šeky.

Autor v tomto návrhu vidí iróniu. Musk sa predtým pripojil k administratíve amerického prezidenta Donalda Trumpa, aby pomohol znížiť vládne výdavky prostredníctvom Ministerstva efektívnosti vlády. Budúcnosť, ktorú teraz opisuje, sa však podobá forme socializmu riadeného umelou inteligenciou, a to aj napriek tomu, že je v nepríjemnom kontraste s jeho súčasnými politickými postojmi.

Test „stane sa“

Autor poukazuje na výzvu, ktorú vytvoril kritik umelej inteligencie Ed Zitron a ktorý žiada nadšencov umelej inteligencie, aby vysvetlili, čo dnešné modely umelej inteligencie v skutočnosti dokážu bez použitia slov „bude“ alebo „chystá sa“.

Podľa autora má väčšina zástancov umelej inteligencie s týmto cvičením problém, pretože ich argumenty sa prevažne spoliehajú na budúce sľuby, a nie na súčasné možnosti.

Môžu dnešné modely umelej inteligencie riadiť svet?

Autor tvrdí, že dnešné rozsiahle jazykové modely zďaleka nenapĺňajú budúcnosť, akú si Musk predstavuje.

Podľa jeho názoru tieto systémy stále robia časté chyby a takzvané halucinácie nie sú len dočasnými chybami, ale sú hlboko zakorenené v tom, ako modely fungujú.

Taktiež tvrdí, že úroveň inteligencie potrebnú na riadenie kritických ekonomických systémov a infraštruktúry nemožno dosiahnuť len rozsiahlymi jazykovými modelmi. Varuje, že zverenie týchto modelov základným sektorom spoločnosti by mohlo viesť skôr ku katastrofám ako k prosperite.

Kto z toho skutočne profituje?

Autor je rovnako skeptický aj voči myšlienke, že dnešní technologickí giganti nejako zmiznú, keď nastane univerzálna prosperita.

Namiesto toho verí, že tento príbeh má upokojiť verejnosť a zároveň odvrátiť pozornosť od skutočných dôsledkov rozširovania nasadzovania umelej inteligencie.

Podľa jeho názoru sú najziskovejšími aplikáciami umelej inteligencie dnes systémy sledovania a vojenské technológie, kde sa zdá, že vlády sú ochotné absorbovať vysoké náklady výmenou za väčšie bezpečnostné a obranné schopnosti, a to aj vtedy, keď takéto systémy naďalej robia chyby.

Vysoké náklady a neistá ziskovosť

Autor uznáva, že podniky a spotrebitelia už v niektorých oblastiach profitujú z umelej inteligencie, najmä zlepšením vyhľadávania na internete.

Tvrdí však, že skutočné náklady na tieto výhody sú oveľa vyššie, ako používatelia v súčasnosti platia.

Každý ďalší používateľ si vyžaduje väčšiu výpočtovú kapacitu a nové dátové centrá, čo znamená, že umelá inteligencia zrejme nepožíva rovnaké úspory z rozsahu ako tradičné digitálne podniky. Namiesto toho náklady s rozširovaním používateľskej základne naďalej rastú.

Z tohto dôvodu sa domnieva, že súčasné modely umelej inteligencie sa môžu nakoniec stať ziskovými iba v špecializovaných aplikáciách, kde sú zákazníci ochotní zaplatiť plné ekonomické náklady.

Záver

Autor uzatvára, že technologickí lídri strávili roky opakovaním v podstate toho istého posolstva: dôverujte nám a nechajte sa nami viesť k prosperujúcejšej technologickej budúcnosti.

Podľa jeho názoru sú dnešné sľuby týkajúce sa umelej inteligencie súčasťou širšieho úsilia presvedčiť verejnosť, aby prijala jej rýchle rozširovanie bez dostatočnej diskusie o jej rizikách a možnom zneužití.

Poznamenáva, že mnohé komunity už začali namietať proti výstavbe ďalších dátových centier umelej inteligencie kvôli ich nákladom a vplyvu na miestne komunity. Tvrdí, že rovnaká diskusia by sa mala rozšíriť aj na to, ako sa samotná umelá inteligencia používa a ako sa dá predísť jej zneužívaniu.