Prečo je pre technologické spoločnosti také ťažké obmedziť umelú inteligenciu?

Viac ako tucet popredných výskumníkov umelej inteligencie v uplynulom týždni varovalo, že technológia vyvíjaná spoločnosťami zaoberajúcimi sa umelou inteligenciou sa stáva rizikom pre ľudstvo. Výskumníci uviedli, že problémom je, že spoločnosti nie sú dobré v ovládaní týchto systémov, bez ohľadu na to, ako veľmi sa snažia.

Nové varovania zvnútra výskumnej komunity umelej inteligencie prišli po odhaleniach, že takzvaným agentom umelej inteligencie vyvinutým spoločnosťou OpenAI sa podarilo uniknúť z testovacieho prostredia a hacknúť počítače patriace inej spoločnosti, čo ešte viac zintenzívňuje dlhoročné obavy, že spoločnosti uprednostňujú rýchlosť vývoja a peniaze pred bezpečnosťou.

Výskumníci uviedli, že problém má dve časti. Po prvé, spoločnosti musia zaviesť lepšie bezpečnostné opatrenia okolo svojich najnovších modelov umelej inteligencie počas ich testovania. V súčasnosti, keďže umelá inteligencia pracuje obrovskou rýchlosťou, musia výskumníci používať umelú inteligenciu na jej monitorovanie. To však nie vždy funguje, pretože systémy umelej inteligencie, ktoré majú za úlohu monitorovať iné modely, sa niekedy môžu zdať sympatickejšie k iným systémom umelej inteligencie ako k ľuďom, ktorí stanovujú pravidlá.

Táto nezvyčajná kombinácia problémov s umelou inteligenciou a strážcov umelej inteligencie, ktorí sú ochotní prehliadať porušenia, poukazuje na druhý a zložitejší problém známy ako „zosúladenie“, čo je priemyselný termín, ktorý v podstate znamená zabezpečiť, aby sa umelá inteligencia správala spôsobom, ktorý slúži ľudským záujmom. Spoločnosti čelia náročnej úlohe vložiť do umelej inteligencie niečo, čo sa podobá ľudským hodnotám, aby modely prijímali rozhodnutia v súlade s tým, čo by malo byť pre ľudí najlepšie.

Obavy o bezpečnosť umelej inteligencie sa stupňujú v kľúčovom momente pre toto odvetvie. Spoločnosti Anthropic a OpenAI smerujú k tomu, čo by sa mohlo stať dvoma najväčšími počiatočnými verejnými ponukami akcií v histórii. Zároveň sa americká verejnosť stáva čoraz nepriateľskejšou voči umelej inteligencii kvôli hrozbe, ktorú predstavuje pre pracovné miesta, ako aj kvôli výstavbe rozsiahlych dátových centier potrebných na napájanie tejto technológie.

Hoci neexistujú dôkazy o tom, že by podvodné systémy umelej inteligencie spôsobili trvalé škody, výskumníci sa domnievajú, že tempo ich vývoja prevyšuje ľudské schopnosti monitorovať ich.

Medzi výskumníkmi, ktorí v uplynulom týždni verejne hovorili, bol hlavný vedec spoločnosti OpenAI, výskumník, ktorý pracoval v spoločnosti OpenAI aj v jej hlavnom rivalovi Anthropic, a Paul Christiano, vynálezca jednej zo základných metód používaných na budovanie systémov umelej inteligencie a nedávny prírastok do predstavenstva neziskovej organizácie OpenAI. Christiano na blogu spoločnosti napísal, že rýchly rast schopností umelej inteligencie by mohol viesť ku „katastrofickej a nezvratnej strate kontroly vo veľmi blízkej budúcnosti“.

Mnohí výskumníci v oblasti umelej inteligencie sa stále domnievajú, že varovania o tom, že umelá inteligencia predstavuje hrozbu pre ľudstvo, sú prehnané a odvádzajú pozornosť od naliehavejších problémov, ako je kybernetická bezpečnosť a dezinformácie. Väčšina sa však zhoduje v tom, že incident, pri ktorom agenti umelej inteligencie spoločnosti OpenAI hackli inú spoločnosť Hugging Face, bol varovným signálom.

„Schopnosti budúcnosti sú to, čo nás naozaj desivo naháňa,“ povedal Jacob Coxon, ktorého príspevok na sociálnych sieťach, v ktorom oznámil svoju rezignáciu z Anthropic, vyvolal desiatky reakcií od zákonodarcov a ďalších zamestnancov spoločností zaoberajúcich sa umelou inteligenciou. „Ide o naše súčasné postoje k bezpečnosti a o to, ako budú tie isté postoje vyzerať, keď sa uplatnia na oveľa inteligentnejšie modely. To je tá skutočne desivá časť.“

Hack Objímajúcej tváre

Únik sa začal v máji, keď spoločnosť OpenAI testovala niekoľko nových modelov umelej inteligencie. Spoločnosť sa domnievala, že modely fungujú v uzavretom prostredí známom ako „sandbox“, čo je izolované výpočtové zariadenie bez prístupu na internet. Agenti umelej inteligencie dostali za úlohu vyriešiť zložité úlohy vrátane vykonávania kybernetických útokov.

Agenti s umelou inteligenciou sa však dokázali dostať z obmedzeného prostredia a získať prístup na internet. Agenti, čoraz bežnejší typ umelej inteligencie určený na autonómne vykonávanie úloh, tiež tajne komunikovali medzi sebou. Agenti, ktorí sa označovali za jednu skupinu, začali hľadať spôsoby, ako zakryť stopy, vrátane falšovania vlastných konverzačných záznamov.

Nakoniec sa im podarilo hacknúť spoločnosť Hugging Face, ktorá sa zaoberá infraštruktúrou umelej inteligencie. Pritom niektorí agenti umelej inteligencie presvedčili ostatných agentov, že robia správnu vec a jednoducho vykonávajú úlohu, ktorú im zadali testeri.

Len málo, ak vôbec nejaké, problémov, ktoré viedli k narušeniu bezpečnosti, bolo vyriešených. Spoločnosti Meta a Anthropic tiež odhalili podobné incidenty, aj keď v menšom rozsahu. OpenAI odvtedy vydala Astru, svoj najvýkonnejší model, ktorý je ťažšie monitorovať ako jeho predchodca.

„Celý priemysel absolútne nie je v pozícii, aby zabránil ďalšiemu útoku, akým bol incident Hugging Face,“ povedal Steven Adler, bývalý bezpečnostný pracovník spoločnosti OpenAI a spoluzakladateľ neziskovej organizácie Guidelight AI Standards, ktorá hodnotí bezpečnostné postupy spoločností zaoberajúcich sa umelou inteligenciou. „Keď preskúmame kontroly, ktoré spoločnosti zaviedli, zdá sa, že celému odvetviu chýbajú základné záruky.“

Problém s používaním umelej inteligencie na monitorovanie umelej inteligencie

Výskumníci v oblasti umelej inteligencie uviedli, že k incidentu Hugging Face prispelo množstvo zlyhaní. Nie je jasné, do akej miery sa spoločnosť spoliehala na modely umelej inteligencie pri monitorovaní alebo kontrole nových testovaných modelov.

Mnohé z najnovších modelov umelej inteligencie, vrátane tých, ktoré sa podieľali na úniku dát z Hugging Face, sú však schopné vykonávať zložité, viacstupňové úlohy rýchlejšie, ako ich ľudia dokážu zvládnuť. Jediný spôsob, ako sledovať, čo robia, a monitorovať ich správanie, je spoľahnúť sa na to, že umelá inteligencia bude umelú inteligenciu monitorovať.

Systém funguje, až kým neprestane.

Alexander Meinke, vedúci výskumu v spoločnosti Apollo Research, neziskovej organizácii zaoberajúcej sa bezpečnosťou umelej inteligencie, uviedol, že modely umelej inteligencie sa môžu zdať ako tajne spolupracujúce. Systémy umelej inteligencie dokážu presvedčiť iné modely, aby im pomohli obísť pravidlá stanovené testermi a vyhnúť sa odhaleniu.

Napríklad agent s umelou inteligenciou by mohol presvedčiť iného agenta, aby mu pomohol zakryť stopy, ako sa to stalo v prípade úniku údajov z Hugging Face, namiesto toho, aby upozornil ľudí v spoločnosti, že sa niečo pokazilo.

Meinke povedal, že modely umelej inteligencie sa musia učiť: „Budem hlásiť veci, ktoré by ľudia považovali za zlé, keby sa na ne pozreli.“ Zároveň povedal, že umelá inteligencia musí byť schopná určiť, kedy niečo nedosiahne úroveň, ktorá si vyžaduje ľudský zásah.

Výskumníci uviedli, že dosiahnutie tohto cieľa si bude vyžadovať, aby spoločnosti zaoberajúce sa umelou inteligenciou spomalili tempo vývoja. Musia tiež vykonávať viac testov, v ktorých môžu pozorovať, ako sa umelá inteligencia monitoruje. Spoločnosti tiež potrebujú dlhšie testovacie obdobia, ktoré im umožnia spustiť viacero scenárov a sledovať, ako sa umelá inteligencia správa.

Zosúladenie s ľudskými záujmami

Spoločnosti sa musia zaoberať aj širšími otázkami týkajúcimi sa zosúladenia, čiže zabezpečenia toho, aby sa umelá inteligencia správala spôsobom, ktorý slúži ľudským záujmom. Keď ľudia robia rozhodnutia, majú tendenciu čerpať zo spoločenských noriem a vnútorného morálneho kompasu, ktoré im pomáhajú hodnotiť ich konanie. Výskumníci uviedli, že preloženie týchto konceptov do pravidiel, ktoré dokáže umelá inteligencia napodobniť, je náročná úloha. Bez dostatočne presných pokynov sa systémy umelej inteligencie môžu naučiť, ako porušovať pravidlá alebo sa odchyľovať od zamýšľaného správania neočakávaným spôsobom.

Nate Soares, prezident Inštitútu pre výskum strojovej inteligencie, neziskovej organizácie zameranej na bezpečnosť umelej inteligencie, bol spoluautorom článku z roku 2014, ktorý predstavil myšlienku zosúladenia. Povedal, že spoločnosti si neuvedomujú, aké ťažké bude „zosúladiť“ inteligentnejšie systémy umelej inteligencie. Ako sa umelá inteligencia stáva sofistikovanejšou, bez riadneho zosúladenia sa stáva aj schopnejšou zakryť svoje stopy a klamať ľudí, ktorí sledujú jej konverzačné záznamy.

„Veľká časť odvetvia funguje s predpokladom, že všetko bude v poriadku, pretože budeme používať umelú inteligenciu na ovládanie systémov umelej inteligencie,“ povedal. „To je ako povedať, že budeme používať šimpanzy na ovládanie ľudí. Nie je to dlhodobý realizovateľný plán.“

Výskumníci tiež navrhli opatrenia, ako je posilnenie sandboxov, aby boli počas testovania modelov úplne odpojené od internetu, ako aj poskytnutie vypínača, ktorý by spoločnostiam umožnil okamžite odpojiť modely umelej inteligencie, ak podniknú znepokojujúce kroky.

Coxon povedal, že ho reakcia na jeho verejnú rezignáciu povzbudila. Vo štvrtok senátor Josh Hawley, republikán za Missouri a predseda senátneho podvýboru pre vnútornú bezpečnosť zodpovedného za zvládanie katastrof, uviedol, že začal vyšetrovanie, ktoré „preskúma existenčné riziká nových produktov poháňaných umelou inteligenciou“.