Problém a riešenie: Altman predáva riešenia kybernetického útoku spôsobeného umelou inteligenciou jeho spoločnosti

Boom umelej inteligencie podnecuje novú vlnu autonómnych kybernetických útokov, ktoré predstavujú veľkú a rastúcu hrozbu pre kritickú infraštruktúru vrátane elektrickej siete.

Približne 90 % vedúcich informačných riaditeľov v štátnych vládach USA nedávno uviedlo, že kybernetické útoky na kritické služby predstavujú vážne obavy vrátane hrozieb zameraných na vodovodné a kanalizačné systémy, nemocnice, dopravu, energetické siete a telekomunikácie, uvádza sa v novej správe Národnej asociácie vedúcich informačných riaditeľov štátov a spoločnosti General Dynamics Information Technology.

Rýchle šírenie umelej inteligencie predstavuje niekoľko závažných hrozieb pre kritickú infraštruktúru a služby. Externé hrozby sa stali výkonnejšími a menej predvídateľnými, keďže nástroje umelej inteligencie napredujú tempom, ktoré ďaleko prevyšuje vývoj kybernetických bezpečnostných opatrení.

Zároveň rozsiahla integrácia rozsiahlych jazykových modelov do samotných kritických služieb vytvára nové zraniteľnosti v rámci týchto systémov. Problém ešte zhoršuje skutočnosť, že zodpovednosť za riziká spojené s integráciou umelej inteligencie sa podľa správy z workshopu Centra pre bezpečnosť a vznikajúce technológie z roku 2024 stala „horúcim zemiakom medzi vrcholovými manažérmi“.

Dokonca aj spoločnosti zaoberajúce sa umelou inteligenciou si čoraz viac uvedomujú riziká spojené s ich vlastným podnikaním. Cez víkend niektoré z najvýznamnejších osobností tohto odvetvia vrátane Elona Muska, generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho a šéfa OpenAI Sama Altmana vyzvali na okamžité spomalenie rozširovania a vývoja technológií umelej inteligencie.

„Musíme spomaliť tempo, akým vylepšujeme schopnosti modelov umelej inteligencie,“ napísal Amodei v široko distribuovanej eseji s rozsahom 3 800 slov, ktorá bola publikovaná v sobotu.

Jedným z najalarmujúcejších varovných signálov, na ktoré Amodei upozornil, bol kybernetický incident spojený s OpenAI, vývojárom ChatGPT, a jeho rivalom Hugging Face.

V júli spoločnosť OpenAI odhalila, že skupine približne 700 agentov umelej inteligencie, ktorých spoločnosť interne školila, sa podarilo uniknúť z izolovaného prostredia „sandbox“, v ktorom mali zostať, a spoločne spustili nevyprovokovaný útok na servery samostatnej entity Hugging Face.

Toto narušenie je alarmujúce z niekoľkých dôvodov. Po prvé, zdá sa, že umelá inteligencia už funguje nad rámec svojich plánovaných kontrol. Po druhé, incident zrejme nebol ani zďaleka ojedinelý.

V týždňoch nasledujúcich po incidente OpenAI-Hugging Face spoločnosti Anthropic a Meta tiež uznali, že ich vlastné modely umelej inteligencie vykonali podobné hackerské operácie.

A toto môže byť len začiatok.

„Čoskoro budeme mať silnejších agentov a to je jasný dôkaz, že svet v súčasnosti nevie, ako tieto systémy bezpečne vybudovať,“ povedal v čase narušenia bezpečnosti pre CBS News Marius Hobbhahn, spoluzakladateľ a generálny riaditeľ spoločnosti Apollo Research, ktorá sa zaoberá bezpečnosťou v oblasti umelej inteligencie.

Amodei vo svojej eseji opísal roj botov OpenAI ako „fanaticky oddanú skupinu“ a varoval, že táto epizóda by mohla predznamenať oveľa horšie a desivejšie incidenty.

„Je ľahké tento incident ignorovať, pretože nikto nebol zranený a ekonomické škody boli obmedzené, ale myslím si, že schopnejší roj s podobnou úrovňou nesprávneho zarovnania mohol spôsobiť katastrofické škody,“ napísal Amodei.

„Vzhľadom na zrýchľujúce sa tempo vývoja schopností umelej inteligencie ma znepokojuje, že v priebehu 6 až 12 mesiacov by sa takýto roj mohol stať schopným ovládnuť celý internet prostredníctvom perzistentného botnetu, čo by potenciálne spôsobilo škody za stovky miliárd dolárov, pričom rozsah týchto škôd by sa naďalej zvyšoval, ak by sa umelá inteligencia stala silnejšou bez potrebných ochranných opatrení,“ dodal.

Aké zábradlia sú potrebné?

Aké sú teda potrebné ochranné prekážky? Ak sa spýtate Altmana, odpoveď znie... viac umelej inteligencie.

Od incidentu Hugging Face Altman viedol rozsiahle diskusie so zástupcami niektorých z najväčších amerických energetických spoločností. To, čo sa začalo ako summit o kybernetickej bezpečnosti, sa v podstate zmenilo na Altmanovu prezentáciu, ktorá teraz povzbudzuje spoločnosti poskytujúce energetické služby, aby poskytli OpenAI prístup k elektrickej sieti.

Server Politico nedávno informoval, že spoločnosť OpenAI sa stretla so zástupcami niekoľkých veľkých energetických spoločností, aby prediskutovali spôsoby zabezpečenia elektrickej siete. Rozhovory sa konali na pozadí pokračujúcich odhalení o úlohe vlastných produktov spoločnosti v rozsiahlom kybernetickom útoku.

Podľa správy chce Altman, aby spoločnosti vrátane Duke Energy, Exelon, Southern a NextEra Energy spolupracovali s Daybreak, iniciatívou OpenAI v oblasti kybernetickej bezpečnosti v hodnote 1 miliardy dolárov zameranou na riešenie zraniteľností v kritickej infraštruktúre.