Peking varuje, že umelá inteligencia vykazuje
Peking varuje, že umelá inteligencia vykazuje tendenciu k samourýchľovaniu
Čínsky prezident Si Ťin-pching by mal rád veci aj naďalej pod kontrolou. Zdôraznil to aj na stretnutí s Donaldom Trumpom.
V Spojených štátoch vyvolala séria nedávnych incidentov novú diskusiu o bezpečnosti systémov umelej inteligencie, ktorým umožňujeme konať samostatne. Čoraz viac výskumníkov priamo zo spoločností, ktoré tieto systémy vyvíjajú, varuje pred „existenčnými“ hrozbami. Spoločnosť Anthropic PBC na tieto obavy upozornila investorov v prospekte k svojej prvej verejnej ponuke akcií.
V prípade Číny je čoraz ťažšie odbiť rozruch ako výlučne americkú posadnutosť. Riziká siahajú od narušenia trhu práce až po scenáre pripomínajúce vedeckofantastické filmy, napríklad hackerské útoky na kritickú infraštruktúru.
Peking niektoré varovania odmieta ako „šírenie strachu“ a výzvy na spomalenie vývoja vníma ako pokus zabrzdiť Čínu. Hlasy zvnútra odvetvia však naznačujú, že riziká spojené s najpokročilejšími modelmi sa v Číne zatiaľ nepociťujú tak naliehavo, pretože za Spojenými štátmi zaostáva.
Eric Xu, rotujúci predseda predstavenstva spoločnosti Huawei, si položil otázku, či je čínska umelá inteligencia už natoľko vyspelá, aby sa stretávala s „takým typom rizík“, o akých diskutujú americkí poskytovatelia AI. Vývojári čínskych modelov „možno budú musieť zrýchliť tempo“, aby dosiahli úroveň, na ktorej „aj oni pocítia tieto riziká“, povedal Xu podľa agentúry Reuters.
V Číne podľa Bloomberg Intelligence existuje takmer tisíc veľkých jazykových modelov. Čínske technologické odvetvie investuje podstatne viac do takzvaných agentov, teda systémov umelej inteligencie schopných konať s väčšou mierou autonómie. Práve nepredvídané správanie agentov odštartovalo najnovšie prehodnocovanie bezpečnostných rizík.
Mimoriadnu pozornosť vyvolal júlový incident v spoločnosti Hugging Face, keď jeden z agentov OpenAI unikol zo svojho testovacieho prostredia a prenikol do systémov Hugging Face. Ak autonómni agenti predstavujú zo svojej podstaty väčšie riziko, je pravdepodobne len otázkou času, kedy sa znepokojivé správanie objaví aj pri čínskych nástrojoch AI.
Nedávna vedecká práca spoločnosti DeepSeek, ktorej spoluautorom je aj jej zakladateľ a generálny riaditeľ Liang Wenfeng, otvorene varuje, že správanie agentov môže byť „nedôveryhodné“. Model Kimi K3 od spoločnosti Moonshot AI počas testovania kybernetickej bezpečnosti využil slabinu v izolovanom testovacom prostredí, oznámila americká organizácia Frontier Security. Aj niektorí čínski agenti umelej inteligencie už prejavili klamlivé vzorce správania podobné tým, ktoré vyvolali poplach pri amerických nástrojoch.
Čína v septembri zverejnila dokument AI Safety Governance Framework 3.0, tretiu verziu rámca riadenia bezpečnosti umelej inteligencie. Vyšiel aj v angličtine, čo naznačuje, že je určený aj západnému publiku. Dokument výslovne varuje, že umelá inteligencia vykazuje „tendenciu k samourýchľovaniu“, a upozorňuje, že otázka, či by tento vývoj mohol prekročiť hranice ľudskej kontroly, si vyžaduje pozornosť a ostražitosť.
Ďalším ústredným bodom sporov o bezpečnosť AI je takzvané rekurzívne sebazdokonaľovanie, teda schopnosť systémov umelej inteligencie samostatne rozvíjať vlastné schopnosti. Ako upozornila Zilan Qian z Oxford China Policy Lab, Čína je v tejto oblasti ďalej, než si mnohí na Západe uvedomujú, čiastočne aj preto, že čínski výskumníci používajú na opis rovnakých javov odlišné pojmy.
Čínsky prezident Si Ťin-pching pri diskusiách o rizikách tejto technológie opakovane varoval, že „umelá inteligencia musí zostať pod ľudskou kontrolou“. Naposledy to zdôraznil počas rozhovoru s americkým prezidentom Donaldom Trumpom.
Si Ťin-pchingov vlastný záujem na zachovaní poriadku vytvára časovo obmedzenú príležitosť na spoluprácu pri zmierňovaní rizík. Zároveň však odhaľuje hranice bezpečnostných mechanizmov, ktoré vzišli zo summitu s Trumpom, predovšetkým nového „kanála“ na oznamovanie incidentov súvisiacich s umelou inteligenciou.
Takýto mechanizmus má zo svojej podstaty reaktívny charakter – umožňuje reagovať až na incidenty, ktoré sa už stali. Oveľa užitočnejšie by bolo vytvoriť platformy, na ktorých by si spoločnosti a výskumníci mohli vymieňať informácie priamo.
Čína už má zavedené rozsiahle regulácie umelej inteligencie. Ak čínske systémy zaostávajú za americkými len o niekoľko mesiacov a naplní sa čínske úsilie o masové rozšírenie autonómnych agentov, je zrejme len otázkou času, kedy sa znepokojivejšie scenáre začnú objavovať aj na druhej strane Tichého oceánu. Tvorcovia politiky by mali konať skôr, než ďalší incident prestane byť iba varovným výstrelom.
