Technofobní EU

Není žádnou novinkou, že Evropská unie stagnuje v rozvoji moderních technologií. Nepodařilo se jí zachytit nástup internetu již před čtvrtstoletím. Díky tomu mají největší světové internetové společnosti základny v USA nebo v Číně. Evropa nemá žádnou obdobu globálních firem, jako jsou Alphabet, Amazon nebo Meta. Unii se nedaří ani zachytit nástup umělé inteligence. Vše podstatné se odehrává opět v USA — a možná ještě v Číně, ačkoli ta dělá větší tajnosti v oboru AI.

V minulém desetiletí to byla právě Čína, která měla v oblasti sociálních médií pověst černé ovce. Ať už byla nová aplikace jakákoli, v Číně byla s velkou pravděpodobností zakázaná. X/Twitter? Zakázáno. Facebook? Zakázaný. Instagram? Zakázáno.

V posledních měsících se však v cenzurní olympiádě objevil černý kůň: Evropská unie.

Začátkem tohoto roku italská vláda zrušila přístup na ChatGPT s odvoláním na obecné nařízení EU o ochraně osobních údajů (GDPR), což je monstrózní 261 stránkový zákon, který omezuje evropský web. Stažením stěžejní aplikace OpenAI se Itálie zařadila do stejného tábora jako Čína, Írán, Rusko a Severní Korea. Teprve po značném úsilí v PR a po podpoře drakonického licenčního systému EU Samem Altmanem byrokraté ustoupili.

V červenci Meta spustila Threads, svého konkurenta X/Twitteru. A rozhodla se EU zcela vynechat — nová aplikace prostě není pro občany EU dostupná. Nešlo jen o GDPR. Mluvčí společnosti Meta se odvolával na připravovaný zákon o digitálních trzích, což je další zásah proti technologickým společnostem se stejně neprůhledným, ne-li ještě neprůhlednějším jazykem. Pokud žijete v EU, očekávejte, že se budete stále častěji stávat digitálním občanem druhé kategorie, podobně jako v minulém desetiletí Čína. Pokud chcete držet krok s internetem první úrovně, nabijte si americké VPN a kryptopeněženky.

Chcete-li pochopit, jak se EU dostala do tohoto neblahého stavu, musíte pochopit kořeny jejího regulačního mechanismu. Při zavádění svého regulačního režimu EU vytvořila systém, který automaticky odměňuje složku dobře placených byrokratů na plný úvazek, kteří je prosazují.

V roce 2018 začala Evropská unie prosazovat GDPR za jednotné fanfáry tradičních médií. Prý bude chránit soukromí a kybernetickou bezpečnost lidí. Ekonomové a inženýři tehdy předpovídali, že to bude pro evropskou digitální ekonomiku katastrofa. Měli pravdu: například přes noc zmizela téměř polovina nových aplikací a množství nových aplikací, které se nakonec stanou úspěšnými, se snížilo o 40 %.

Evropští politici propagovali GDPR jako způsob ochrany soukromí evropských občanů. Zvýšilo však skutečně bezpečnost evropských společností a zabránilo hackerům v krádežích dat? Ne. To by vyžadovalo technologické inovace a opravy kódu, což byrokraté nejsou schopni vytvořit. Omezila státní sledovací pravomoci? Určitě ne. Místo toho se jejich občané dočkali otravných bannerů se soubory cookie a zbytečného papírování o dodržování předpisů. GDPR se nakonec stalo programem, který zvýšil náklady firmám a zlikvidoval polovinu nových aplikací.

Evropská unie své občany podvedla. Slibovala jedno a splnila pravý opak.

To je systematický rys, nikoli chyba fungování EU. Evropský regulační režim lze nejlépe chápat jako kartel, který usiluje o získání renty. Z článku Federalistické společnosti z roku 2018, který přesně předpověděl ekonomickou katastrofu způsobenou GDPR s předstihem:

„Webová stránka Evropské komise o GDPR tvrdí, že cílem nařízení je poskytnout uživatelům větší kontrolu nad jejich údaji a zajistit, aby podniky ‚měly prospěch z rovných podmínek‘. Samotný statut však naznačuje jinou skupinu zúčastněných stran: účastníky soudních sporů, neziskové organizace, odborníky na ochranu údajů a regulační orgány. Neziskovým organizacím se dávají nová práva organizovat hromadné žaloby, podávat stížnosti a získávat kompenzace z pokut vybíraných z ročních příjmů firem, a to až ve výši čtyř procent ročních příjmů.“

Byrokraté a zákonodárci firmy vydírají, zasahují je znovu a znovu, dokud nemají dost. Svou kořist rozdělují svým voličům — samozřejmě ne občanům EU —, ale nevládním organizacím, právníkům a středním manažerům, které využívají k dalšímu upevňování své moci.

Jejich hra však nemůže pokračovat věčně. Jak říká geopolitický analytik Samo Burja, „moc je evropskými byrokraty vnímána především jako schopnost něco zakázat“. Regulační režim EU je postaven na lži, že cestu k prosperitě lze zakázat. Náklady spojené s GDPR udělají do tohoto příběhu nenapravitelnou díru.

Dalším krokem v technologické represi EU je 144 stránkový zákon o umělé inteligenci. Za shrnutí děkujeme Technomancers.

Za prvé, EU vytváří právní nebo regulační prostředí, v němž jsou pravidla uplatňována nejednotně nebo nepředvídatelně:

• Projekty budou muset registrovat předpokládanou funkčnost svých systémů.  Systémy, které tuto funkčnost překročí, mohou být předmětem odvolání.  To bude problémem pro mnoho anarchičtějších open-source projektů...
• Rizika jsou velmi vágně definována:  Seznam rizik zahrnuje rizika pro životní prostředí, demokracii a právní stát. Co je to riziko pro demokracii?  Může být tento zákon sám o sobě rizikem pro demokracii? (str. 26).

Tím, že je působnost regulace je globální a kritéria jejího prosazování čistě arbitrární, umožňuje EU svým spřáteleným soudům vydírat podniky nepředvídatelným způsobem. Dále vytváří zájmovou skupinu profitující z regulace prostřednictvím těchto opatření. Do této zájmové skupiny patří zejména právníci, neziskovky a regulátoři samotní.

Další překážky zahrnují:

• Licencování nasazení (deployment).  Firmy nasazující systémy AI do provozu, osoby nebo subjekty používající systémy AI, musí před spuštěním projít přísným projektem kontroly povolení.  Malé podniky v EU jsou od tohoto požadavku osvobozeny. (str. 26).
• Možnost třetích stran vést soudní spory.  Dotčené třetí strany mají právo vést soudní spor prostřednictvím regulačního orgánu pro UI v dané zemi (zřízeného zákonem).  To znamená, že nasazení systému UI lze individuálně napadnout ve více členských státech.  Třetí strany mohou vést soudní spor, aby přiměly národní regulační orgán pro UI k uložení pokuty. (str. 71).
• Velmi vysoké pokuty.  Pokuty za nedodržení předpisů se pohybují od 2 % do 4 % celosvětového hrubého příjmu společnosti.  U fyzických osob to může být až 20 000 0000 EUR.  Malé a střední podniky se sídlem v Evropě a začínající podniky mají, pokud jde o pokuty, úlevu. (Str. 75).

Tento proces financuje spojence regulačního režimu. Vytváří mocenskou skupinu, která bojuje za regulační stát a je placena přímo jeho oběťmi.

Samozřejmě by to nebyl zákon EU bez plošných zákazů některých nejproduktivnějších technik strojového učení:

• API v podstatě zakázáno.  API umožňují třetím stranám implementovat model umělé inteligence, aniž by jej spustily na vlastním hardwaru.  Mezi příklady implementace patří AutoGPT a LangChain.  Podle těchto pravidel, pokud třetí strana pomocí API přijde na to, jak přimět model, aby dělal něco nového, musí si tato třetí strana následně nechat novou funkci certifikovat.

• LoRA v podstatě zakázána.  LoRA je technika, která umožňuje pomalu a levně přidávat do modelu nové informace a funkce.  Opensource projekty ji používají, protože si nemohou dovolit počítačovou infrastrukturu za miliardy dolarů.  Velké modely umělé inteligence ji prý také používají, protože trénink je levnější i jednodušší na bezpečnostní kontrolu než nové verze modelu, které zavádějí mnoho nových funkcí najednou (str. 14).

Regulační režim Evropské unie má totalitní ambice. Opakovaně a jednoznačně se pokouší přijmout zákony, které by mu poskytly kontrolu nad evropským internetem v čínském stylu. A dost možná se mu to podaří.

Poznámka: LoRA (Low-Rank Adaptation of Large Language Models) je algoritmus, který zmrazí váhy předtrénovaného modelu a do každé vrstvy architektury transformátoru vloží trénovatelné matice rozkladu hodností, čímž výrazně sníží počet trénovatelných parametrů pro navazující úlohy. (Máte pocit, že tomu stále nerozumíte? Nejste sami, Evropská komise také ne.)

napsal Brian Chau, přeložil a lehce doplnil Pavel Kohout