Papež František vyzývá ke kontrole AI: Světový den míru jako impulz k regulaci umělé inteligence

Není překvapením, že v případě jakéhokoliv ožehavého tématu, společnost bývá názorově rozdělena. Výjimkou není ani fenomén umělé inteligence (AI). Jedni ji zbožňují, druzí se jí obávají, a tak jí kritizují. Do skupiny těch druhých se nyní postavil papež František. Ten při příležitosti Světového dni míru vyzval mezinárodní společenství k regulaci AI.

Letošní Světový den míru se nese v duchu hesla „Umělá inteligence a mír“. Papež František v tomto kontextu varoval i před „technologickou diktaturou“, která podle něj ohrožuje lidskou existenci. „Globální rozměr umělé inteligence jasně ukazuje, že vedle odpovědnosti svrchovaných států za vnitřní regulaci mohou při jejím využívání hrát rozhodující roli mezinárodní organizace,“ uvedl papež a pokračoval: „Vyzývám světové společenství národů, aby spolupracovalo na přijetí závazné mezinárodní smlouvy, která by regulovala vývoj a využívání umělé inteligence v jejích mnoha podobách,“ vyzval František.

Papež také poukázal na etickou kontrolu „cílů a zájmů společností vyvíjejících a vlastnících AI nástroje“ a varoval, že některé aplikace AI mohou „představovat riziko pro naše přežití“ či ohrozit naši planetu. „V obsedantní touze mít vše pod kontrolou riskujeme, že ztratíme kontrolu sami nad sebou; ve snaze o absolutní svobodu riskujeme, že se dostaneme do spirály ‚technologické diktatury‘,“ píše se ve zprávě.

Otázka regulace AI je celkem ožehavá napříč kontinenty. EU v tomto duchu došla k předběžné dohodě ohledně harmonizovaných pravidel, která mimo jiné stanovují omezení při využívání AI pro biometrickou identifikaci ze strany bezpečnostních složek. Další změny se týkají také pravidel pro univerzální a vysoce rizikové modely umělé inteligence, které mohou v budoucnu způsobit systémové riziko. Jde také o lepší ochranu práv prostřednictvím povinnosti pro uživatele vysoce rizikových systémů umělé inteligence posoudit dopad před uvedením systému do provozu. Obecně cílem návrhu nařízení je zajistit, aby systémy umělé inteligence uváděné na evropský trh a používané v EU byly bezpečné a respektovaly základní práva a hodnoty EU, uvádí server Consilium.Europa.eu

   „To je historický úspěch a obrovský milník do budoucna! Dnešní dohoda účinně řeší globální výzvu v rychle se vyvíjejícím technologickém prostředí v klíčové oblasti pro budoucnost našich společností a ekonomik. A v tomto úsilí se nám podařilo udržet extrémně křehkou rovnováhu: podpora inovací a zavádění umělé inteligence v celé Evropě při plném respektování základních práv našich občanů,“   okomentovala dohodu například  Carme Artigas, španělská ministryně zahraničí pro digitalizaci a umělou inteligenci.