Otevřený dopis za pozastavení vývoje AI
foto: Pixabay/ilustrativní
Otevřený dopis s žádostí o pozastavení vývoje umělé inteligence podepsalo přes tisíc zainteresovaných osob. Mezi nimi byl například Elon Musk nebo Steve Wozniak. Dopis varuje před nekontrolovatelnou situací. Požaduje pozastavení vývoje jakékoliv další umělé inteligence po GPT-4. Největší rizika podle autorů textu jsou možnost velkého šíření dezinformací, neexistující kontrolní systém a obrovská rychlost, s jakou se nové technologie vyvíjí.
Ve středu skupina vedoucích odborníků se zaměřením na umělou inteligenci v otevřeném dopise požádala o pozastavení dalšího vývoje AI, uvádí server Reuters. Podle jejich názoru s sebou takto rychlý pokrok přináší rizika pro společnost. Poslední spuštěnou verzí by dle dopisu měla být GPT-4 společnosti OpenAI, která byla představena na začátku března. Celkově dopis podepsalo přes tisíc lidí. Mezi významná jména patří například Elon Musk, spoluzakladatel společnosti Apple Steve Wozniak a další výzkumníci ze společnosti DeepMind nebo „kmotr umělé inteligence“ Stuart Russell. Výkonní ředitelé společnosti Alphabet a Microsoft Undar Pitchi a Satya Nadella ani generální ředitel OpenAI Sam Altman však dopis nepodepsali.
"Systémy umělé inteligence s myslí srovnatelnou lidské mohou představovat vysoké riziko pro společnost a lidstvo," cituje dopis server BBC News. Text byl napsán pod záštitou institutu Future of Life, což je nezisková organizace s posláním „směřovat transformativní technologie od krajních, vysoce rozsáhlých rizik k prospěšnosti pro společnost“.
Kromě jiného dopis varuje před rizikem například velkého šíření dezinformací. „Měli bychom nechat stroje zaplavit naše informační kanály propagandou a lží? Měli bychom vyvíjet nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit, způsobit naše zastarání a nahradit?" ptá se dopis, podle něhož „taková rozhodnutí nesmí být delegována na nezvolené technické vůdce.“ Cílem by pravděpodobně měla být jakási kontrola toho, co přesně AI kde říká a kam to zveřejňuje. Nicméně jde pouze o konstrukci možných scénářů nikoliv ověřený fakt.
Psali jsme
Umělá inteligence GPT-4 dostala za úkol na základě rozvahy z roku 2021 vyhodnotit možná rizika pro Sillicon Valey Bank. Výsledky byly poměrně…
Dále se dopis zabýval nedostatkem regulací, protože momentálně v podstatě žádná oficiální omezení systémy nemají. Požaduje se dohled ze strany vlády. „Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika zvládnutelná,“ píše se na toto téma.
Zároveň se také objevuje kritika rychlosti vývoje, a především uzamknutí informací o dalších krocích v postupu firem. „Během posledních měsíců se laboratoře ocitly v nekontrolovatelném závodu o vývoj a použití stále výkonnějších digitálních inteligencí, kterým nikdo – ani jejich vývojáři – nerozumí. Neumíme jejich chování předvídat, nerozumíme jim a nedokážeme je spolehlivě ovládat,“ varuje dále vzkaz.
Otázkou zůstává, zda někteří z podepsaných mají opravdu za cíl pouze bezpečnost světa. Vzhledem k tomu, že chybí podpisy jak vedoucích zástupců Microsoftu, tak OpenAI, které jsou momentálně hlavními hráči v této oblasti, by někomu mohlo také jít o snahu zpomalit jejich rozvoj. Pokud by se totiž jakýkoliv další vývoj zastavil, přišly by tyto společnosti o veškerou výhodu a náskok, který si do této doby vybudovaly.