AI bez halucinací. Nová metoda počítá katastrofy, které se ještě nestaly
foto: Pixabay/Ilustrační obrázek
Pustit umělou inteligenci na modelování katastrof by se nemuselo vyplatit. Riziko, že vymyslí obdobu šestého prstu na ruce, fyzikálně nesmyslného odrazu světla nebo konstrukce, která by se ve skutečnosti zhroutila, je velké. Ale vědci z univerzity MIT našli způsob, jak AI dát pevné mantinely reality.
Jak vysoko vystoupá voda při stoleté povodni? To je standardní otázka – ale co když v daném místě o takové povodni není žádný záznam? A také: jak bude taková povodeň nejspíš vypadat? Bude to krátký přívalový déšť, nebo týden trvající déšť na celé ploše povodí?
To je problém, se kterým bojují meteorologové, projektanti i pojišťovny. A nejenom u povodní: Jak posílit elektrickou síť proti rekordním vedrům, která zatím nenastala? Běžné modely potřebují historické extrémy, aby se je naučily rozpoznávat. Jenže extrémní události jsou vzácné: v datech jich bývá málo, nebo tam dokonce vůbec nejsou.
Výzkumníci z MIT využívají umělou inteligenci – ale vymysleli způsob, jak ji nenechat generovat nesmysly. Podle jejich metody se model nejprve naučí běžné fungování systému – například každodenní průběh počasí. Současně ale dostane ještě druhé zadání: jeho výstupy musí odpovídat známé statistice extrémních jevů. Neučí se tedy konkrétní stoletou povodeň, ale zjišťuje mantinely, ve kterých se taková povodeň může pohybovat.
Právě tato "statistická kotva" odlišuje novou metodu od běžných generativních modelů. Ty vytvářejí pravděpodobný obsah podle podobných příkladů, které viděly při učení. MIT řeší opačný problém: jak vytvořit věrohodný scénář události, kterou model nikdy neviděl, protože se v historických datech téměř nevyskytuje.
Psali jsme
Zářijové povodně způsobily státnímu podniku Povodí Moravy škody ve výši 2,99 miliardy korun. Poškozeno je zejména břehové opevnění koryt toků…
Obdoba: revoluční AlphaFold
Je to podobný princip, jaký už umělá inteligence jednou předvedla v biologii. Nástroj pro modelování proteinů AlphaFold, který přinesl revoluci do hledání nových léčiv, se také nenaučil všechny existující proteiny nazpaměť. Naučil se pravidla jejich skládání a z nich dokáže odvodit prostorovou strukturu molekuly, kterou dosud nikdo neviděl.
Metoda, kterou autoři nazvali η-learning, dělá podobnou věc pro extrémní události – z běžného chování systému a známé statistiky extrémů odvodí podobu katastrofy, která se zatím neodehrála.
Aby ověřili, že metoda funguje i bez znalosti historických extrémů, připravili výzkumníci poměrně přísný test. Měli k dispozici 25 let amerických srážkových dat, ale nechali model učit jen z prvního půlroku – období, které téměř žádné skutečně extrémní deště neobsahovalo.
Model se z daného půlroku naučil detailní strukturu deště a pak dokázal věrně reprodukovat rozdělení extrémních srážek pozorovaných za 25 let. V dalším kroku pak autoři ukázali, že stejný princip lze použít i pro vytváření scénářů ještě vzácnějších událostí.
Výsledek byl překvapivě lepší než při využití neuronové sítě, tedy běžné metody tzv. strojového učení. Neuronová síť totiž systematicky podhodnocuje extrémy, v daném případě nejvyšší srážky. η-learning naopak „vytvořil“ výrazně silnější deště a intenzita i statistické rozdělení se téměř shodovalo se skutečně naměřenými dlouhodobými daty.
Autoři výslovně varují před nerealistickými očekáváními, že by jejich model přesně předpovídal konkrétní události. To není možné: model pouze vytváří stovky nebo tisíce různých scénářů, které všechny odpovídají stejné pravděpodobnosti výskytu. To je ale přesně to, co je důležité pro plánování infrastruktury.
Ta se dosud testovala proti několika málo "učebnicovým" katastrofám. Nová metoda umožňuje stejnou elektrickou síť, kanalizaci nebo protipovodňovou ochranu otestovat proti tisícům realistických variant stejného extrému. To může odhalit slabá místa, která jedno návrhové číslo neukáže – a naopak ukázat místa, kde jsou dnešní bezpečnostní rezervy zbytečně velké.
Prvními uživateli budou spíš hydrologické služby, správci energetických sítí nebo pojišťovny. Nová metoda jim může nabídnout věrohodnější extrémní scénáře i tam, kde historická data nestačí.