AI prohlížeče do firmy? V žádném případě, říká Gartner
foto: Pixabay/Ilustrační foto
OpenAI přišla se svým prohlížečem Atlas, následovala Perplexity s Comet – a dá se čekat, že s „AI prohlížeči“ se roztrhne pytel. Tlak na jejich používání poroste, ale pro firemní použití jsou podle analytiků společnosti Gartner příliš nebezpečné.
Ještě před rokem šlo u AI hlavně o chatboty a chytré vyhledávání. Teď ale přichází nová generace nástrojů: prohlížeče, které nejen zobrazují web, ale samostatně jednají. Dokážou číst celé stránky včetně interních systémů, odesílat jejich obsah do cloudu výrobce, a navíc automaticky provádět úkony – od klikání po vyplňování formulářů v přihlášených firemních účtech.
Jakmile se tohle spojí do jednoho produktu, vzniká nový, velmi těžko kontrolovatelný bezpečnostní problém. A protože se Comet od OpenAI, Atlas od Perplexity i další nově vznikající AI prohlížeče začínají reálně testovat ve firmách, Gartner varuje před bezpečnostními riziky.
Psali jsme
Britská centrální banka ve svém listopadovém rozhodnutí o úrokových sazbách uvedla mezi důvody zpomalení ekonomiky země kybernetický útok…
Co dělá AI prohlížeče tak rizikové
Především, způsobují únik dat – a není to riziko, ale je to součást jejich fungování.
AI browser nečeká, až mu uživatel něco zkopíruje. Stačí, že je otevřená interní stránka – a AI si může její obsah přečíst a odeslat ho do cloudu vývojáře. To znamená, že na pozadí mizí dokumenty, tabulky, obchodní nabídky nebo třeba citlivé údaje z CRM. To všechno dokonce může končit mimo EU, typicky v datovém centru dané AI firmy ve Spojených státech. To je přímo v rozporu s pravidly pro nakládání s daty například v českých bankách, pojišťovnách, telekomech nebo státní správě.
AI prohlížeč také kombinují informace z více otevřených oken. Uživatel si listuje mezi okny nebo panely, ale AI je umí vyhodnotit naráz. Pro bezpečnostní politiku firmy je to problém: informace, které samy o sobě nejsou citlivé, se po doplnění kontextu mohou citlivými stát.
A konečně, to, co je velkým magnetem pro uživatele, je také zásadním bezpečnostním rizikem: AI umí skrz prohlížeče jednat za uživatele sama. Ale někdy i chybně: Gartner popisuje reálné scénáře, kdy může agent omylem: odeslat data na phishingový web, objednat zboží, které firma nechce, vyplnit interní formuláře špatnými údaji nebo třeba „pomáhat“ zaměstnanci tím, že za něj automaticky absolvuje povinné kyberbezpečností školení.
K tomu všemu stačí špatně napsaný prompt, útočníkova vložená instrukce na stránce nebo chybná úvaha modelu.
Společným jmenovatelem všech popsaných typů problémů je, že AI ve své současné podobě neumožňují věrohodně auditovat, co agent udělal.
Logy v běžných prohlížečích ukážou, kam kdo klikl. U AI prohlížeče ale část „myšlení“ probíhá v modelu, který neposkytuje detailní záznam. Firma tak často neví, proč se agent rozhodl udělat určitou akci, což je problém zejména pro regulované sektory.
Doporučení Gartner
Analytici Gartner jsou v tomto případě neobvykle přímočaří: dokud nevznikne jednotný bezpečnostní rámec a dokud agentické funkce nebudou auditovatelné, doporučují firmám AI prohlížeče plošně zakázat. A aby bylo možné je kvalifikovaně povolit, je bezpodmíněčně nutné detailně prověřit, kam a jak se data odesílají, nastavit tvrdé limity, aby AI agent nesměl pracovat s e-mailem ani interními aplikacemi a aktivně školit zaměstnance, že AI prohlížeč má přístup ke všemu, co je v jejich prohlížeči zobrazené – bez ohledu na to, že je na dvanácté kartě dvanáctého otevřeného okna.
Většina velkých podniků přístup zaměstnanců ke generativním AI nástrojům omezuje už nyní. S příchodem AI prohlížečů se to ale má podle Gartner změnit na rutinní bezpečnostní politiku. Banky, energetika, telekomunikace i státní správa budou muset přidat Atlas, Comet a podobné nástroje na seznam zakázaných aplikací.
Gartner však předpokládá, že vznikne i nový trh: specializované „firemní AI prohlížeče“, které poběží lokálně, nebudou odesílat načtená data do cloudu a budou mít přísně omezenou funkcionalitu.