AI firmy přitvrdí. Jak se bránit, aby nás nesedřely z kůže?
foto: Redakce Deníku Vektor, vygenerováno pomocí AI (ChatGPT 5.2) /Ilustrační obrázek
Do AI tečou biliony a investoři je budou chtít zpět, a s úroky. Zaplatí to uživatelé – a budou muset svou spotřebu hlídat a řídit, jinak se nedoplatí.
Americká společnost Ramp, která firmám pomáhá sledovat a řídit provozní výdaje, získala investici 750 milionů dolarů při valuaci 44 miliard dolarů. Současně oznámila vstup do nové oblasti: kontroly nákladů na umělou inteligenci.
Když se velká firma specializovaná na kontrolu výdajů rozhodne vybudovat samostatný produkt pro AI, stojí za to zpozornět. Do běžného nasazení se dostává software, jehož úkolem je hlídat, kolik firmy utrácejí za používání AI modelů, a hledat nákladově optimální alternativy.
Je to signál, že generativní AI vstupuje do nové fáze vývoje. Technologie, která byla ještě nedávno vnímána hlavně jako fascinující novinka, začíná vytvářet dostatečně vysoké účty na to, aby kolem nich vznikl samostatný obor.
Souvisí to s obrovským množstvím peněz, které AI spotřebovává. Největší technologické firmy letos plánují investice do AI infrastruktury kolem 700 miliard dolarů a odhady počítají s kumulovanými investicemi v řádu 5–8 bilionů dolarů během příštích pěti až šesti let. Investoři, věřitelé i budoucí akcionáři však budou dříve či později požadovat návratnost.
Proto začíná být důležitá otázka, kolik vlastně používání umělé inteligence stojí.
Mohlo by se zdát, že náklady by měly klesat, protože cena za jednotku výkonu dlouhodobě padá. Nové modely jsou efektivnější, takže zvládají více práce za stejné peníze; navíc konkurence mezi poskytovateli tlačí ceny dolů. Přesto se stále častěji objevují zprávy o firmách, které za AI utrácejí mnohem více, než očekávaly.
Psali jsme
Česká republika se uchází o vybudování jednoho z pěti evropských AI datacenter za víc než sto miliard korun. Jenže AI je podle analytiků…
Spotřeba AI výkonu roste
V médiích v posledních týdnech koloval příběh anonymní společnosti, která údajně během jediného měsíce omylem utratila za používání modelů stovky milionů dolarů – o dva řády víc, než kolik očekávala a plánovala. Informaci nelze nezávisle ověřit a je proto vhodné ji brát s rezervou. Dobře však ilustruje obavy, které se v technologickém sektoru začínají objevovat. Zdokumentovaný příklad je Uber, který vyčerpal rozpočet na AI nástroje pro rok 2026 už v dubnu. Paradoxem je, že Uber zavedl interní soutěže podporující používání AI nástrojů. Firma tak musela otočit o 180 stupňů a zavést limity spotřeby.
Účty firem za používání AI navzdory klesajícím jednotkovým cenám dramaticky rostou – protože raketově roste spotřeba. Původně většina lidí používala AI hlavně formou chatu. Položili otázku, dostali odpověď – a konverzace buď skončila, nebo při pokračování pomalu narůstala spotřeba tokenů, tedy jednotek, v nichž se měří „vykonaná práce“. Teď se ale v technologické komunitě stále častěji objevuje slogan „Chat is dead“. Znamená to, že tím, kdo spotřebovává výkon, nejsou přímo živí uživatelé v chatu, ale agenti.
Agent samostatně plánuje postup, vyhledává informace, používá nástroje, kontroluje výsledky a často provádí desítky nebo stovky dílčích kroků. Uživatel vidí jediný výsledek, na pozadí ale může proběhnout rozsáhlý řetězec operací. Každá z nich spotřebovává výpočetní výkon a zvyšuje účet. A zatímco počet chatových konverzací je omezen časem člověka, počet agentů může růst prakticky bez omezení. Firma může provozovat stovky nebo tisíce digitálních pracovníků současně. Ti si navzájem předávají práci, často v nekonečných smyčkách: jeden agent něco vytvoří, druhý to vrátí s připomínkami… A spotřeba má tendenci růst nade všechny meze.
Psali jsme
Množí se stížnosti, že pracovníci vydávají výstupy AI za svou práci. Jednak jde o kvalitu – a taky je otázka, za co přesně vlastně takoví…
Jako dřív telefony nebo cloud
Jde o extrémní podobu fenoménu, který technologický sektor zažil už několikrát. Na přelomu tisíciletí firmy řešily účty za telefonní služby, následovala mobilní data. A pak cloud computing, který zpočátku sliboval levnější IT infrastrukturu, ale také sváděl uživatele k nekontrolovanému růstu využívaných výpočetních kapacit.
Právě pro kontrolu cloudových výdajů vznikla nová disciplína, dokonce s vlastním názvem: FinOps. A vznikly také specializované nástroje i poradenské firmy. A stejný mechanismus se nyní začíná objevovat kolem umělé inteligence. Vedle označení AI FinOps se používají pojmy jako AI Spend Management nebo TokenOps. Firmy sledují, které týmy AI používají, kolik za ni utrácejí – a například zda konkrétní úkol skutečně vyžaduje nejvýkonnější model. Obecně je cílem hledat, kde a jak snížit náklady bez ztráty kvality.
Pokud není řízení nákladů na AI ve firmách velkým tématem, velmi rychle začne být. Na rozdíl od zmíněných historických paralel totiž může být rozdíl mezi efektivním a neefektivním využitím AI ne v násobcích, ale v několika řádech.