Cena od algoritmu, pro každého jiná. OK, ale zákazník to musí vědět
foto: Metropolitan Transportation Authority, CC BY 2.0/Kate Hochul, guvernérka státu New York
Stát New York zákonem ukládá on-line obchodníkům, aby upozorňovali zákazníky, pokud cena pro ně nebyla nastavena trhem, ale algoritmem využívajícím jejich osobní data.
Zákon, který v americkém státě New York platí od listopadu 2025, ukládá firmám, které využívají ke stanovení cen algoritmus a osobní data zákazníků, povinnost zobrazit při nabídce ceny viditelnou výstrahu: „THIS PRICE WAS SET BY AN ALGORITHM USING YOUR PERSONAL DATA“. Zákon je známý jako Algorithmic Pricing Disclosure Act (APDA) a jde o první legislativu svého druhu ve Spojených státech. Podobná regulace není ani v Evropě.
Algoritmická cenotvorba znamená, že firma používá automatizovaný algoritmus – ať už pomocí jednoduchých pravidel, nebo s využitím strojového učení (nepřesně: umělé inteligence). Algoritmus zpracovává data o zákazníkovi (např. historii nákupů či návštěv stránek, lokalizační či demografické údaje nebo třeba interní indikátory typu loajalita) k tomu, aby upravil cenu individuálně pro daného zákazníka. Podle odborníků je to forma diskriminace, která maximalizuje výnosy tím, že každému zákazníkovi nabídne cenu co nejblíže jeho individuální ochotě zaplatit.
To znamená, že dva lidé mohou vidět při nákupu téhož produktu dvě různé ceny – a popisovaný zákon má za cíl dát jim to vědět. Důsledkem takové cenotvorby je totiž asymetrie informací: zákazník neví, jestli dostal „běžnou“ cenu, nebo nějak navýšenou. To komplikuje porovnávání cen, srovnání obchodů a informované rozhodnutí.
Co nový zákon ukládá
Obchodníci musí zveřejnit uvedené upozornění, a to ve stejném kontextu jako cena. Nestačí tedy schovat jej někde zásadách ochrany osobních dat, ale musí být viditelné přímo u ceny. Pokuta za nedodržení je až tisíc dolarů – ale za každé jednotlivé porušení.
Zákon stanovuje výjimky: neplatí pro některé sektory (např. některé finanční instituce regulované státními zákony) a pro některé ceny poskytované v rámci předplatného.
Z působnosti jsou výslovně vyňaty i například taxislužby, které určují cenu výhradně na základě vzdálenosti a času. Ty nemusí zobrazovat upozornění: mohou využívat algoritmy, pokud do nich nevstupují osobní údaje zákazníků.
Boj obchodníků reprezentovaných National Retail Federation (NRF) proti zákonu byl zuřivý. Například podali soudní žalobu s argumentem, že zákon porušuje jejich práva podle Prvního dodatku americké ústavy: prý je nutí šířit varování, které je „klamavé a hrozivé“. Federální soud však rozhodl, že požadované upozornění je „faktické“ a argumenty NRF odmítl.
Navzdory protestům však zákon platí, a tak třeba Uber v New Yorku začal povinnou hlášku zobrazovat, a to přesto, že tvrdí, že při své cenotvorbě data zákazníků nezohledňuje. Není však jasné, proč v tom případě se podle zákona chová, když by se mohl jednoduše odvolat na to, že pod jeho působnost nespadá. Analytici tvrdí, že firmy jako Uber se raději podřídí, než aby riskovaly, že jejich cenotvorba se stane předmětem diskusí.
Psali jsme
Startup Minds & Models vytváří software pro personalizované doporučování produktů na základě analýzy kamerového obrazu zákazníka.
Důvody pro regulaci
Experti uvádějí tři hlavní důvody, proč je algoritmická cenotvorba problematická.
Prvním je netransparentnost a diskriminace. Firmy mohou využívat údaje, které vypovídají o kupní síle, loajalitě, geografii či demografii — což může vést k nepřiměřeným rozdílům a potenciální diskriminaci, i když algoritmus sám o sobě není nastaven tak, aby primárně „páchal zlo“. Problém násobí, pokud obchodník svěří cenotvorbu „umělé inteligenci“, která funguje jako „black box“ a důvody pro stanovení ceny pro konkrétního zákazníka není možné dohledat.
Problémem je, že rozdílné ceny neumožní vytvoření tržní referenční ceny. Nelze definovat něco jako „běžnou cenu“: Transparentnost trhu se rozpadá a mizí možnost efektivního srovnávání. Mimochodem, komplikace to je i z pohledu sběru statistických dat.
A konečně, algoritmy často dopočítávají i charakteristiky, které zákazník nikdy neposkytl — například odhad příjmu nebo citlivosti na cenu. Tyto závěry pak ovlivní nabídnutou cenu, aniž by nad tím měl zákazník jakoukoli kontrolu – což může zasahovat do jeho autonomie a rozhodování.
Z těchto důvodů některé instituce, především spotřebitelské organizace, volají po zákazech používání těchto algoritmů, nebo alespoň jejich přísné regulaci.
Studie pro Evropský parlament tvrdí, že současný právní rámec v EU (směrnice o nekalých obchodních praktikách, ochrana spotřebitele, GDPR) je nedostatečný. Dá se čekat, že následovat budou snahy o podobnou regulaci, jakou právě zavedli ve státě New York. A možná bude snaha inspirovat se v Kalifornii: tam bude od roku 2026 v účinnosti zákon, který algoritmickou cenotvorbu úplně zakazuje.
Pro EU přichází v úvahu i kompromis: zákaz personalizované cenotvorby jenom v sektorech se sociálním dopadem, jako jsou energie, telekomunikace nebo základní služby.