Bidenova administrativa a IT giganti: Závazek k bezpečné budoucnosti umělé inteligence
foto: freepik/ilustrativní
Bidenova administrativa získala podporu od osmi předních firem působících v oblasti umělé inteligence, které se zavázaly k bezpečnější a důvěryhodnější budoucnosti umělé inteligence (AI). Tento nový vývoj odráží společné úsilí v oblasti bezpečnosti, zabezpečení a transparentnosti, které má přinést výhody celé společnosti
Administrativa prezidenta Bidena a viceprezidentky Harrisové právě zaznamenala významný úspěch v oblasti umělé inteligence, když osm předních firem působících v tomto sektoru přijalo druhé kolo dobrovolných bezpečnostních závazků, informuje server AINEWS. Oznámení tohoto kroku proběhlo v Bílém domě, a zúčastnili se ho zástupci firem Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI a Stability. Toto partnerství má za cíl hrát klíčovou roli v podpoře vývoje AI, která bude nejen bezpečná, ale i zabezpečená a důvěryhodná.
Závazky těchto společností jsou postaveny na třech základních principech: bezpečnosti, zabezpečení a důvěryhodnosti, uvádí server WH.GOV. Prvním z nich je zajištění bezpečnosti produktů před jejich uvedením na trh. Firmy slibují důkladné interní a externí testování bezpečnosti svých AI systémů, včetně hodnocení od nezávislých odborníků. Tím chtějí předcházet rizikům, jako jsou kybernetické hrozby a potenciální společenské dopady.
Dále firmy investují do kybernetické bezpečnosti a opatření proti vnitřním hrozbám, aby chránily citlivé modelové váhy. Tyto váhy jsou klíčovými prvky v systémech AI, a firmy se zavázaly, že budou zveřejňovat pouze v souladu s bezpečnostními zásadami. Kromě toho se budou aktivně podílet na odhalování a řešení zranitelností ve svých systémech, i po jejich nasazení.
Posledním důležitým bodem těchto závazků je získání důvěry veřejnosti. Firmy budou vyvíjet technické mechanismy, například systémy vodoznaků, které označují obsah vytvořený umělou inteligencí. Tímto způsobem se má podpořit transparentnost a zároveň snížit riziko podvodů. Firmy také slibují informovat veřejnost o schopnostech svých AI systémů, jejich omezeních a (ne)vhodném použití, včetně řešení společenských rizik jako je zaujatost a diskriminace.
Toto partnerství mezi Biden-Harrisovou administrativou a předními firmami v oblasti AI představuje důležitý krok směrem k odpovědnému vývoji této technologie, která by měla přinést výhody pro společnost a zároveň minimalizovat rizika spojená s jejím využitím.