Guvernér Newsom vetoval kalifornský kontroverzní zákon o AI, SB 1047

Kalifornský guvernér Gavin Newsom ano vetoval SB 1047vysoce profilovaný návrh zákona, který by reguloval vývoj AI.

Návrh zákona napsal státní senátor Scott Wiener a měl by učinil společnosti, které vyvíjejí modely umělé inteligence, odpovědnými za implementaci bezpečnostních protokolů k prevenci „kritických škod“. Pravidla by se vztahovala pouze na modely, které stojí alespoň 100 milionů dolarů a používají 10^26 FLOPS (operace s pohyblivou řádovou čárkou, míra výpočtu) během školení.

Proti SB 1047 se postavilo mnoho lidí v Silicon Valley, včetně společností jako OpenAI, špičkových technologů, jako je hlavní vědec Meta’s AI Yann LeCun, a dokonce i demokratičtí politici, jako je americký kongresman Ro Khanna. To řekl, návrh zákona již byl pozměněn na základě návrhů AI společnosti Anthropic a dalších oponentů.

Zatímco kalifornský státní zákonodárný sbor schválil SB 1047, odpůrci doufali, že by jej Newsom mohl vetovat – a skutečně už naznačil, že má výhrady o účtu.

V prohlášení o dnešním vetu Newsom uvedl: „I když je SB 1047 dobře míněný, nebere v úvahu, zda je systém AI nasazen ve vysoce rizikových prostředích, zahrnuje kritické rozhodování nebo použití citlivých dat. Namísto toho zákon uplatňuje přísné standardy i na ty nejzákladnější funkce – pokud je nasadí velký systém. Nevěřím, že je to nejlepší přístup k ochraně veřejnosti před skutečnými hrozbami, které tato technologie představuje.“

Ve stejném oznámení kancelář Newsom poznamenala, že za posledních 30 dní podepsal 17 zákonů týkajících se regulace a zavádění technologie AI, a uvedl, že požádal odborníky jako Fei-Fei Li, Tino Cuéllar a Jennifer Tour Chayes, aby „pomohli“. Kalifornie vyvíjí funkční zábradlí pro nasazení GenAI.“ (známá jako „kmotra AI“, Li předtím řekl SB 1047 by „poškodil náš začínající ekosystém umělé inteligence“.)

Mezitím Wiener, zveřejnila prohlášení popisující veto jako „neúspěch pro každého, kdo věří v dohled nad masivními korporacemi, které dělají zásadní rozhodnutí ovlivňující bezpečnost a blaho veřejnosti a budoucnost planety“. Tvrdil také, že debata o návrhu zákona „dramaticky pokročila v otázce bezpečnosti AI na mezinárodní scéně“.