Kalifornský guvernér vetoval kontroverzní zákon o bezpečnosti umělé inteligence

Guvernér Kalifornie Gavin Newsom vetoval SB-1047, kontroverzní nařízení o umělé inteligenci to by vyžadovalo, aby tvůrci velkých modelů umělé inteligence zavedli bezpečnostní testy a zabili přepínače, aby zabránili potenciálním „kritickým škodám“.

V prohlášení oznamující veto v neděli večer Newsom navrhl, že konkrétní zájem zákona o velikost modelu nebyl na místě. “Tím, že se SB-1047 zaměřuje pouze na nejdražší a nejrozsáhlejší modely, vytváří regulační rámec, který by mohl dát veřejnosti falešný pocit bezpečí ohledně ovládání této rychle se pohybující technologie,” napsal Newsom. “Menší, specializované modely se mohou ukázat jako stejně nebo dokonce nebezpečnější než modely, na které se zaměřuje SB-1047 – za potenciální cenu omezení samotné inovace, která podporuje pokrok ve prospěch veřejného blaha.”

Newsom zmínil specifická „rychle se vyvíjející rizika“ z modelů umělé inteligence, která by mohla být regulována cílenějším způsobem, jako jsou „hrozby pro náš demokratický proces, šíření dezinformací a deepfake, rizika pro online soukromí, hrozby pro kritickou infrastrukturu a narušení v pracovní síla.” Kalifornie už má řada zákonů AI v knihách zaměřením na některé z těchto potenciálních škod a mnoho dalších států podepsali podobné zákony.

“I když je to dobře míněno, SB-1047 nebere v úvahu, zda je Al systém nasazen ve vysoce rizikových prostředích, zahrnuje kritické rozhodování nebo použití citlivých dat,” pokračoval Newsom ve vysvětlování veta. “Namísto toho zákon uplatňuje přísné standardy i na ty nejzákladnější funkce – pokud je nasazuje velký systém. Nevěřím, že je to nejlepší přístup k ochraně veřejnosti před skutečnými hrozbami, které tato technologie představuje.”

Státní senátor Scott Wiener, který je spoluautorem zákona, vyzval Newsomovo veto příspěvek na sociální síti “Neúspěch pro každého, kdo věří v dohled nad masivními korporacemi, které dělají zásadní rozhodnutí ovlivňující bezpečnost a blaho veřejnosti a budoucnost planety.” Dobrovolné závazky k bezpečnosti ze strany společností AI nestačí, argumentoval Wiener a dodal, že nedostatek účinné vládní regulace znamená, že „v důsledku veta jsme všichni méně v bezpečí“.

Tvrdý lobbistický boj

SB-1047, který v srpnu prošel zemským sněmemměl podporu mnoha osobností v oblasti AI, včetně Geoffrey Hinton a Joshua Bengio. Jiní v tomto odvětví však kritizovali těžkopádný přístup zákona a obávali se právní odpovědnosti, kterou by mohl uvalit na modely s otevřenou váhou, které ostatní používali ke škodlivým účelům.

Krátce poté, co byl návrh zákona schválen, skupina kalifornských podnikatelů poslal otevřený dopis guvernérovi Newsomovi, který ho vyzval, aby vetoval to, co nazývali „zásadně chybný“ návrh zákona, který „reguluje vývoj modelů namísto zneužití“ a který by podle nich „zavedl zatěžující náklady na dodržování předpisů“. Lobbisté velkých technologických společností včetně Google a Meta se také veřejně postavili proti návrhu zákona, ačkoli skupina zaměstnanců z těchto a dalších velkých technologických společností se vyslovil pro její průchod.

Ředitel pro strategii OpenAI Jason Kwon veřejně naléhal na veto SB-1047. v otevřeném dopise že federální regulace by byla vhodnější a účinnější než „spleť státních zákonů“. První pokusy o vytvoření takové federální legislativy byly se zastavil v Kongresu uprostřed uvolnění nějakého anodynu politické cestovní mapy a zprávy pracovních skupin.

Lídr xAI Elon Musk se zasadil o schválení návrhu zákonaTvrdí, že to byl „těžký úkol“, ale že nakonec musí být umělá inteligence regulována „stejně jako my regulujeme jakýkoli produkt/technologii, která je potenciálním rizikem pro veřejnost“. Kalifornská mocná herecká unie, SAG-AFTRA, také vyšel na podporu návrhu zákonanazval to „prvním krokem“ k ochraně před známými nebezpečími, jako jsou deepfakes a nekonsensuální používání hlasu a podobenství pro své členy.

Na konferenci Dreamforce 2024 začátkem tohoto měsíce Newsom veřejně oslovil „Ten druh nadměrného dopadu této legislativy [like SB-1047] mohl mít, a mrazivý účinek, zvláště v komunitě open source… Nemohu vyřešit všechno. Co můžeme vyřešit?”