Kalifornie zvažuje přísnou regulaci umělé inteligence

V kalifornském senátu se projednává kontroverzní návrh zákona, který by mohl výrazně omezit vývoj a nasazení systémů umělé inteligence (AI) v tomto technologickém centru USA. Návrh vyvolává obavy v Silicon Valley a rozděluje odborníky na AI.

Senátor Scott Wiener předložil návrh zákona SB 1047, jenž by zavedl přísná pravidla pro testování a implementaci pokročilých AI systémů. V případě schválení a podpisu guvernérem Gavinem Newsomem by zákon vyžadoval důkladné bezpečnostní testy před uvedením výkonných AI technologií na trh.

Klíčové body navrhovaného zákona

Návrh SB 1047 obsahuje několik zásadních ustanovení:

• Mandatorní bezpečnostní testování AI systémů před jejich veřejným nasazením
• Pravomoc kalifornského generálního prokurátora žalovat firmy, jejichž AI technologie způsobí vážné škody
• Důraz na prevenci katastrof a zavedení ochranných opatření pro práci společností vyvíjejících AI

Podle The New York Times (2024) by zákon umožňoval žaloby v případech, kdy by AI zapříčinila „masivní škody na majetku nebo lidské oběti“.

Reakce technologického průmyslu

Návrh zákona vyvolal v Silicon Valley značné znepokojení. Řada technologických firem a investorů se obává, že by mohl zbrzdit inovace a oslabit konkurenceschopnost Kalifornie v oblasti AI. Argumentují, že příliš přísná regulace by mohla vést k odlivu výzkumu a vývoje AI do jiných států či zemí s benevolentnějšími pravidly.

„Odpůrci se domnívají, že zákon utlumí pokrok technologií, které slibují zvýšení produktivity pracovníků, zlepšení zdravotní péče a boj proti klimatickým změnám.“

Zastánci zákona naopak tvrdí, že je nezbytný pro prevenci potenciálních katastrof způsobených nekontrolovaným vývojem AI. Poukazují na to, že mnozí přední experti na AI a šéfové technologických firem v minulém roce sami vyzývali k zavedení určitých omezení pro vývoj umělé inteligence.

Širší kontext regulace AI

Kalifornský návrh zákona přichází v době, kdy se regulace AI stává globálním tématem. Evropská unie již pracuje na komplexním regulačním rámci pro AI (Digital Policy Alert, 2024), zatímco další země zvažují různé přístupy k regulaci této rychle se rozvíjející technologie.

V USA zatím chybí jednotný federální přístup k regulaci AI, což dává jednotlivým státům prostor pro vlastní iniciativy. Kalifornie jako domov mnoha předních technologických společností má v této oblasti značný vliv a její rozhodnutí mohou ovlivnit směřování celého odvětví.

Argumenty pro a proti regulaci

Zastánci regulace argumentují, že je nezbytná pro:

• Ochranu veřejnosti před potenciálními riziky nekontrolovaného vývoje AI
• Zajištění etického vývoje a nasazení AI technologií
• Prevenci zneužití AI k neetickým nebo škodlivým účelům

Odpůrci naopak tvrdí, že přísná regulace může:

• Brzdit inovace a technologický pokrok
• Oslabit konkurenceschopnost Kalifornie a USA v globálním měřítku
• Vést k přesunu výzkumu a vývoje AI do méně regulovaných jurisdikcí

Možné dopady na průmysl a společnost

V případě schválení by zákon mohl mít významné dopady na technologický průmysl v Kalifornii i mimo ni. Firmy by musely investovat více zdrojů do testování a zajištění bezpečnosti svých AI systémů, což by mohlo zpomalit tempo inovací. Na druhou stranu by to mohlo vést k vývoji bezpečnějších a spolehlivějších AI technologií.

Pro spotřebitele a širší veřejnost by zákon mohl znamenat větší ochranu před potenciálními riziky spojenými s AI, ale také možné zpomalení v zavádění nových AI služeb a produktů.

Další kroky a očekávaný vývoj

Návrh zákona SB 1047 nyní čeká na projednání v kalifornském státním shromáždění. Pokud projde, bude předložen guvernérovi Newsomovi k podpisu. Očekává se intenzivní lobbying ze strany technologických firem i skupin bojujících za regulaci AI.

Bez ohledu na výsledek tohoto konkrétního návrhu je zřejmé, že debata o regulaci AI bude pokračovat. Jak uvádí McKinsey (2024), umělá inteligence se stává stále důležitějším tématem pro vedení firem a tvůrce politik po celém světě.

Kalifornský zákon by mohl sloužit jako model pro další státy nebo dokonce federální legislativu v USA. Zároveň bude zajímavé sledovat, jak se tento přístup bude lišit od regulačních snah v jiných částech světa, zejména v Evropské unii a Číně.

V nadcházejících měsících lze očekávat intenzivní diskuse mezi zákonodárci, technologickými firmami, experty na AI a veřejností o tom, jak najít správnou rovnováhu mezi podporou inovací a ochranou společnosti před potenciálními riziky AI.