Evropský parlament odsouhlasil návrh pravidel pro fungování umělé inteligence (AI), který by se mohl stát první regulací tohoto odvětví na světě. Systémy AI by do budoucna měly být jasně označené, nesmí být využity ke „třídění“ občanů a jejich pole působnosti by mělo být omezené třeba v oblasti školství a soudnictví. Na dodržování pravidel má pomoci dohlížet nový unijní úřad pro AI.
Unijní pravidla pro regulaci vznikala zhruba dva roky a postupně se rozšiřovala, například o pravidla pro ChatGPT. Finální verzi regulace nyní dojedná parlament s členskými zeměmi EU.
Obavy ze systémů na rozpoznávání lidí
Asi největší spor se vedl o používání AI k biometrickému sledování v reálném čase, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávají zneužití AI v této oblasti autoritativními režimy.
„Tady se střetává otázka soukromí a bezpečnosti,“ řekla novinářům ve Štrasburku místopředsedkyně EP Dita Charanzová (ANO). „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí či při hrozbě teroristických útoků,“ dodala.
Podle Charanzové unijní pravidla nastavením mantinelů v AI také dávají „jasné zadání vývojářům, aby cítili také zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně EP bylo cílem při vytváření těchto pravidel také zvýšit důvěru spotřebitelů v tyto systémy.
AI dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence.
Přísnější pravidla ve školství či soudnictví
Návrh pravidel přijatý ve středu europoslanci také určuje takzvaně vysoce riziková odvětví, v nichž budou pro AI platit přísnější pravidla, jsou jimi například soudnictví či některé oblasti školství. Ve školství se má podle europoslance Marcela Kolaji (Piráti) omezení týkat například takzvaného e-proctoringu, pomocí něhož mohou školy kontrolovat, zda studenti nepodvádějí při zkouškách online. Za vysoce rizikové považuje EP i používání umělé inteligence k ovlivňování voličů.
Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí pro lékařské a výzkumné účely. Nová pravidla také zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.
Poskytovatelé základních modelů AI se také budou muset registrovat do databáze EU. Rovněž budou muset zveřejnit souhrn dat chráněných autorským právem, na kterých se jejich systémy učily. EP podporuje i takzvané regulační pískoviště zřízené veřejnými orgány, kde lze AI před jejím uvedením do provozu testovat.
Akt o umělé inteligenci přináší také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí.
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá „kmotr umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.
