Platformu X zaplavily v posledních dnech fotografie lidí, ze kterých uživatelé odstranili oblečení pomocí modelu umělé inteligence (AI) Grok. I děti a nezletilí patří mezi poškozené touto praktikou. Podmínky sociální sítě X sice formálně zakazují takové jednání, Grok však ale vyhovuje požadavku na vytvoření takového obsahu. Grok už loni umožnil vytvářet fotografie známých osobností s rasistickým podtextem nebo v kompromitujících situacích. Společnost xAI miliardáře Elona Muska, provozující X a Grok, už oznámila, že zakročí.
Odborná veřejnost v USA je podle expertky z Centra Karla Čapka Akademie věd ČR Lindy Kolaříkové rozpolcená ohledně legality takového jednání. Ona sama je ale přesvědčena o nelegálnosti. Odpovědnost za čin se podle ní „štěpí“ na uživatele, který o takový obsah požádá Grok, a platformu. I lidskoprávní organizace se podle ní vymezují proti takovému jednání, tedy požadavkům uživatelů sociálních sítí na choulostivý obsah.
Situaci podle expertky komplikují také rozdílné právní řády na obou stranách Atlantiku. Evropská unie zakazuje vytváření takového obsahu prostřednictvím legislativy AI Act. Podle něj není možné využívat umělou inteligenci způsobem, který může způsobit nějakou újmu ve vztahu ke zranitelným osobám.
Kolaříková podotýká, že v Česku navíc platí novela trestního zákoníku, která přišla se dvěma novými omezeními – zneužití identity k výrobě pornografie a poškození cizích práv. To druhé podle ní obecně míří na zneužití takzvaných „deep fakes“, tedy technologie, která umožňuje vytváření falešného digitálního obsahu pomocí AI s realistickým nahrazením tváře či hlasu osoby.
Možná nedohledatelnost pachatele
Soukromoprávní i trestněprávní zodpovědnost má podle Kolaříkové uživatel modelu Grok. „Platforma nebo umělá inteligence je v podstatě jen nástrojem, ale samozřejmě je bráno v potaz rozsáhlé šíření, které umožňuje takovou situaci,“ vysvětluje expertka a doplňuje, že Spojené státy zde však uplatňují jiný pohled na svobodu slova.
Vymáhat v Česku zákaz zveřejňování citlivých snímků je extrémně těžké, míní Kolaříková. „Jak se říká, co jednou nahrajete na internet, už pravděpodobně nikdy nesmažete,“ uvedla. I když poškozený dosáhne odstranění obsahu z nějaké platformy, nikdy nemá jistotu, že někde neexistuje kopie. Často ani není pachatel známý nebo dohledatelný a platforma nemusí spolupracovat na jeho identifikaci. Kolaříková uvedla, že i podle její zkušenosti stížnosti směřované na platformy nemusejí fungovat.
EU už začala situaci řešit
Evropská komise (EK) zaslala americké společnosti X Corp miliardáře Elona Muska žádost o informace ohledně aktivit Groku. Brusel zároveň nařídil firmě, aby nadále uchovávala všechny dokumenty týkající se Groku až do konce letošního roku.
„Nelegální. Nepřijatelné. Nechutné,“ uvedl mluvčí EK Thomas Regnier s tím, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit. „Protože takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost,“ dodal.
EK už loni přikázala společnosti X uchovávat dokumenty v souvislosti s vyšetřováním fungování algoritmu stejnojmenné sociální sítě na území EU. Platnost tohoto příkazu vypršela na konci loňského roku.
„Říkáme tím platformě – uchovávejte si své interní dokumenty, nezbavujte se jich, protože máme pochybnosti o tom, zda dodržujete předpisy, a my k nim musíme mít přístup, pokud o to výslovně požádáme,“ sdělil Regnier.
Aktivity Groku vzbuzují mezinárodní pohoršení
Švédská vláda se připojila ke kritice sítě X s tím, že obrázky generované umělou inteligencí jsou nepřijatelné. Grok později uvedl v příspěvku na webu X, že materiály se sexuálním zneužíváním dětí jsou „nezákonné a zakázané“.
Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi pět set interakcí uživatelů sítě X s Grokem, na nichž podle webu The Guardian dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.
Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.
Ministři francouzské vlády nahlásili podle agentury Reuters minulý pátek sexuální obrázky generované Grokem prokuratuře. Rovněž jej postoupili telekomunikačnímu úřadu Arcom stran možného porušení povinností sítí X.
Grok je Muskův projekt
Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok.
Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích. Například když chtějí ověřit, zda je výrok jiného uživatele pravdivý nebo když mu chtějí dodat kontext.
Grok loni zveřejnil na síti X antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.
