Soud v Bavorsku rozhodl, že Google je přímo zodpovědný za obsah a pravdivost souhrnů ve výsledcích vyhledávání, které společnost sestavuje pomocí umělé inteligence (AI) a předkládá uživatelům. Současně přikázal nejpoužívanějšímu vyhledávači světa, aby skrze tato AI shrnutí přestal poškozovat pověst dvou společností. Byly to právě ony, kdo se na soud obrátil.
Společnost Google nese plnou zodpovědnost za (ne)pravdivost tvrzení její umělé inteligence, kterou využívá ve vyhledávačích pro automatizovaná shrnutí – takzvaná AI Overviews. Rozhodl o tom na konci května zemský soud v Bavorsku, když vydal předběžné opatření, kterým zakázal Googlu, aby nadále nepravdivě informoval o dvou německých společnostech.
Upozornil na to tento týden jako první německý novinář Matthias Bastian na webu The Decoder. V této kauze si dva němečtí vydavatelé odborné literatury stěžovali, že když zadají do vyhledávače své názvy, tak je AI od Googlu označí za podezřelé a „známé pro pochybné obchodné praktiky a spojené s podvody“. Protože pro taková tvrzení neexistoval dle firem žádný důkaz, obrátily se obě na začátku roku přímo na Google s výzvou, aby v takovém jednání dál nepokračoval. Společnost to ale ignorovala. A tak vydavatelé Google zažalovali u Mnichovského zemského soudu – a podle webu Ars Technica uspěli.
Soud totiž v předběžném opatření z 28. května rozhodl, že Google nesmí nadále tato tvrzení o nakladatelstvích šířit, jinak mu za každé jedno porušení hrozí pokuta až 250 tisíc eur (pět milionů korun) a v případě opakovaného porušení případně i vazba pro členy vedení až na 6 měsíců. Současně musí americká korporace zaplatit 80 procent nákladů na soudní řízení.
Argumentace Google neuspěla
Provozovatel vyhledávače se bránil argumenty, které ho měly zbavit odpovědnosti za obsah AI shrnutí. Zejména tím, že většina uživatelů chápe nedostatky v komunikaci AI botů, jež jsou za tato shrnutí zodpovědné a uvědomují si, že je údaje ještě třeba ověřit. Soud ale tuto argumentaci neuznal – naopak zdůraznil, že vnímá jako zásadní rozdíl v tom, když vyhledávač jen sdílí odkazy na výsledky vyhledávání a konkrétní stránky, a když naopak sám pomocí AI vytváří nějaká tvrzení, jež vydává za nezávislá a v podstatě zpravodajská.
V tom případě je už zodpovědnost za tento nový obsah – podle německého soudu – plně na Googlu, který musí nést také následky za případná chybná tvrzení v AI souhrnu obsažená. Soud navíc upozornil, že obhajoba Googlu neobstojí i z toho důvodu, že „v tomto případě AI souhrn obsahoval i prohlášení, která ve výsledcích vyhledávání vůbec nejsou přítomná,“ píše Ars Technica.
Soud také uvedl, že shrnutí ve vyhledávačích vytvářená AI jsou pouze „dodatečnou funkcí, bez níž je použití vyhledávače stále možné“ a bez níž uživatelé stále bez jakýchkoli problémů najdou „v záplavě dat“ příslušné výsledky.
Podle portálu by tak mohl mít tento německý případ a jeho rozuzlení globální dopady. Zatím totiž velcí AI hráči spoléhali dle Ars Technicy na to, že je před podobnými žalobami ohledně nedůvěryhodných nebo nepravdivých výstupů ochrání zobrazení varování před možnými dezinformacemi. Očekává se, že se společnost Google proti tomuto rozhodnutí soudu odvolá.
Proč mohou být výsledky nepravdivé
Podle loňského průzkumu využívá a AI souhrnům věří stále více lidí – a Google je také stále více upřednostňuje před klasickým vyhledáváním z doby před AI, na které byli uživatelé zvyklí více než dvě desítky let. Letos v květnu se společnost rozhodla změnit svůj systém vyhledávání tak, že AI shrnutí jsou už jednoznačně primárním výstupem.
A to v situaci, kdy tyto modely dělají stále ještě obrovské množství chyb. Obsáhlá analýza deníku New York Times z letošního dubna ukázala, že nepravdivých je asi deset procent výstupů těchto vyhledávání – to nemusí vypadat jako moc, ale při počtu požadavků to znamená denně miliony špatně zodpovězených otázek, což může mnohdy poškodit konkrétní osoby nebo firmy.
