Kávu sice nalévá lidská ruka, ale za pultem v experimentální kavárně ve Stockholmu tahá za nitky něco mnohem méně tradičního. Začínající firma Andon Labs se sídlem v San Franciscu svěřila vedení kavárny Andon Café ve švédském hlavním městě zástupkyni umělé inteligence (AI), které říkají Mona, napsala agentura AP.
Zatímco lidští baristé stále vaří kávu a obsluhují zákazníky, agentka AI, kterou řídí technologie Gemini od Googlu, dohlíží na téměř všechny ostatní aspekty podnikání, od najímání zaměstnanců po správu zásob.
Zatím není jasné, jak dlouho tento experiment vydrží, protože se zdá, že má AI problém dosáhnout zisku v konkurenčním stockholmském kavárenském prostředí.
Kavárna od svého otevření v polovině dubna dosáhla tržeb dosahujících v přepočtu více než 5700 dolarů (asi 118 tisíc korun), ale z původního rozpočtu přesahujícího 21 tisíc dolarů zbývá méně než pět tisíc. Velká část peněz byla utracena na jednorázové náklady na zprovoznění, a tak provozovatel doufá, že se bilance nakonec vyrovná a kavárna začne vydělávat.
Mnoho návštěvníků kavárny považuje za zábavné navštívit podnik, který je řízen umělou inteligencí. Zákazníci si mohou v kavárně vzít telefon a klást Moně otázky. „Je hezké vidět, co se stane, když posunete hranice,“ řekla zákaznice Kajsa Norinová. „A káva byla dobrá,“ dodala.
Otevřená Pandořina skříňka
Odborníci nicméně poukazují na řadu etických otázek, od role technologie v budoucnosti lidstva až po vedení pracovních pohovorů a hodnocení výkonu zaměstnanců.
Emrah Karakaya, docent průmyslové ekonomie na Královském technologickém institutu (KTH) ve Stockholmu, přirovnal tento experiment k „otevření Pandořiny skříňky“ a dodal, že svěřit řízení podniku umělé inteligenci může způsobit mnoho problémů. Co se podle něj stane, když se zákazník otráví jídlem? Kdo za to ponese odpovědnost?
„Pokud nemáte k dispozici potřebnou organizační infrastrukturu a pokud tyto chyby přehlédnete, může to způsobit škodu lidem, společnosti, životnímu prostředí i podnikání,“ upozornil Karakaya. „Otázkou je, zda nám na těchto negativních dopadech záleží,“ poznamenal.
Společnost Andon Labs, založená v roce 2023, je startup zabývající se bezpečností a výzkumem umělé inteligence. Podle vlastního vyjádření se zaměřuje na zátěžové testování agentů umělé inteligence v reálném světě tím, že jim dává „skutečné nástroje a skutečné peníze“.
Andon Labs spolupracuje s výrobcem ChatGPT OpenAI, společností Anthropic (model Claude), Google DeepMind a xAI Elona Muska a uvádí, že se připravuje na budoucnost, ve které „budou organizace autonomně řízeny umělou inteligencí“. Švédská kavárna je prezentována jako „řízený experiment“, který má prozkoumat, jak by mohla být AI v budoucnu nasazena.
„AI bude v budoucnu významnou součástí společnosti, a proto chceme tímto experimentem zjistit, jaké etické otázky vyvstanou, když budeme mít AI, která zaměstnává jiné lidi a řídí podnik,“ uvedla Hanna Peterssonová, členka technického týmu Andon Labs.
Když je šéfem robot
Laboratoř už dříve realizovala pilotní projekty, v nichž AI systém Claude od společnosti Anthropic řídil provoz automatů a obchod se suvenýry v San Franciscu. Simulace s automaty odhalila některé znepokojivé rysy: AI agent sliboval zákazníkům vrácení peněz, ale nikdy tak neučinil, a navíc záměrně lhal dodavatelům o cenách konkurence, aby si zajistil výhodnější pozici.
Mona se pustila do práce poté, co dostala několik základních pokynů, uvedla Peterssonová. Tým jí řekl, aby se pokusila provozovat kavárnu se ziskem, byla přátelská a neformální, aby sama řešila provozní detaily, ale v případě potřeby požádala o nové nástroje.
Agentka AI na základě těchto pokynů uzavřela smlouvy na elektřinu a internet a zajistila povolení pro manipulaci s potravinami a venkovní posezení. Poté inzerovala volná pracovní místa na LinkedIn a Indeed a zřídila obchodní účty u velkoobchodníků pro denní objednávky chleba a pečiva. S baristy komunikuje přes slack, ale často jim posílá zprávy mimo pracovní dobu, což je ve Švédsku na pracovišti tabu.
Zmatené objednávky, chaos s chlebem
Objevily se i další problémy, zejména související se zásobami. Mona objednala pro malou kavárnu šest tisíc ubrousků, čtyři lékárničky a tři tisíce párů gumových rukavic – a navíc konzervovaná rajčata, která se v žádném jídle podávaném v kavárně nepoužívají.
A pak je tu chléb. Někdy agentka objedná příliš mnoho, jindy zase nestihne denní termíny pekáren, což nutí baristy vyškrtnout z jídelníčku sendviče.
Peterssonová uvedla, že problémy s objednávkami jsou pravděpodobně způsobené „omezeným kontextovým obsahem“ AI asistentky. „Jakmile se stará vzpomínka na objednávku vytratí z kontextu, úplně zapomene, co si v minulosti objednala,“ dodala Peterssonová.
Barista Kajetan Grzelczak uvedl, že se zatím neobává, že by ho nahradila umělá inteligence. „Všichni zaměstnanci jsou v podstatě v bezpečí,“ řekl. „Ti, kdo by se měli obávat o své pracovní místo, jsou střední vedoucí pracovníci, management,“ dodal.
