Společnost OpenAI zaměřená na výzkum a vývoj umělé inteligence (AI) zveřejnila rozsáhlou sbírku matematických výpočtů, které vytvořil její nový interní model. Podle deníku The New York Times (NYT) výsledky na jednu stranu odhalují, čeho jsou nejpokročilejší modely AI schopny, ale vyvolávají i otázku, do jaké míry se výsledky opírají o práci skutečných matematiků. Překotný vývoj AI také vyvolává obavy, že firmy technologii vyvíjejí rychleji, než se změně dokáže přizpůsobit akademické prostředí.
OpenAI zaplavila matematiky stovkami nových objevů, které pokrývají širokou škálu témat, včetně algebry, teorie čísel, teoretické informatiky, matematické logiky a topologie. Těchto 377 výsledků v sedmi stovkách souborů navazuje na zářijové oznámení společnosti OpenAI, že se jí podařilo vyřešit Navierovu-Stokesovu rovnici, která byla považována za natolik obtížnou, že za každé řešení byla vypsána odměna milion dolarů.
Tento úspěch předvedl, čeho jsou nejmodernější modely umělé inteligence schopné, ale zároveň vyvolal otázky, jestli systémy umělé inteligence společnosti OpenAI využívají kreativní myšlení, nebo pouze dokončují závěrečné kroky poté, co si vypůjčily nápady z prací lidských matematiků.
Stejně jako v případě Navierovy-Stokesovy rovnice byly i nově zveřejněné výsledky vypracovány pomocí pokročilého modelu AI, který společnost dosud nenabídla veřejnosti.
Spolupráce s vědci
Před několika týdny OpenAI oznámila, že spolupracuje s poradní skupinou matematiků, která by měla poskytovat doporučení ohledně toho, jak by společnosti zabývající se umělou inteligencí měly matematikům sdělovat výsledky vygenerované umělou inteligencí. Tato skupina působí pod záštitou Institutu pro pokročilá studia v Princetonu v New Jersey a je nezávislá na společnostech v oboru AI.
Poradní sbor mimo jiné navrhl, aby byly zveřejněny všechny podněty pro agenty umělé inteligence a jejich myšlenkové postupy. V úterý večer vydal tento orgán prohlášení, v němž označil zveřejnění za „začátek, nikoli dokončení procesu lidského porozumění a začlenění této práce do matematických znalostí“.
„Chceme vytvořit standardy a postupy, aby výsledky zveřejňované laboratořemi zabývajícími se umělou inteligencí byly srozumitelné pro matematiky a mohly přispět k pokroku v této oblasti,“ uvedla v e-mailu matematička z Harvardovy univerzity a členka poradního výboru Melanie Woodová.
Tři hodiny na desítky let nevyřešené problémy
Mnoho z nově zveřejněných matematických důkazů bylo zkontrolováno pomocí interaktivního ověřovacího programovacího jazyka Lean. U deseti příkladů OpenAI také shrnula, jak model AI došel k výsledku. Průměrně podle společnosti vypočítání výsledku trvalo tři hodiny.
„Při rozhodování o tom, jak tyto výsledky zveřejníme, jsme vycházeli z rad (poradního výboru) a veřejných doporučení,“ uvedla společnost OpenAI v příspěvku na svých webových stránkách.
OpenAI se však zdá být méně zaměřena na klíčové doporučení poradního výboru, podle kterého by společnosti zabývající se umělou inteligencí měly přestat testovat své uzavřené modely na složitých matematických úlohách, píše NYT. „Chceme hned na začátku jasně uvést: tuto praxi neschvalujeme,“ napsal poradní sbor 29. září.
Bleskový pokrok umělých inteligencí
Když před několika lety vznikly první modely AI, tak jim jejich vývojáři nejprve zadávaly matematické úlohy podobné těm, které řeší středoškoláci během Mezinárodní matematické olympiády. Jakmile ale modely dokázaly tyto úlohy vyřešit, tým OpenAI vytvořil nové testovací sady dosud nevyřešených matematických úloh z nejobtížnějších oblastí matematického výzkumu. Právě výsledky z tohoto testování jsou součástí nově zveřejněných sad.
Tristan Buckmaster, matematik z Newyorské univerzity, který pracoval na Navierově-Stokesově rovnici, uvedl, že stále není jasné, jestli matematici využívající modely umělé inteligence, jako jsou ty od OpenAI, nevědomky neposkytovali informace, které umělé inteligenci umožnily dostat se ke konečnému řešení dříve než oni. „Pravděpodobně existuje řada výsledků, u nichž modely převezmou něčí práci, a dotáhnou ji do konce,“ řekl Buckmaster. Zároveň vyjádřil přesvědčení, že výzkumníci AI neprovedli náležitou kontrolu, když zveřejnili tolik výsledků naráz.
Dan Roberts, vedoucí výzkumu v OpenAI, uvedl, že testování interních modelů je důležité pro vývoj lepších nástrojů a že matematické důkazy jsou vedlejším produktem tohoto testování.
Matematici se potýkají s otázkou, jestli zrychlené tempo řešení matematických úloh jejich oboru pomáhá, nebo škodí, pokud porozumění tomu, jak k výsledku model došel, zaostává. „Myslím, že jádrem tohoto problému je to, že lidé mají dvě protichůdné stránky: sklon k soutěživosti a schopnost vnímat krásu,“ řekl postgraduální student matematiky na Torontské univerzitě Kai Shaikh. „Mně to připadá jako situace, kdy se ta první stránka snaží tu druhou udusit,“ dodal.
Matematici nedávno vydali takzvanou Leidenskou deklaraci, v níž shrnuli své obavy z AI:
Nespolehlivé výsledky
Matematika je založena na rigorózních důkazech, které umožňují jasné pochopení. Umělá inteligence však může generovat „důkazy“, které vypadají přesvědčivě, ale obsahují téměř nepostřehnutelné chyby.
Nedostatečné uvádění zdrojů a porušování autorských práv
Modely umělé inteligence často generují výsledky, aniž by citovaly lidskou práci, na níž staví. To vyvolává otázky ohledně uznání a duševního vlastnictví.
Závislost a nerovnost
Existuje riziko, že matematici budou brzy závislí na přístupu k nejnovější proprietární technologii AI a drahým výpočetním zdrojům, aby mohli dosahovat konkurenceschopných výsledků. To vede k nerovnosti mezi výzkumníky.
Přehnané nadšení z výsledků
Tiskové zprávy a blogy často uvádějí tvrzení o AI bez řádného vědeckého posouzení. To vede k přeceňování schopností AI a podceňování lidského přínosu.
Ztráta autonomie
Když směr výzkumu určují technická proveditelnost nebo komerční zájmy, matematika riskuje ztrátu autonomie při stanovování své výzkumné agendy.
Zdroj: Leidenská deklarace
Rozsáhlá kritika
Silnou nespokojenost vyjádřila skupina matematiků z organizace The Association for Human Mathematics, která se obává dopadů AI na tento obor a zastupuje stovky vědců z celého světa (včetně Česka). Ve svém prohlášení uvedla: „Společnost OpenAI – která se v současné době brání proti žalobám kvůli obviněním z nelegálního plagiátorství, porušování autorských práv a oslabování ochranné známky – zveřejnila sbírku studií, které údajně obsahují řešení řady významných matematických problémů. Matematici o tuto práci nežádali.“
Matematici podle nich mají specifickou vizi pokroku, která vychází z historie a oborově specifických úvah. „Odmítáme tvrzení OpenAI, že toto zveřejnění posouvá náš obor vpřed, a vyzýváme matematiky i veřejnost, aby k hodnotě tohoto publikačního modelu přistupovali s náležitou skepsí. Zveřejnění více než sedmi set souborů najednou není projevem vědecké serióznosti, ale projevem moci. Vyzýváme matematiky, aby ukončili spolupráci s OpenAI a vrátili se k vizi vědy, která klade do centra lidské porozumění.“
Další matematici jsou znechucení z chování OpenAI proto, že se podle nich pokusila získat slávu na jejich úkor. Stěžuje si na to na sociálních sítích například Belgická matematická společnost.
Podobně se vyjádřil i slovenský matematik Richard Kollár z Fakulty matematiky, fyziky a informatiky Univerzity Komenského v Bratislavě. Ten na svém facebookovém profilu napsal: „S naprostou jistotou lze říci, že z hlediska nových výsledků se jedná o nejvýznamnější den v historii matematiky. Tolik nových poznatků najednou tu určitě ještě nebylo. V zásadě by to pro matematiky mělo být jako Vánoce. Ale není.“
Podle matematika zřejmě OpenAI teď očekává, že se všichni matematici pustí do zkoumání těchto zveřejněných důkazů. „Ale nevypadá to tak. Řada matematiků již naznačila, že takto zveřejněné výsledky bude zcela ignorovat, dokud nebudou řádně publikovány v odborných časopisech (to jest také řádně recenzovány, tedy zkontrolovány).“
Podle Kollára ale není jasné, kdo a proč by to vlastně dělal – vzhledem k tempu objevů, které jsou nové AI modely schopné dělat, totiž během těch měsíců, co by skupina lidských vědců kterýkoliv ze zveřejněných objevů ověřovala, může OpenAI nebo jakýkoliv jiný AI vývojář přijít se stovkami dalších řešení nebo přinést nová, lepší řešení těch právě zveřejněných. „Kdo bude mít čas tyto výsledky ověřovat? Kdo to bude chtít dělat, když se to děje takovým tempem?“ ptá se Kollár.
