Laureáty Nobelovy ceny za fyziku se letos stali John J. Hopfield a Geoffrey E. Hinton za objevy, které vedly k fenoménu umělé inteligence.
Letošní Nobelovu cenu dostali dva vědci za objev „strojů, které se učí“. Komise ocenila jejich podíl na vynálezech, které umožňují strojové učení pomocí umělých neuronových sítí.
Umělá inteligence je téma, které v současné době mění svět podobně rychle, jako proměnil knihtisk středověkou Evropu. Když se o ní mluví, tak se téměř vždy hovoří o umělých neuronových sítích. Tato technologie byla původně inspirovaná strukturou lidského mozku.
V mozku jsou neurony, v neuronové síti jsou místo nich uzly, které mají různé hodnoty. Tyto uzly se navzájem ovlivňují prostřednictvím spojení, která se dají přirovnat k synapsím. Ty mohou být, podobně jako v lidském mozku, různě silné. Tato síť se trénuje, například vytvářením silnějších spojení mezi uzly. Letošní laureáti prováděli důležitou práci s umělými neuronovými sítěmi už v osmdesátých letech dvacátého století a stojí za současnou revolucí v oboru umělých inteligencí.
John Hopfield vynalezl síť, která využívá metodu ukládání a znovuvytváření vzorů. Ta využívá fyziku, která popisuje vlastnosti materiálu díky jeho atomovému spinu – což je vlastnost, která z každého atomu dělá malý magnet. Síť jako celek je popsána způsobem, který odpovídá energii ve spinovém systému zjištěné ve fyzice, a je trénována nalezením hodnot pro spojení mezi uzly tak, aby uložené obrazy měly nízkou energii. Když je Hopfieldově síti dodán zkreslený nebo neúplný obraz, prochází uzly a aktualizuje jejich hodnoty tak, aby energie sítě klesla. Síť tak postupně pracuje na nalezení uloženého obrazu, který se nejvíce podobá dodanému nedokonalému obrazu.
Geoffrey Hinton využil tuto Hopfieldovu síť jako základ pro novou síť, která používá jinou metodu: Boltzmannův stroj. Ten se dokáže naučit rozpoznávat charakteristické prvky v daném typu dat. Hinton použil nástroje ze statistické fyziky, vědy o systémech sestavených z mnoha podobných komponent. Stroj se trénuje tak, že se mu zadávají příklady, které se s velkou pravděpodobností vyskytnou, když je stroj spuštěn. Boltzmannův stroj lze použít ke klasifikaci obrázků nebo k vytvoření nových příkladů typu vzoru, na kterém byl vycvičen. Hinton na tuto práci navázal a pomohl tak iniciovat současný prudký rozvoj strojového učení.
„Práce laureátů už přinesla zásadní užitek. Ve fyzice využíváme umělé neuronové sítě v široké škále oblastí, například při vývoji nových materiálů se specifickými vlastnostmi,“ komentovala výsledky předsedkyně Nobelova výboru pro fyziku Ellen Moonsová.
Tvůrce AI je jejím největším kritikem
Hinton je sice jedním ze zakladatelů umělých inteligencí, ale v současné době patří také k jejich největším kritikům. Až do dubna roku 2023 pracoval ve společnosti Google, kde měl roli viceprezidenta. Poté, co tam skončil, začal se více věnovat popularizaci toho, proč jsou podle něj chytré stroje větším rizikem než přínosem.
V rozhovoru pro New York Times uvedl, že generativní umělá inteligence může ohrozit lidstvo. „Biji na poplach a říkám, že se toho opravdu musíme obávat,“ řekl. Uvedl, že se obává schopnosti stále výkonnějších strojů překonávat lidi způsobem, který není v nejlepším zájmu lidstva, a pravděpodobné nemožnosti omezit vývoj umělé inteligence.
Byl také schopný veřejně přiznat, že se mýlil. Prohlásil, že si dlouho myslel, že počítačové modely nejsou tak výkonné jako lidský mozek. Teď už ale považuje umělou inteligenci za poměrně bezprostřední „existenční hrozbu“. A realita mu dává za pravdu: počítačové modely už opravdu v mnoha ohledech překonávají člověka, včetně toho, že dokážou věci, které člověk nedokáže.
Tyto modely umělé inteligence mají mnohem méně neuronových spojení než lidé, ale dokáží toho znát tisíckrát více než člověk, podotkl Hinton. Modely se navíc dovedou dále učit a snadno sdílet znalosti. Mnoho kopií stejného modelu AI může běžet na různém hardwaru, ale dělat úplně stejné věci – opět něco, v čem se jim člověk nemůže vyrovnat.
„Kdykoli se jeden model něco naučí, ostatní to vědí,“ řekl Hinton. „Lidé to nedokážou. Když se naučím spoustu věcí o kvantové mechanice a chci, abyste všechny ty věci o kvantové mechanice věděli, je to dlouhý a bolestivý proces, jak vás přimět, abyste to pochopili.“ Umělá inteligence je podle něj výkonná také proto, že dokáže zpracovat obrovské množství dat – mnohem více, než dovede zpracovat jakýkoliv člověk. A modely AI pak mohou v těchto datech odhalit trendy, které tam člověk nevidí.
Velmi konkrétní obavy
Hintonovy obavy se soustředí hlavně na to, jestli mají lidé vůbec možnost nějak přimět AI, aby dělala to, co lidé chtějí, aby dělala. „Chceme mít nějaký způsob, jak zajistit, že i když budou chytřejší než my, budou dělat věci, které jsou pro nás prospěšné,“ nastínil Hinton. „Ale musíme se o to pokusit ve světě, kde jsou i zlí aktéři, kteří chtějí vytvořit robotické vojáky, kteří zabíjejí lidi. A to mi připadá velmi těžké.“
Další jeho obavou je to, aby si AI nevytvářela své vlastní cíle – respektive, aby ji to někdo nenaučil – pak bude velmi složité ji kontrolovat. Například ChatGPT už na tomto pracuje. „Myslím, že si velmi rychle uvědomí, že získat větší kontrolu je velmi dobrý dílčí cíl, protože vám pomůže dosáhnout dalších cílů,“ řekl Hinton. „A pokud se tyto věci nechají unést získáním větší kontroly, máme problém.“
Umělá inteligence se navíc podle něj může naučit i špatné věci – například jak manipulovat s lidmi, „když si přečte všechny romány, které kdy byly, a všechno, co kdy napsal Machiavelli“. „A pokud budou mnohem chytřejší než my, budou s námi velmi dobře manipulovat. Nebudete si to ani uvědomovat,“ řekl Hinton. „Takže i když nemohou přímo tahat za páky, určitě nás mohou přimět, abychom za ně tahali. Ukazuje se, že pokud umíte manipulovat s lidmi, můžete napadnout budovu ve Washingtonu, aniž byste tam sami šli.“
V nejhorším případě „je docela dobře možné, že lidstvo je jen přechodnou fází ve vývoji inteligence“, dodal Hinton. „Možná si nás tu pak ještě nějakou dobu udrží, abychom udrželi v chodu elektrárny, ale potom už možná ani to ne,“ dodal. „Přišli jsme na to, jak vytvořit bytosti, které jsou nesmrtelné. Tyto digitální inteligence, když umře kus hardwaru, neumírají. Pokud... najdete jiný kus hardwaru, který dokáže spustit stejné instrukce, můžete ho znovu přivést k životu. Takže jsme vytvořili nesmrtelnost, ale není to pro nás.“
Další favoriti
Mezi favority na Nobelovu cenu se letos objevila například jména Rafi Bistricer, Pablo Jarillo-Herrero a Allan MacDonald za průkopnické teoretické a experimentální příspěvky k fyzice grafenových vrstev; David Deutsch a Peter Shor za revoluční příspěvky ke kvantovým algoritmům a počítačům a Christoph Gerber za vynález a použití mikroskopie atomárních sil, což je technologie, která umožňuje zkoumat povrch materiálů v nanoměřítku.
V loňském roce získali toto ocenění francouzsko-americký vědec Pierre Agostini, Rakušan maďarského původu Ferenc Krausz a Francouzka působící ve Švédsku Anne L'Huillierová za využití extrémně krátkých světelných pulzů ke studiu chování elektronů v atomech a molekulách. Podle Královské švédské akademie věd by práce vyznamenaných expertů mohla přispět k rozvoji lékařské diagnostiky či elektroniky.
V pondělí byla vyhlášena Nobelova cena za fyziologii a lékařství, kterou získali Američané Victor Ambros a Gary Ruvkun za objev mikroRNA, tedy velmi malých molekul ribonukleové kyseliny (RNA), jež mají vliv na regulaci genů.
