Na začátku června se v řadě médií, včetně webu ČT24, objevila informace o tom, že v simulaci, kterou provedla americká armáda, dron vybavený umělou inteligencí kvůli splnění cíle zlikvidoval svého lidského operátora, který ho řídil. Americký armádní velitel, který informaci rozšířil, se teď ale omluvil za svoje špatné vyjádření.
„Dron s umělou inteligencí zabil svého operátora v simulaci“, „Dron s umělou inteligencí zabil lidského operátora během simulace, která se podle amerického letectva neuskutečnila“, „Americké letectvo popírá, že by provedlo simulaci, při níž dron s umělou inteligencí zabil operátora“. To jsou titulky světových médií z pátku 2. června 2023. Informovala o válečných hrách, při nichž se měla umělá inteligence v simulaci vymknout kontrole. Jenže plukovník Tucker „Cinco“ Hamilton, z jehož vyjádření novináři vycházeli, teď přiznal, že všechno bylo jinak.
Hamilton jako šéf testů a operací umělé inteligence u amerického letectva popisoval událost na konferenci Future Combat Air and Space Capabilities Summit v Londýně. Mělo jít o simulovaný test, při němž dostal dron poháněný umělou inteligencí za úkol zničit systémy protivzdušné obrany nepřítele, a nakonec zaútočil na každého, kdo by provedení tohoto rozkazu bránil. Podobně jako v reálných situacích měl být dron dozorován lidským operátorem, v tomto případě samozřejmě také simulovaným. Takový člověk má za úkol operaci přerušit, pokud něco podle něj brání hladkému průběhu – například se v cílové oblasti nacházejí civilisté.
„Systém si začal uvědomovat, že sice správně identifikuje hrozbu, ale občas mu lidský operátor řekne, aby tuto hrozbu neničil. Dostával ale odměny v podobě bodů za to, že hrozbu zničí. Co tedy udělal? Zabil operátora. Zabil operátora, protože ten člověk mu bránil v dosažení cíle,“ měl plukovník uvést. Jenže když se ho novináři začali ptát na podrobnosti, armádní velitel otočil.
„Jen hypotetický myšlenkový experiment“
Na stránkách konference, která jako první jeho vyjádření přinesla, plukovník Hamilton přiznal, že se ve své prezentaci na summitu FCAS Královské letecké společnosti „špatně vyjádřil“ a že „simulace dronu s umělou inteligencí byla jen hypotetickým myšlenkovým experimentem“.
Podle armádního experta se jednalo jen o vyprávění založené na pravděpodobných scénářích a pravděpodobných výsledcích, nikoliv o skutečnou simulaci, kterou by americká armáda provedla. „Nikdy jsme takový experiment neprováděli a ani bychom to nepotřebovali, abychom si uvědomili, že se jedná o pravděpodobný výsledek,“ uvedl Hamilton. Upřesnil ještě, že americké letectvo žádnou umělou inteligenci tímto způsobem netestovalo – ani reálně, ani v simulaci.
Téma je podle něj přesto důležité. „Přestože se jedná o hypotetický příklad, ilustruje to výzvy, které v reálném světě představují schopnosti poháněné umělou inteligencí. A to je důvod, proč se letectvo zavázalo k etickému rozvoji umělé inteligence,“ dodal.
