Představa strojů, které samy rozhodují o životě a smrti lidí, se rychle přesouvá z vědeckofantastické literatury do reálné politické a vojenské diskuze. Autonomní zbraňové systémy (AWS) představují novou generaci vojenské technologie. Na rozdíl od dnes běžně používaných dronů, které jsou dálkově ovládány člověkem, jsou autonomní zbraně navrženy tak, aby po své aktivaci samy vyhledávaly, identifikovaly a zneškodňovaly cíle bez přímého lidského zásahu. Právě tato schopnost, delegovat rozhodnutí o použití smrtící síly na algoritmus, vyvolává hluboké etické a právní otázky.
Zastánci regulace argumentují tím, že žádný stroj nemůže plně nahradit lidský úsudek, který je nezbytný pro dodržování principů mezinárodního humanitárního práva. Mezi tyto principy patří zejména schopnost rozlišovat mezi vojáky a civilisty a posoudit, zda vojenský přínos útoku nepřeváží nad očekávanými civilními ztrátami. Tyto úvahy vyžadují komplexní situační povědomí, empatii a morální cit, které jsou pro umělou inteligenci, alespoň v její současné podobě, nedosažitelné. Vzniká tak zásadní otázka, kdo ponese odpovědnost, pokud autonomní zbraň selže a zabije nevinné lidi.
Debata o regulaci autonomních zbraní probíhá již několik let na půdě OSN v Ženevě, konkrétně v rámci Úmluvy o některých konvenčních zbraních (CCW). Státy jsou v názoru na řešení rozděleny. Na jedné straně stojí koalice desítek zemí, podporovaná Mezinárodním výborem Červeného kříže a dalšími organizacemi, jako je kampaň „Stop Killer Robots“, které volají po přijetí právně závazného dokumentu, jenž by tyto zbraně preventivně zakázal. Na druhé straně stojí vojenské mocnosti, včetně USA, Ruska, Číny a Izraele, které v této technologii vidí strategickou výhodu. Tyto státy sice připouštějí potřebu určitých pravidel, ale odmítají úplný zákaz a zdůrazňují potenciální přínosy, jako je rychlejší reakce na hrozby a snížení rizika pro vlastní vojáky.
Technologický vývoj je však mnohem rychlejší než diplomatická jednání. Pandořina skříňka byla otevřena dokořán. Zřejmě už začaly nové závody ve zbrojení, tentokrát v oblasti umělé inteligence. Nekontrolované šíření autonomních zbraní by mohlo dramaticky destabilizovat globální bezpečnost, snížit práh pro rozpoutání konfliktu a vést k válkám vedeným v rychlosti, kterou lidé nebudou schopni kontrolovat.
Zdroj: ICT NETWORK NEWS
