Banky a platební společnosti intenzivně řeší otázky chyb a odpovědnosti v éře „agentic commerce“, kdy nákupy provádí umělá inteligence.

Provozní bolesti hlavy pro banky

Bankovní sektor se připravuje na nástup umělé inteligence, která bude provádět nákupy jménem spotřebitelů. Klíčovým tématem na konferenci Money 20/20 v Las Vegas však nebyly příležitosti, ale obavy z chybovosti generativní AI.

Mike Lozanoff, globální šéf obchodních služeb v JPMorgan Chase, největší americké bance, položil zásadní otázku. Zeptal se, co se stane, pokud agent bude halucinovat a koupí něco, co mu uživatel nenařídil. Otevřeně přiznal, že pravidla pro to, kdo je v takové situaci odpovědný za nápravu, v současnosti „nejsou vůbec dořešena“.

Tento problém byl na konferenci hlavním bodem diskuzí. Serge Elkiner, generální manažer platformy Paze, kterou vlastní konsorcium bank sdružených v Early Warning Services (provozovatel Zelle), potvrdil, že platební společnosti stále pracují na tom, jak tyto nevyhnutelné problémy řešit.

Elkiner popsal scénář, který označil za provozní bolest hlavy. Když si zákazník přes AI agenta objedná tmavě modré tričko a dorazí červené, může zavolat své bance. Banka ale v systému neuvidí záznam, že by daný spotřebitel objednávku provedl, protože nákup inicioval agent.

Zákazník se pak obrátí na obchod, ale ani ten nemusí mít záznam o objednávce spojený přímo se zákazníkem.

Obrázek: Midjourney

Zdroj: paymentsdive.com