Podle analytiků z přední výzkumné společnosti Gartner bude do roku 2028 až 80 % firemních aplikací s generativní AI postaveno na stávajících datových platformách. Klíčovou strategií pro tento posun má být technologie Retrieval-Augmented Generation, známá pod zkratkou RAG.

Analytici představili strategii pro efektivní a bezpečné nasazení umělé inteligence

Na technologickém summitu v Bombaji, který se konal začátkem června, představila renomovaná analytická společnost Gartner svou vizi budoucnosti podnikových aplikací. Hlavní predikce zní, že drtivá většina společností se při vývoji vlastních řešení s generativní AI opře o svá stávající datová úložiště. Tento krok má dramaticky zefektivnit celý proces, protože odpadne nutnost budovat komplexní a roztříštěnou infrastrukturu od nuly jen kvůli implementaci AI.

Základní problém současnosti spočívá v tom, že obecné Large Language Models (LLM), jako jsou ty od OpenAI nebo Googlu, jsou trénovány na veřejně dostupných datech z internetu. Samy o sobě tak postrádají kontext pro řešení specifických firemních úkolů, což může vést k nepřesným nebo irelevantním odpovědím. Jak uvedl Prasad Pore, vedoucí analytik Gartneru, snaha integrovat LLM s interními daty pomocí různých samostatných technologií vede k dlouhým a nákladným projektům s nejistým výsledkem.

Odpovědí na tuto výzvu je architektura známá jako RAG neboli Retrieval-Augmented Generation. Zjednodušeně řečeno, RAG funguje jako jakýsi externí „tahák“ pro jazykový model. Místo toho, aby se model spoléhal jen na své naučené znalosti, systém RAG mu v reálném čase dodá relevantní úryvky informací z privátní databáze společnosti. LLM tak při generování odpovědi vychází nejen ze svých obecných znalostí, ale i z konkrétních a aktuálních firemních dat, což dramaticky zvyšuje jeho přesnost a relevanci.

Obrázek: Pexels

Zdroj: gartner.com

Zdroj: B2B NETWORK NEWS