blog.consultee.biz

Ak firma začne uvažovať nad vlastným AI asistentom, veľmi rýchlo narazí na jednoduchý problém: AI síce vie veľa všeobecne, ale nepozná naše interné dokumenty, smernice, produktové podklady, školenia, manuály ani know-how. Práve tu prichádza na rad pojem RAG . Je to skratka z anglického Retrieval-Augmented Generation , teda zjednodušene: AI najskôr nájde relevantné podklady a až potom z nich vytvorí odpoveď. RAG patrí medzi najpraktickejšie spôsoby, ako vytvoriť firemného AI asistenta nad vlastnými dátami bez toho, aby sme museli jazykový model kompletne „učiť nanovo“. V tomto článku si vysvetlíme, čo RAG je, ako funguje, čo sa deje s dokumentmi po nahratí, kde vznikajú najčastejšie chyby a prečo nestačí iba povedať: „Nahrajme PDF do AI a ono si už poradí.“ Najprv jednoduchý príklad Predstavme si firmu, ktorá má 300 strán interných dokumentov. Sú medzi nimi: produktové manuály, servisné postupy, interné smernice, FAQ, školenia, technické podklady, obcho...

Jedna z prvých otázok, ktoré firmy pri zavádzaní AI riešia, je úplne oprávnená: „Ako môžeme AI dôverovať, keď si niekedy dokáže vymyslieť odpoveď?“ Pri bežnom používaní generatívnej AI môže byť nesprávna odpoveď nepríjemná. Pri firemnom AI agentovi však môže byť problém oveľa vážnejší. Predstavte si, že AI zákazníkovi oznámi nesprávnu cenu, vymyslí neexistujúcu vlastnosť produktu, uvedie chybný termín dodania alebo začne interpretovať internú smernicu spôsobom, ktorý v dokumente vôbec nie je. Preto pri vývoji firemných AI riešení nestačí položiť jazykovému modelu otázku a zobraziť jeho odpoveď. Potrebujeme vytvoriť celý systém, ktorý modelu poskytne správne informácie, určí pravidlá práce s nimi, umožní pracovať s aktuálnymi firemnými dátami a zároveň nastaví hranice pre prípady, keď odpoveď jednoducho nepozná. Úplne odstrániť možnosť nesprávnej AI odpovede dnes nedokážeme. Dá sa však výrazne znížiť pravdepodobnosť, že AI začne odpovedať na základe domnienok namiesto fire...

Na prvý pohľad môžu vyzerať rovnako. Na webovej stránke sa zobrazí malé okno, návštevník napíše otázku a systém odpovie. Za týmto jednoduchým rozhraním sa však môžu skrývať dve úplne rozdielne riešenia. Jedným je chatbot , ktorého hlavnou úlohou je komunikovať. Druhým je AI agent , ktorý môže okrem komunikácie pracovať s firemnými dátami, používať nástroje, komunikovať s ďalšími systémami a za určitých podmienok aj vykonávať konkrétne úlohy. Práve tento rozdiel bude podľa nás v najbližších rokoch pre firmy čoraz dôležitejší. Nie preto, že chatboty prestanú existovať. Na množstvo úloh sú stále úplne postačujúce. Problém vzniká vtedy, keď firma očakáva od jednoduchého chatbota schopnosti, ktoré už patria do sveta AI agentov. Chatbot a AI agent nie sú len dve pomenovania toho istého Slovo chatbot sa dnes používa veľmi široko. Môže označovať jednoduchý systém s niekoľkými predpripravenými odpoveďami, ale aj sofistikovanú aplikáciu postavenú nad veľkým jazykovým modelom. Preto...