1. Catastrophic Forgetting a omezení RAG
Jedním z největších problémů při zavádění AI do reálného provozu je jev katastrofického zapomínání (Catastrophic Forgetting), ke kterému dochází při dolaďování dříve naučených znalostí pomocí nových dat.
Jde o jev, při kterém AI založená na neuronových sítích během učení nových informací náhle ztrácí dříve osvojené znalosti nebo vzorce.
Pokud například doladíte open source LLM pomocí dat konkrétní společnosti, mohou se zhoršit obecné znalosti nebo jazykové schopnosti.
Aby se tomuto problému předešlo, široce se používá technologie RAG(Retrieval-Augmented Generation), ale i RAG má svá omezení.
Typická omezení RAG
- Nedostatečné zpracování strukturovaných dat (Structured Data QA): Systémy RAG jsou optimalizovány především pro nestrukturované textové dokumenty, a proto nedokážou správně porozumět významu a vztahům ve strukturovaných datech (tabulky, databáze, tabulkové procesory apod.) ani je efektivně využívat.
- Omezení komplexních PDF/nestrukturovaných dokumentů (Complex PDFs): U komplexních dokumentů PDF (včetně tabulek, více sloupců, obrázků apod.) může během procesu chunking (rozdělení) dojít ke ztrátě informací nebo zkreslení kontextu. V důsledku toho nemusí být důležitá data indexována nebo může být obtížné je vyhledat.
- Absence záložního modelu (Fallback Model(s)): Když systém RAG nedokáže najít vhodnou odpověď, logika pro přepnutí na alternativní (záložní) model může být nedostatečná nebo neefektivní. V důsledku toho není při selhání odpovědi uživateli poskytnuta uspokojivá alternativa.
- Bezpečnostní zranitelnosti (LLM Security): Nedostatečná ochrana před bezpečnostními zranitelnostmi samotného LLM (prompt injection, únik dat apod.) vytváří riziko odhalení citlivých informací.
- Nedostatečná škálovatelnost (Data Ingestion Scalability): Během indexování a ukládání velkých objemů dat vznikají problémy se škálovatelností. S rostoucím množstvím dat se zpomaluje chunking, ukládání a vyhledávání a zvyšuje se zatížení systému.
- Vynechání důležitých informací (Missing Content): Důležitý obsah dokumentu je během procesu chunking často vynechán nebo není indexován. Uživatel tak nemůže vyhledat požadované informace.
- Vynechání nejvýše hodnocených výsledků (Missed Top Ranked): Ve výsledcích vyhledávání může chybět chunk, který je ve skutečnosti nejrelevantnější (nejvýše hodnocený). Příčinou mohou být omezení vyhledávacího algoritmu, nízká kvalita embeddingů nebo chyby v řazení.
- Nesoulad kontextu (Not in Context): Vyhledaný chunk často neodpovídá kontextu skutečného dotazu. Jde o omezení vyhledávání založeného pouze na podobnosti, které postrádá dostatečnou sémantickou propojenost.
- Nesprávný formát (Wrong Format): Formát vyhledaného chunku může být nevhodný pro zpracování pomocí LLM nebo se může lišit od požadovaného formátu odpovědi uživatele. Například tabulka může být převedena na text, což vede ke zkreslení informací.
- Selhání extrakce informací (Not Extracted): Požadované informace nemusí být z chunku správně extrahovány nebo je LLM nemusí rozpoznat. K tomu často dochází u složitých větných struktur, tabulek, obrázků apod.
- Nevhodný rozsah/úroveň podrobnosti informací (Incorrect Specificity): Odpověď může být na dotaz příliš obecná nebo naopak příliš konkrétní, a nemusí tak odpovídat skutečným požadavkům uživatele. Je obtížné správně nastavit rozsah a hloubku informací.
- Neúplná odpověď (Incomplete): Konečná vygenerovaná odpověď může být neúplná nebo může obsahovat pouze část informací, a nedostatečně tak splnit požadavky uživatele. Příčinou může být neschopnost zkombinovat informace z více chunků nebo skutečnost, že LLM využije pouze jejich část.
Protože RAG nadměrně spoléhá na vyhledávání založené pouze na vektorové podobnosti a indexování na bázi chunků, má v reálném pracovním prostředí jasné limity z hlediska spolehlivosti, škálovatelnosti a přesnosti.
2. Clevi Semantic Database, která překonává omezení RAG
Aby CLEVI tato omezení překonala, vyvinula infrastrukturu znalostí nové generace pro AI, optimalizovanou pro sémantické propojení, komplexní uvažování a odpovědi založené na důkazech, Clevi Semantic Database.
Jde o řešení, které je možné díky tomu, že vlastní Reasoning modely, multimodální AI i agentní AI modely, a představuje jednu z jedinečných a výkonných technologií CLEVI, díky nimž může být AI skutečně užitečná v reálném světě.
Přirovnáme-li databázi, v níž jsou uloženy informace, ke knihovně, lze si sémantickou databázi CLEVI představit jako knihovnu s velmi schopným knihovníkem. (Když knihovníka požádáte o potřebné informace, získáte přesnou a rychlou odpověď.)
Uživatelé mohou kdykoli do knihovny přidávat nové informace a načítat potřebné informace.
Mohou také podle potřeby nastavovat správu verzí dat a přístupová oprávnění.
Všechny činnosti knihovníka se zaznamenávají do protokolu (záznamu), takže i v případě chyby ji lze opravit.
<Clevi Semantic Database Structure>
Hlavní funkce a technologická struktura
Sémantické ukládání dat
- Ukládání sémantických vztahů mezi daty (kontext, hierarchie, kauzalita atd.) do grafové databáze namísto jednoduché vektorové DB založené na chunkech
- Snadné rozšiřování a doplňování ve formě znalostního grafu/sémantické sítě
Hybridní vyhledávání a uvažování
- CTA+Context Query: současné zohlednění kontextu (Context) dotazu a CTA
- Hybrid Retrieval: kombinace vyhledávání založeného na vektorové podobnosti a vyhledávání založeného na pravidlech/grafu
- Intelligent Folder Hits: automatické vyhledávání složek/kategorií, které jsou sémanticky relevantní
Současné multimodální zpracování
- Současná interpretace různých typů dat, jako jsou text, obrázky, tabulky a zvuk, pomocí nástrojů TextReader Pool, VisionReader Pool atd.
- Zatímco stávající RAG dokáže zpracovávat především text, sémantická databáze vyniká schopností multimodálního zpracování
Odpovědi založené na důkazech a ověřování spolehlivosti
- Automatické generování souhrnů dokumentů a citací, zjištění v tabulkách atd.
- Merge & Verify: Sémantická integrace informací z více zdrojů a ověření jejich spolehlivosti
- Evidence Pack: Poskytování balíčků odpovědí založených na důkazech
Komplexní uvažování a plánovač
- Planner/DAG: Vícekrokové plánování a uvažování na základě DAG (Directed Acyclic Graph) pro komplexní dotazy
Integrovaná agentní struktura
- cip-5-agent Supervisor: Nejvyšší agent, který řídí a koordinuje celý proces vyhledávání, uvažování a integrace
3. Shrnutí a srovnání struktury
Stručně řečeno, Semantic DB přijímá data v různých formách (hlas, text, obrázky, video atd.) a klasifikuje znalosti tak, že propojuje nejen jednoduché chunky, ale také sémantické vztahy mezi daty (kontext, hierarchii, kauzalitu atd.).
Na tomto základě umožňuje vyhledávání a uvažování využívající sémantické vazby namísto vyhledávání založeného na klíčových slovech či podobnosti, jako je tomu u RAG, takže od AI lze získat přesnější vyhledávání informací a odpovědi.
Protože jsou data také ukládána ve formě znalostního grafu či sémantické sítě, lze je snadno průběžně rozšiřovat a doplňovat.
Společnost CLEVI odhalila v éře rozsáhlé transformace pomocí AI limity systémů RAG a díky sémantické databázi a vlastním AI modelům, které tyto limity řeší, nyní dokáže zákazníkům rychle poskytovat přesnější a spolehlivější data.
AI systém společnosti CLEVI dokáže v jakémkoli prostředí a bez ohledu na typ domény proměnit cenná data zákazníků v hodnotu.
Společnost CLEVI bude i nadále dělat vše pro maximalizaci hodnoty zákaznických dat a poskytování inovativních zkušeností s AI.
Zažijte s CLEVI budoucnost nové AI.
Dotazy a žádosti o demo: [email protected]
Copyright© 2025 Clevi Inc. Všechna práva vyhrazena.