1. Begränsningarna med Catastrophic Forgetting och RAG
När AI implementeras i verkliga arbetsprocesser är ett av de största problemen fenomenet katastrofalt glömskefenomen (Catastrophic Forgetting), som uppstår när tidigare inlärd kunskap finjusteras med nya data.
Detta är ett fenomen där neuronnätsbaserad AI snabbt förlorar tidigare inlärd kunskap eller tidigare inlärda mönster under processen att lära sig ny information.
Om man till exempel finjusterar en LLM med data från ett specifikt företag kan dess allmänna kunskaper eller språkförmåga försämras.
För att undvika detta problem används tekniken RAG(Retrieval-Augmented Generation) i stor utsträckning, men även RAG har sina begränsningar.
RAG:s främsta begränsningar
- Bristande hantering av strukturerade data (Structured Data QA): RAG-system är främst optimerade för ostrukturerade textdokument och kan därför inte korrekt förstå eller utnyttja betydelsen och relationerna i strukturerade data (tabeller, databaser, kalkylblad med mera).
- Begränsningar med komplexa PDF-/ostrukturerade dokument (Complex PDFs): I komplexa PDF-dokument (med tabeller, flera spalter, bilder med mera) kan information gå förlorad eller sammanhang förvrängas under chunking-processen (uppdelningen). Detta kan leda till att viktiga data inte indexeras eller blir svåra att söka efter.
- Avsaknad av fallback-modell (Fallback Model(s)): När RAG-systemet inte hittar ett lämpligt svar saknas det ofta logik för att växla till en alternativ (fallback-)modell, eller så är denna ineffektiv. Därför erbjuds inget tillfredsställande alternativ till användaren när ett svar misslyckas.
- Säkerhetssårbarheter (LLM Security): Bristande skydd mot säkerhetssårbarheter i själva LLM:n (promptinjektion, dataläckage med mera) innebär en risk för att känslig information exponeras.
- Bristande skalbarhet (Data Ingestion Scalability): Skalbarhetsproblem uppstår vid indexering och lagring av stora datamängder. Ju mer data som tillkommer, desto mer försämras hastigheten för chunking, lagring och sökning, samtidigt som belastningen på systemet ökar.
- Utelämnad viktig information (Missing Content): Viktigt innehåll i dokument kan ofta gå förlorat under chunking-processen eller inte indexeras. Därför kan användaren inte söka fram den information som efterfrågas.
- Utelämnade topprankade resultat (Missed Top Ranked): Den chunk som faktiskt är mest relevant (topprankad) kan saknas i sökresultaten. Orsaker kan vara begränsningar i sökalgoritmen, försämrad kvalitet på embeddingar eller rankningsfel.
- Kontextinkongruens (Not in Context): Den hämtade chunken stämmer ofta inte överens med den faktiska frågans kontext. Detta beror på begränsningarna hos likhetsbaserad sökning, som har bristande semantisk koppling.
- Felaktigt format (Wrong Format): Den hämtade chunkens format kan vara olämpligt för LLM:n att bearbeta eller skilja sig från det svarsformat som användaren önskar. Ett exempel är när en tabell omvandlas till text och informationen därigenom förvrängs.
- Misslyckad informationsutvinning (Not Extracted): Nödvändig information extraheras inte korrekt från chunken, eller så kan LLM:n inte identifiera informationen. Detta inträffar ofta i komplexa meningsstrukturer, tabeller och bilder.
- Olämplig informationsomfattning/-djup (Incorrect Specificity): Svaret kan vara alltför övergripande eller tvärtom överdrivet specifikt i förhållande till frågan och därför inte motsvara användarens faktiska behov. Det är svårt att anpassa informationens omfattning och djup.
- Ofullständigt svar (Incomplete): Det slutligt genererade svaret kan vara ofullständigt eller endast innehålla viss information och därmed inte uppfylla användarens behov tillräckligt. Orsaker kan vara att information från flera chunkar inte sammanställs eller att LLM:n endast utnyttjar en del av informationen.
På grund av att RAG i alltför hög grad förlitar sig på enkel sökning baserad på vektorsimilaritet och chunk-baserad indexering är begränsningarna vad gäller tillförlitlighet, skalbarhet och noggrannhet tydliga i verkliga arbetsmiljöer.
2. CLEVI:s semantiska databas som övervinner RAG:s begränsningar
För att övervinna dessa begränsningar har CLEVI utvecklat nästa generations AI-kunskapsinfrastruktur, optimerad för semantiska kopplingar, komplex inferens och evidensbaserade svar, Clevi Semantic Database.
Detta är en lösning som möjliggörs av att CLEVI har egna Reasoning-modeller samt multimodala AI- och agentbaserade AI-modeller, och är en av CLEVI:s kraftfulla tekniker som gör AI verkligt användbar i praktiken.
Som en liknelse kan man tänka på en databas där information lagras som ett bibliotek, och CLEVI:s semantiska databas som att biblioteket har en mycket skicklig bibliotekarie. (När du ber bibliotekarien om den information du behöver får du ett korrekt och snabbt svar.)
Användare kan när som helst lägga till ny information i biblioteket och hämta den information de behöver.
Dessutom kan du ställa in versionshantering och åtkomstbehörigheter för data efter behov.
Alla bibliotekariens handlingar sparas som loggar (register), så även om ett misstag inträffar kan det korrigeras.
<Clevi Semantic Database Structure>
Huvudfunktioner och teknisk struktur
Semantisk datalagring
- Lagrar semantiska relationer mellan data (kontext, hierarki, kausalitet med mera) i en grafdatabas, i stället för i en enkel chunk-baserad vektordatabas
- Enkelt att utöka och komplettera i form av kunskapsgrafer/semantiska nätverk
Hybrid sökning och inferens
- CTA+Context Query: Tar hänsyn till både frågans kontext (Context) och CTA
- Hybrid Retrieval: Kombinerar sökning baserad på vektorsimilaritet med regel-/grafbaserad sökning
- Intelligent Folder Hits: Söker automatiskt efter semantiskt relaterade mappar/kategorier
Samtidig multimodal bearbetning
- Tolkar samtidigt olika typer av data, såsom text, bilder, tabeller och ljud, med bland annat TextReader Pool och VisionReader Pool
- Medan befintlig RAG främst kan hantera text har den semantiska databasen en utmärkt förmåga att bearbeta multimodala data
Evidensbaserade svar och tillförlitlighetsverifiering
- Automatisk generering av dokumentsammanfattningar och källhänvisningar, tabellresultat med mera
- Merge & Verify: Semantisk integrering av information från flera källor och tillförlitlighetsverifiering
- Evidence Pack: Tillhandahållande av evidensbaserade svarspaket
Komplex slutledning och planerare
- Planner/DAG: Stegvis planering och DAG-baserad (Directed Acyclic Graph) slutledning för komplexa frågor
Integrerad agentarkitektur
- cip-5-agent Supervisor: Överordnad agent som hanterar och samordnar hela processen för sökning, slutledning och integrering
3. Struktursammanfattning och jämförelse
Sammanfattningsvis tar Semantic DB emot data i olika former (tal, text, bilder, video med mera) och klassificerar kunskap genom att koppla samman inte bara enkla Chunk utan även semantiska relationer mellan data (kontext, hierarki, orsakssamband med mera).
Med detta som grund använder det sökning och slutledning baserad på semantiska kopplingar, snarare än nyckelords- eller likhetsbaserad sökning som i RAG, vilket gör det möjligt att få mer exakta informationssökningar och svar från AI.
Eftersom informationen dessutom lagras i form av en kunskapsgraf eller ett semantiskt nätverk är det enkelt att kontinuerligt utöka och komplettera den.
Clevi upptäckte begränsningarna hos RAG-system i den tid av AI-omställning vi befinner oss i och har, genom en semantisk databas och egenutvecklade AI-modeller som kan lösa dessa problem, gjort det möjligt att snabbt ge kunder mer exakta och tillförlitliga data.
Clevi:s AI-system kan, oavsett miljö och domän, skapa värde av kundernas värdefulla data.
Även framöver kommer Clevi att göra sitt yttersta för att maximera värdet i kundernas data och erbjuda innovativa AI-upplevelser.
Upplev AI:s nya framtid tillsammans med Clevi.
Förfrågningar och demobegäran: [email protected]
Copyright© 2025 Clevi Inc. Alla rättigheter förbehållna.