1. Limitele Catastrophic Forgetting și ale RAG
Atunci când AI este introdus în activitatea reală, una dintre cele mai mari preocupări este fenomenul uitării catastrofale (Catastrophic Forgetting), care apare la ajustarea fină pe date noi a cunoștințelor învățate anterior.
Acesta este fenomenul prin care AI-ul bazat pe rețele neuronale pierde rapid cunoștințele sau tiparele învățate anterior în procesul de învățare a informațiilor noi.
De exemplu, dacă ajustați fin un LLM open-source folosind datele unei anumite companii, cunoștințele generale sau capacitatea lingvistică se pot diminua.
Pentru a evita această problemă, tehnologia RAG (Retrieval-Augmented Generation) este utilizată pe scară largă, însă și RAG are anumite limite.
Limitele reprezentative ale RAG
- Procesare insuficientă a datelor structurate (Structured Data QA): Sistemele RAG sunt optimizate în principal pentru documente text nestructurate și nu pot înțelege sau utiliza în mod corespunzător semnificația și relațiile datelor structurate (tabele, baze de date, foi de calcul etc.).
- Limitări ale fișierelor PDF complexe/documentelor nestructurate (Complex PDFs): În cazul documentelor PDF complexe (care includ tabele, coloane multiple, imagini etc.), informațiile pot fi omise sau contextul poate fi distorsionat în timpul procesului de chunking (segmentare). Astfel, date importante pot să nu fie indexate sau pot fi dificil de regăsit.
- Lipsa unui model Fallback (de rezervă) (Fallback Model(s)): Atunci când sistemul RAG nu găsește un răspuns adecvat, logica de trecere la un model alternativ (de rezervă) este insuficientă sau ineficientă. Prin urmare, atunci când răspunsul eșuează, nu este oferită o alternativă satisfăcătoare pentru utilizator.
- Vulnerabilități de securitate (LLM Security): Măsurile de protecție împotriva vulnerabilităților de securitate ale LLM în sine (injecția de prompturi, scurgerea de date etc.) sunt insuficiente, existând riscul expunerii informațiilor sensibile.
- Scalabilitate insuficientă (Data Ingestion Scalability): Apar probleme de scalabilitate în timpul indexării și stocării unor volume mari de date. Pe măsură ce volumul de date crește, viteza de chunking, stocare și căutare scade, iar încărcarea sistemului crește.
- Omiterea informațiilor importante (Missing Content): Conținutul important din documente este adesea omis în timpul procesului de chunking sau nu este indexat. Prin urmare, utilizatorii nu pot căuta informațiile dorite.
- Omiterea rezultatelor cu rang superior (Missed Top Ranked): În rezultatele căutării poate lipsi chunk-ul cel mai relevant în realitate (cu rang superior). Cauzele includ limitările algoritmului de căutare, calitatea scăzută a embedding-urilor și erorile de clasificare.
- Nepotrivire de context (Not in Context): Chunk-ul regăsit nu corespunde adesea contextului real al întrebării. Aceasta este o limitare a căutării bazate doar pe similaritate, care are o conectare semantică insuficientă.
- Format incorect (Wrong Format): Formatul chunk-ului regăsit poate fi nepotrivit pentru procesarea de către LLM sau poate diferi de formatul de răspuns dorit de utilizator. De exemplu, informațiile pot fi distorsionate atunci când un tabel este convertit în text.
- Eșecul extragerii informațiilor (Not Extracted): Informațiile necesare nu sunt extrase în mod corespunzător din chunk sau LLM nu le poate recunoaște. Acest lucru apare frecvent în cazul structurilor de propoziții complexe, al tabelelor și al imaginilor.
- Specificitate incorectă (Incorrect Specificity): Răspunsul poate fi prea general în raport cu întrebarea sau, dimpotrivă, excesiv de specific, necorespunzând astfel cerințelor reale ale utilizatorului. Este dificil să se ajusteze aria și nivelul de profunzime al informațiilor.
- Răspuns incomplet (Incomplete): Răspunsul generat în final poate fi incomplet sau poate furniza doar o parte dintre informații, nereușind să îndeplinească pe deplin cerințele utilizatorului. Cauzele pot fi incapacitatea de a sintetiza informații din mai multe chunk-uri sau utilizarea doar parțială a informațiilor de către LLM.
Astfel, deoarece RAG se bazează excesiv pe căutarea bazată pe similaritatea vectorială simplă și pe indexarea bazată pe chunk-uri, limitele sale în ceea ce privește fiabilitatea, scalabilitatea și acuratețea sunt clare în activitatea reală.
2. Baza de date semantică CLEVI, care depășește limitele RAG
Pentru a depăși aceste limite, CLEVI a dezvoltat următoarea generație de infrastructură de cunoștințe AI, optimizată pentru conexiuni semantice, raționament complex și răspunsuri bazate pe dovezi, Clevi Semantic Database.
Este o soluție posibilă datorită faptului că deține propriile modele de Reasoning, modele AI multimodale și modele AI de tip agent și reprezintă una dintre tehnologiile puternice specifice CLEVI, care fac posibil ca AI să fie cu adevărat util în lumea reală.
Ca analogie, dacă baza de date în care sunt stocate informațiile este considerată o bibliotecă, baza de date semantică a CLEVI poate fi imaginată ca având un bibliotecar excepțional. (Dacă solicitați bibliotecarului informațiile necesare, puteți primi răspunsuri exacte și rapide.)
Utilizatorii pot adăuga oricând informații noi în bibliotecă și pot extrage informațiile necesare.
De asemenea, gestionarea versiunilor datelor și permisiunile de acces pot fi configurate după preferințe.
Toate acțiunile bibliotecarului sunt păstrate sub formă de jurnale (înregistrări), astfel încât pot fi corectate chiar și în cazul apariției unei greșeli.
<Clevi Semantic Database Structure>
Caracteristici principale și structură tehnologică
Stocarea semantică a datelor
- Stochează în baza de date graf relațiile semantice dintre date (context, ierarhie, cauzalitate etc.), nu într-o bază de date vectorială simplă bazată pe chunk-uri
- Poate fi extinsă și completată cu ușurință sub forma unui graf de cunoștințe/rețele semantice
Căutare și raționament hibride
- CTA+Context Query: reflectă împreună contextul (Context) interogării și CTA
- Hybrid Retrieval: combină similaritatea vectorială cu căutarea bazată pe reguli/grafuri
- Intelligent Folder Hits: explorează automat folderele/categoriile asociate semantic
Procesare multimodală simultană
- Interpretează simultan diverse tipuri de date, precum text, imagini, tabele și voce, prin TextReader Pool, VisionReader Pool etc.
- În timp ce RAG tradițional poate procesa în principal doar text, baza de date semantică excelează la procesarea multimodală
Răspunsuri bazate pe dovezi și verificarea fiabilității
- Rezumatul documentelor și citările, identificarea constatărilor din tabele etc. — generarea automată a rezumatelor și surselor documentelor
- Merge & Verify: integrarea semantică a informațiilor din mai multe surse și verificarea fiabilității
- Evidence Pack: furnizarea unui pachet de răspuns bazat pe dovezi
Raționament complex și planificator
- Planner/DAG: planificare etapizată și raționament bazat pe DAG (Directed Acyclic Graph) pentru interogări complexe
Structură integrată a agenților
- Supervisor cip-5-agent: agentul suprem care gestionează și coordonează întregul proces de căutare, raționament și integrare
3. Rezumat și comparație a structurii
Pe scurt, Semantic DB primește date în diverse forme (voce, text, imagini, videoclipuri etc.) și clasifică informațiile prin conectarea nu doar a unor simple segmente, ci și a relațiilor semantice dintre date (context, ierarhie, cauzalitate etc.).
Pe baza acestui principiu, acesta realizează căutarea și raționamentul utilizând conexiuni semantice, nu căutări bazate pe cuvinte-cheie sau similaritate precum RAG, permițând obținerea unor informații și răspunsuri mai precise de la AI.
În plus, deoarece informațiile sunt stocate sub forma unui graf de cunoștințe sau a unei rețele semantice, extinderea și completarea continuă sunt ușor de realizat.
Noi, cei de la CLEVI, am identificat limitele sistemelor RAG în era transformării AI și, prin intermediul unei baze de date semantice și al propriilor modele AI care pot depăși aceste limite, le permitem clienților să primească rapid date mai precise și mai fiabile.
Sistemul AI al CLEVI poate transforma datele valoroase ale clienților în valoare reală, indiferent de domeniu și în orice mediu.
Și pe viitor, CLEVI va face tot posibilul pentru a maximiza valoarea datelor clienților și pentru a oferi experiențe AI inovatoare.
Vă invităm să experimentați viitorul noii inteligențe artificiale alături de CLEVI.
Solicitări de informații și demonstrații: [email protected]
Copyright© 2025 Clevi Inc. Toate drepturile rezervate.