1. Die Grenzen von Catastrophic Forgetting und RAG
Wenn KI in der Praxis eingesetzt wird, ist eine der größten Herausforderungen das Phänomen des katastrophalen Vergessens (Catastrophic Forgetting), das beim Feinabstimmen des bereits erlernten Wissens mit neuen Daten auftritt.
Dabei handelt es sich um ein Phänomen, bei dem KI auf Basis neuronaler Netze während des Lernens neuer Informationen zuvor erlerntes Wissen oder Muster plötzlich verliert.
Wenn beispielsweise ein Open-Source-LLM mit Daten eines bestimmten Unternehmens feinabgestimmt wird, können sich allgemeines Wissen oder die Sprachfähigkeiten verschlechtern.
Um dieses Problem zu vermeiden, wird die Technologie RAG(Retrieval-Augmented Generation) häufig eingesetzt, doch auch RAG hat seine Grenzen.
Typische Grenzen von RAG
- Unzureichende Verarbeitung strukturierter Daten (Structured Data QA): RAG-Systeme sind hauptsächlich für unstrukturierte Textdokumente optimiert und können daher die Bedeutung und Beziehungen strukturierter Daten (Tabellen, Datenbanken, Tabellenkalkulationen usw.) nicht richtig erfassen oder nutzen.
- Einschränkungen bei komplexen PDFs/unstrukturierten Dokumenten (Complex PDFs): Bei komplexen PDF-Dokumenten (einschließlich Tabellen, mehreren Spalten, Bildern usw.) können während des Chunking-Prozesses Informationen verloren gehen oder der Kontext verfälscht werden. Dadurch werden wichtige Daten möglicherweise nicht indexiert oder sind schwer durchsuchbar.
- Fehlendes Fallback-Modell (Fallback Model(s)): Wenn ein RAG-System keine passende Antwort findet, fehlt es an einer geeigneten oder effizienten Logik für den Wechsel zu einem Ersatzmodell. Dadurch wird bei einem Fehlschlagen der Antwort keine zufriedenstellende Alternative für die Benutzer bereitgestellt.
- Sicherheitslücken (LLM Security): Der Schutz vor Sicherheitslücken des LLM selbst (z. B. Prompt Injection, Datenlecks usw.) ist unzureichend, wodurch das Risiko besteht, dass vertrauliche Informationen offengelegt werden.
- Mangelnde Skalierbarkeit (Data Ingestion Scalability): Bei der Indexierung und Speicherung großer Datenmengen treten Skalierbarkeitsprobleme auf. Mit zunehmender Datenmenge verlangsamen sich Chunking, Speicherung und Suche, während die Systemlast steigt.
- Fehlende wichtige Informationen (Missing Content): Wichtige Inhalte aus Dokumenten gehen während des Chunking-Prozesses häufig verloren oder werden nicht indexiert. Dadurch können Benutzer die gewünschten Informationen nicht suchen.
- Fehlende Spitzenplatzierung (Missed Top Ranked): In den Suchergebnissen kann der tatsächlich relevanteste Chunk (mit der höchsten Platzierung) fehlen. Ursachen dafür sind unter anderem Einschränkungen des Suchalgorithmus, eine geringere Embedding-Qualität oder Fehler beim Ranking.
- Nicht im Kontext (Not in Context): Der gefundene Chunk passt häufig nicht zum tatsächlichen Kontext der Frage. Dies ist eine Einschränkung der einfachen Ähnlichkeitssuche, der es an semantischer Verknüpfung mangelt.
- Falsches Format (Wrong Format): Das Format des gefundenen Chunks kann für die Verarbeitung durch das LLM ungeeignet sein oder vom gewünschten Antwortformat des Benutzers abweichen. Beispielsweise kann eine Tabelle in Text umgewandelt werden, wodurch Informationen verfälscht werden.
- Informationen nicht extrahiert (Not Extracted): Benötigte Informationen werden möglicherweise nicht korrekt aus dem Chunk extrahiert, oder das LLM erkennt die Informationen nicht. Dies tritt häufig bei komplexen Satzstrukturen, Tabellen oder Bildern auf.
- Ungeeigneter Informationsumfang bzw. unzureichende Detailtiefe (Incorrect Specificity): Die Antwort ist möglicherweise zu allgemein oder umgekehrt übermäßig spezifisch und entspricht daher nicht den tatsächlichen Anforderungen des Benutzers. Es ist schwierig, Umfang und Detailtiefe der Informationen angemessen zu steuern.
- Unvollständige Antwort (Incomplete): Die abschließend generierte Antwort ist möglicherweise unvollständig oder enthält nur einen Teil der Informationen und erfüllt dadurch die Anforderungen des Benutzers nicht ausreichend. Ursachen können sein, dass Informationen aus mehreren Chunks nicht zusammengeführt werden oder das LLM nur einen Teil davon nutzt.
Da RAG in hohem Maß von einer einfachen Vektorsimilaritätssuche und einer chunk-basierten Indexierung abhängig ist, sind die Grenzen in Bezug auf Zuverlässigkeit, Skalierbarkeit und Genauigkeit im praktischen Einsatz klar erkennbar.
2. Clevi Semantic Database, die die Grenzen von RAG überwindet
Um diese Grenzen zu überwinden, hat CLEVI eine KI-Wissensinfrastruktur der nächsten Generation entwickelt, die für semantische Verknüpfungen, komplexe Schlussfolgerungen und evidenzbasierte Antworten optimiert ist: die Clevi Semantic Database.
Diese Lösung ist möglich, weil CLEVI über eigene Reasoning-Modelle, multimodale KI und agentenbasierte KI-Modelle verfügt, und zählt zu den leistungsstarken Technologien von CLEVI, die KI in der Realität wirklich hilfreich machen.
Vereinfacht gesagt: Wenn man die Datenbank, in der Informationen gespeichert sind, mit einer Bibliothek vergleicht, kann man sich die Clevi Semantic Database als Bibliothek mit einer äußerst kompetenten Bibliothekarin bzw. einem äußerst kompetenten Bibliothekar vorstellen. (Wenn man die benötigten Informationen bei der Bibliothekarin bzw. dem Bibliothekar anfordert, erhält man eine genaue und schnelle Antwort.)
Nutzer können jederzeit neue Informationen in der Bibliothek hinzufügen und benötigte Informationen abrufen.
Außerdem können die Versionsverwaltung und die Zugriffsberechtigungen der Daten nach Bedarf festgelegt werden.
Da alle Aktionen der Bibliothekarin bzw. des Bibliothekars als Logs (Aufzeichnungen) gespeichert werden, können Fehler auch im Nachhinein korrigiert werden.
<Clevi Semantic Database Structure>
Wesentliche Merkmale und technische Struktur
Semantische Datenspeicherung
- Speichert semantische Beziehungen zwischen Daten (Kontext, Hierarchie, Kausalität usw.) in einer Graphdatenbank, anstatt lediglich Chunk-Vektoren in einer Vektordatenbank zu speichern
- Kann einfach in Form eines Wissensgraphen bzw. eines semantischen Netzwerks erweitert und ergänzt werden
Hybride Suche und Schlussfolgerungen
- CTA+Context Query: Berücksichtigt den Kontext der Anfrage (Context) und die CTA gemeinsam
- Hybrid Retrieval: Kombiniert Vektorsimilarität mit regel- bzw. graphbasierten Suchverfahren
- Intelligent Folder Hits: Durchsucht automatisch semantisch verwandte Ordner bzw. Kategorien
Gleichzeitige multimodale Verarbeitung
- Interpretation verschiedener Datentypen wie Text, Bilder, Tabellen und Sprache gleichzeitig, unter anderem mit TextReader Pool und VisionReader Pool
- Während herkömmliches RAG hauptsächlich Text verarbeiten kann, verfügt die Clevi Semantic Database über herausragende Fähigkeiten zur multimodalen Verarbeitung
Evidenzbasierte Antworten und Zuverlässigkeitsprüfung
- Dokumentzusammenfassungen & Quellenangaben, automatische Erstellung von Tabellenerkenntnissen usw.
- Merge & Verify: semantische Integration und Zuverlässigkeitsprüfung von Informationen aus mehreren Quellen
- Evidence Pack: Bereitstellung evidenzbasierter Antwortpakete
Komplexes Schlussfolgern und Planer
- Planner/DAG: schrittweise Planung und auf DAG (Directed Acyclic Graph) basierendes Schlussfolgern für komplexe Anfragen
Integrierte Agentenstruktur
- cip-5-agent Supervisor: übergeordneter Agent zur Verwaltung und Koordination des gesamten Such-, Schlussfolgerungs- und Integrationsprozesses
3. Strukturzusammenfassung und Vergleich
Zusammenfassend nimmt die Semantic DB Daten in verschiedensten Formen (Sprache, Text, Bilder, Videos usw.) auf und klassifiziert Wissen, indem sie nicht nur einfache Chunks, sondern auch semantische Beziehungen zwischen den Daten (Kontext, Hierarchie, Kausalität usw.) miteinander verknüpft.
Auf dieser Grundlage ermöglicht sie im Gegensatz zu einer keyword- oder ähnlichkeitbasierten Suche wie bei RAG eine Suche und Schlussfolgerung anhand semantischer Verknüpfungen, sodass Sie von der KI präzisere Informationssuchen und Antworten erhalten können.
Da die Daten zudem in Form eines Wissensgraphen bzw. eines semantischen Netzwerks gespeichert werden, lassen sie sich kontinuierlich erweitern und ergänzen.
CLEVI hat im Zeitalter der umfassenden KI-Transformation die Grenzen von RAG-Systemen erkannt und ermöglicht es seinen Kunden durch eine semantische Datenbank und eigene KI-Modelle, schnellere, präzisere und zuverlässigere Datenantworten zu erhalten.
Das KI-System von CLEVI kann unabhängig von der Art der Domäne und in jeder Umgebung die wertvollen Daten seiner Kunden nutzbar machen.
Auch in Zukunft wird CLEVI sein Bestes geben, um den Wert der Daten seiner Kunden zu maximieren und innovative KI-Erlebnisse zu bieten.
Erleben Sie gemeinsam mit CLEVI die Zukunft der neuen KI.
Anfragen und Demo-Anfragen: [email protected]
Copyright© 2025 Clevi Inc. Alle Rechte vorbehalten.