1. Limitaciones de Catastrophic Forgetting y RAG
Cuando la IA se incorpora a las operaciones reales, una de las mayores preocupaciones es el fenómeno del olvido catastrófico (Catastrophic Forgetting) que se produce al ajustar un modelo con nuevos datos a partir de los conocimientos aprendidos previamente.
Se trata del fenómeno por el que la IA basada en redes neuronales pierde rápidamente los conocimientos o patrones aprendidos anteriormente durante el proceso de aprendizaje de nueva información.
Por ejemplo, si se ajusta un LLM de código abierto con los datos de una empresa específica, pueden deteriorarse los conocimientos generales o las capacidades lingüísticas.
Para evitar este problema, se utiliza ampliamente la tecnología RAG (Retrieval-Augmented Generation), pero RAG también tiene limitaciones.
Principales limitaciones de RAG
- Procesamiento insuficiente de datos estructurados (Structured Data QA): los sistemas RAG están optimizados principalmente para documentos de texto no estructurado, por lo que no logran comprender ni utilizar adecuadamente el significado y las relaciones de los datos estructurados (tablas, bases de datos, hojas de cálculo, etc.).
- Limitaciones con PDF complejos/documentos no estructurados (Complex PDFs): en el caso de documentos PDF complejos (que incluyen tablas, varias columnas, imágenes, etc.), puede perderse información o distorsionarse el contexto durante el proceso de chunking (segmentación). Como resultado, datos importantes pueden no indexarse o ser difíciles de buscar.
- Ausencia de un modelo Fallback (Fallback Model(s)): cuando el sistema RAG no encuentra una respuesta adecuada, la lógica para cambiar a un modelo alternativo (de respaldo) es insuficiente o ineficiente. Por ello, cuando falla la respuesta, no se ofrece una alternativa satisfactoria al usuario.
- Vulnerabilidades de seguridad (LLM Security): las defensas frente a las vulnerabilidades de seguridad del propio LLM (inyección de prompts, filtración de datos, etc.) son insuficientes, lo que genera el riesgo de exposición de información confidencial.
- Escalabilidad insuficiente (Data Ingestion Scalability): surgen problemas de escalabilidad durante la indexación y el almacenamiento de grandes volúmenes de datos. A medida que aumenta la cantidad de datos, disminuye la velocidad de chunking, almacenamiento y búsqueda, y aumenta la carga del sistema.
- Omisión de información importante (Missing Content): con frecuencia, el contenido importante de los documentos se omite durante el proceso de chunking o no se indexa. Como resultado, los usuarios no pueden buscar la información que necesitan.
- Omisión de los resultados mejor posicionados (Missed Top Ranked): el chunk que en realidad es más relevante (el mejor posicionado) puede omitirse en los resultados de búsqueda. Las causas incluyen las limitaciones del algoritmo de búsqueda, la baja calidad de los embeddings y errores de posicionamiento.
- Incompatibilidad de contexto (Not in Context): a menudo, el chunk recuperado no coincide con el contexto real de la pregunta. Debido a las limitaciones de la búsqueda basada únicamente en la similitud, la conexión semántica es insuficiente.
- Formato incorrecto (Wrong Format): el formato del chunk recuperado puede no ser adecuado para que el LLM lo procese o puede diferir del formato de respuesta que desea el usuario. Por ejemplo, una tabla puede convertirse en texto y distorsionar la información.
- Fallo en la extracción de información (Not Extracted): la información necesaria no se extrae correctamente del chunk o el LLM no logra reconocerla. Esto ocurre con frecuencia en estructuras de oraciones complejas, tablas, imágenes, etc.
- Alcance/profundidad de la información inadecuados (Incorrect Specificity): la respuesta puede ser demasiado general o, por el contrario, excesivamente específica para la pregunta, por lo que no se ajusta a las necesidades reales del usuario. Es difícil ajustar el alcance y la profundidad de la información.
- Respuesta incompleta (Incomplete): la respuesta generada finalmente puede estar incompleta o proporcionar solo parte de la información, por lo que no satisface suficientemente las necesidades del usuario. Las causas incluyen no lograr sintetizar la información de varios chunks o que el LLM utilice solo una parte de ella.
De este modo, dado que RAG depende en exceso de la búsqueda basada únicamente en la similitud vectorial y de la indexación basada en chunks, sus limitaciones en términos de fiabilidad, escalabilidad y precisión son evidentes en entornos de trabajo reales.
2. La base de datos semántica de CLEVI, que supera las limitaciones de RAG
Para superar estas limitaciones, CLEVI ha desarrollado Clevi Semantic Database, una infraestructura de conocimiento de IA de próxima generación optimizada para la conexión semántica, el razonamiento complejo y las respuestas basadas en evidencias.
Se trata de una solución posible gracias a que cuenta con modelos propios de Reasoning, IA multimodal y modelos de IA basados en agentes, y es una de las potentes tecnologías exclusivas de CLEVI que hacen posible que la IA sea realmente útil en el mundo real.
A modo de comparación, si consideramos como una biblioteca la base de datos donde se almacena la información, la base de datos semántica de CLEVI puede entenderse como una biblioteca con un bibliotecario excepcional. (Al solicitarle al bibliotecario la información necesaria, se puede obtener una respuesta precisa y rápida).
Los usuarios pueden añadir nueva información a la biblioteca y recuperar la información necesaria en cualquier momento.
Además, pueden configurar como deseen la gestión de versiones de los datos y los permisos de acceso.
Todas las acciones del bibliotecario quedan registradas en logs (registros), por lo que pueden corregirse incluso si se produce un error.
<Clevi Semantic Database Structure>
Principales características y estructura tecnológica
Almacenamiento semántico de datos
- Almacena en una base de datos de grafos las relaciones semánticas entre los datos (contexto, jerarquía, causalidad, etc.), en lugar de utilizar únicamente una base de datos vectorial basada en chunks
- Fácil de ampliar y complementar en forma de grafo de conocimiento/red semántica
Búsqueda e inferencia híbridas
- CTA+Context Query: refleja conjuntamente el contexto (Context) de la consulta y la CTA
- Hybrid Retrieval: combina la similitud vectorial con búsquedas basadas en reglas/grafos
- Intelligent Folder Hits: explora automáticamente carpetas/categorías relacionadas semánticamente
Procesamiento multimodal simultáneo
- Interpretación simultánea de diversos tipos de datos, como texto, imágenes, tablas y voz, mediante TextReader Pool, VisionReader Pool, etc.
- Mientras que el RAG tradicional puede procesar principalmente texto, la base de datos semántica destaca por su capacidad de procesamiento multimodal
Respuestas basadas en evidencias y verificación de la fiabilidad
- Resúmenes y citas de documentos, hallazgos en tablas, etc.: generación automática de resúmenes y fuentes de documentos
- Merge & Verify: integración semántica y verificación de la fiabilidad de la información procedente de varias fuentes
- Evidence Pack: proporciona paquetes de respuestas basados en evidencias
Razonamiento complejo y planificador
- Planner/DAG: planificación paso a paso y razonamiento basado en DAG (Directed Acyclic Graph) para consultas complejas
Arquitectura de agente integrado
- Supervisor cip-5-agent: agente de nivel superior que gestiona y coordina todo el proceso de búsqueda, razonamiento e integración
3. Resumen y comparación de la estructura
En resumen, Semantic DB recibe datos de diversos formatos (voz, texto, imágenes, vídeo, etc.) y clasifica el conocimiento conectando no solo simples fragmentos, sino también las relaciones semánticas entre los datos (contexto, jerarquía, causalidad, etc.).
A partir de esto, permite realizar búsquedas y razonamientos mediante conexiones semánticas, en lugar de búsquedas basadas en palabras clave o similitud como RAG, lo que permite obtener de la IA búsquedas de información y respuestas más precisas.
Además, como se almacena en forma de grafo de conocimiento o red semántica, resulta fácil ampliarlo y complementarlo de manera continua.
En la era de la gran transformación de la IA, en Clevi descubrimos las limitaciones de los sistemas RAG y, mediante una base de datos semántica y modelos de IA propios capaces de resolverlas, ahora podemos responder rápidamente a nuestros clientes con datos más precisos y fiables.
El sistema de IA de Clevi puede convertir los valiosos datos de nuestros clientes en información de valor, independientemente del tipo de dominio y en cualquier entorno.
Clevi seguirá esforzándose al máximo para maximizar el valor de los datos de nuestros clientes y ofrecer experiencias innovadoras de IA.
Le invitamos a experimentar el futuro de la nueva IA junto con Clevi.
Solicitudes de información y demostraciones: [email protected]
Copyright© 2025 Clevi Inc. Todos los derechos reservados.