1. Catastrophic Forgetting 與 RAG 的限制
AI 實際應用於工作時，其中一個最大的顧慮，是將既有學習知識以新數據進行微調時所產生的 災難性遺忘（Catastrophic Forgetting） 現象。
這是指基於神經網絡的 AI 在學習新資訊的過程中，會迅速失去先前學會的知識或模式的現象。
例如，若以特定企業數據為開源 LLM 進行微調，通用常識或語言能力可能會下降。
為了避免這類問題，RAG（Retrieval-Augmented Generation） 技術正被廣泛使用，但 RAG 同樣存在限制。
RAG 的主要限制
- 結構化數據處理不足(Structured Data QA)：RAG 系統主要針對非結構化文字文件進行優化，因此無法正確理解或運用結構化數據（表格、數據庫、試算表等）的含義和關係。
- 複雜 PDF／非結構化文件的限制(Complex PDFs)：複雜的 PDF 文件（包括表格、多欄、圖片等）在 chunking（分割）過程中可能遺失資訊或扭曲上下文。因此，重要數據可能無法建立索引，或難以搜尋。
- 缺乏 Fallback（備用）模型(Fallback Model(s))：當 RAG 系統無法找到適當答案時，切換至替代（備用）模型的邏輯不足或效率欠佳。因此，答案生成失敗時，無法為使用者提供令人滿意的替代方案。
- 安全漏洞(LLM Security)：對 LLM 本身的安全漏洞（提示注入、數據洩露等）防護不足，存在敏感資訊暴露的風險。
- 擴展性不足(Data Ingestion Scalability)：在大量數據的建立索引及儲存過程中會出現擴展性問題。隨着數據量增加，chunking、儲存及搜尋速度會下降，系統負載亦會增加。
- 重要資訊遺漏(Missing Content)：文件中的重要內容經常在 chunking 過程中遺失，或未能建立索引。因此，使用者無法搜尋所需資訊。
- 遺漏最高排名結果(Missed Top Ranked)：搜尋結果中實際最相關的 chunk（最高排名結果）可能會遺漏。原因包括搜尋演算法的限制、嵌入品質下降及排名錯誤等。
- 上下文不一致 (Not in Context)：搜尋到的 chunk 經常與實際問題的上下文不符。這是基於單純相似度的搜尋所存在的限制，語義連繫不足。
- 格式錯誤 (Wrong Format)：搜尋到的 chunk 格式可能不適合 LLM 處理，或與使用者所需的答案格式不同。例如，表格被轉換為文字，導致資訊失真等。
- 資訊提取失敗 (Not Extracted)：所需資訊未能從 chunk 中正確提取，或 LLM 無法識別資訊。這種情況常見於複雜句子結構、表格及圖片等內容。
- 資訊範圍／深度不適當 (Incorrect Specificity)：答案對問題過於概括，或相反地過於具體，與使用者的實際需求不符。難以調整資訊的範圍和深度。
- 答案不完整 (Incomplete)：最終生成的答案不完整，或只提供部分資訊，未能充分滿足使用者的需求。原因包括未能整合多個 chunk 中的資訊，或 LLM 只運用了部分資訊。
由於 RAG 過度依賴簡單的向量相似度搜尋及基於 chunk 的索引，因此在實際業務中，於可靠性、可擴展性及準確性方面存在明顯限制。
2. 克服 RAG 限制的 CLEVI 語義資料庫
為克服這些限制，CLEVI 開發了新一代 AI 知識基礎設施——專為語義連結、複合推理及基於依據的回應而優化的Clevi Semantic Database。
這是 CLEVI 憑藉同時擁有自主 Reasoning 模型、多模態 AI 及代理型 AI 模型而實現的解決方案，亦是 CLEVI 讓 AI 真正能夠在現實中發揮作用的強大技術之一。
比喻而言，如果把儲存資訊的資料庫比作圖書館，CLEVI 的語義資料庫就像擁有一位非常出色的圖書館管理員。（向管理員索取所需資訊時，即可獲得準確而快速的回應。）
使用者可以隨時在圖書館中新增資訊，並提取所需資訊。
此外，資料版本管理及存取權限亦可按需要設定。
管理員的所有操作都會以日誌（記錄）形式保存，因此即使發生錯誤，也可以進行修正。
<Clevi Semantic Database Structure>
主要特點及技術結構
語義資料儲存
- 不是簡單的 chunk 向量資料庫，而是將資料之間的語義關係（語境、層級、因果等）儲存於圖譜資料庫中
- 便於以知識圖譜／語義網絡形式擴展及補充
混合搜尋及推理
- CTA+Context Query：同時反映查詢的語境（Context）及 CTA
- Hybrid Retrieval：結合向量相似度與基於規則／圖譜的搜尋
- Intelligent Folder Hits：自動搜尋語義上相關的資料夾／類別
多模態同步處理
- TextReader Pool、VisionReader Pool 等可同時解讀文字、圖像、表格、語音等各種資料
- 現有 RAG 主要只能處理文字，而語義資料庫具備卓越的多模態處理能力
基於依據的回應及可靠性驗證
- 文件摘要及引文、表格分析結果等文件摘要及來源自動生成
- Merge & Verify：多個來源資訊的語義整合及可靠性驗證
- Evidence Pack：提供基於證據的回應套件
複合推理及規劃器
- Planner/DAG：針對複雜查詢制定分步計劃，並基於 DAG（有向無環圖）進行推理
整合代理架構
- cip-5-agent Supervisor：管理及協調整個搜尋、推理及整合流程的最高層代理
3. 架構摘要及比較
總括而言，Semantic DB 接收不同形式（語音、文字、圖片、影片等）的數據，不只是將其分割成 Chunk，更會連結數據之間的語義關係（脈絡、層級、因果等），從而分類知識。
基於此，系統不像 RAG 般進行以關鍵字或相似度為基礎的搜尋，而是運用語義連結進行搜尋及推理，因此能夠透過 AI 獲得更準確的資訊搜尋結果及答案。
此外，由於數據以知識圖譜及語義網絡的形式儲存，因此便於持續擴展及補充。
CLEVI 發現了 AI 大轉型時代下 RAG 系統的局限，並透過可解決這些問題的語義資料庫及自主 AI 模型，讓客戶能夠快速獲得更準確及可靠的數據回應。
CLEVI 的 AI 系統無論在任何環境，亦不論所屬領域，都能讓客戶珍貴的數據發揮價值。
CLEVI 將繼續竭盡全力，最大化客戶數據的價值，並提供創新的 AI 體驗。
歡迎與 CLEVI 一同體驗 AI 的嶄新未來。
查詢及要求示範：[email protected]
Copyright© 2025 Clevi Inc. 保留所有權利。