1. Catastrophic Forgetting 與 RAG 的限制
AI 導入實際業務時，最大的困擾之一，是將既有學習的知識以新資料進行微調時所產生的 災難性遺忘（Catastrophic Forgetting） 現象。
這是指以神經網路為基礎的 AI 在學習新資訊的過程中，會迅速遺失先前學會的知識或模式的現象。
例如，若使用特定企業資料對開放原始碼 LLM 進行微調，可能會導致通用常識或語言能力下降。
為了避免這類問題，RAG（Retrieval-Augmented Generation） 技術被廣泛使用，但 RAG 同樣存在限制。
RAG 的主要限制
- 結構化資料處理不足（Structured Data QA）：RAG 系統主要針對非結構化文字文件進行最佳化，因此無法正確理解或運用結構化資料（表格、資料庫、試算表等）的意義與關係。
- 複雜 PDF／非結構化文件的限制（Complex PDFs）：複雜的 PDF 文件（包含表格、多欄、圖片等）在 chunking（分割）過程中可能遺漏資訊或扭曲脈絡。因此，重要資料可能無法建立索引，或難以搜尋。
- 缺乏 Fallback（備援）模型（Fallback Model(s)）：當 RAG 系統找不到適當答案時，切換至替代（備援）模型的邏輯不足或效率不佳。因此，答案失敗時無法提供令使用者滿意的替代方案。
- 安全性漏洞（LLM Security）：對 LLM 本身的安全性漏洞（提示注入、資料外洩等）防護不足，存在敏感資訊遭暴露的風險。
- 擴充性不足（Data Ingestion Scalability）：在大量資料的索引建立與儲存過程中會發生擴充性問題。資料量越多，chunking、儲存與搜尋速度越慢，系統負載也越高。
- 重要資訊遺漏（Missing Content）：文件中的重要內容經常在 chunking 過程中遺漏，或未建立索引。因此，使用者無法搜尋到所需資訊。
- 遺漏高排名結果（Missed Top Ranked）：搜尋結果中可能遺漏實際上最具相關性的 chunk（高排名結果）。原因包括搜尋演算法的限制、嵌入品質下降、排名錯誤等。
- 脈絡不一致（Not in Context）：搜尋到的 chunk 經常與實際問題的脈絡不符。這是基於單純相似度搜尋的限制，語意連結性不足。
- 格式錯誤（Wrong Format）：搜尋到的 chunk 格式可能不適合 LLM 處理，或與使用者所需的答案格式不同。例如，表格被轉換為文字，導致資訊失真等情況。
- 資訊擷取失敗（Not Extracted）：所需資訊未能從 chunk 中正確擷取，或 LLM 無法辨識資訊。這種情況常發生於複雜句型、表格、圖片等內容。
- 資訊範圍／深度不適當（Incorrect Specificity）：答案對問題而言過於概括，或相反地過於具體，因而不符合使用者的實際需求。資訊範圍與深度難以調整。
- 不完整的答案（Incomplete）：最終產生的答案不完整，或僅提供部分資訊，因而無法充分滿足使用者的需求。原因包括無法整合多個 chunk 中的資訊，或 LLM 僅運用部分資訊。
由於 RAG 過度依賴單純的向量相似度搜尋與基於 chunk 的索引，因此在實際業務中，其可靠性、擴展性與準確性方面的限制十分明顯。
2. 克服 RAG 限制的 CLEVI 語意資料庫
為克服這些限制，CLEVI 開發了新一代 AI 知識基礎設施——專為語意連結、複合推理與基於依據的回應而最佳化的Clevi Semantic Database。
這是 CLEVI 能夠提供的解決方案，因為其同時擁有自研 Reasoning 模型、多模態 AI 與代理型 AI 模型，也是 CLEVI 讓 AI 真正能在現實中提供幫助的強大技術之一。
打個比方，如果把儲存資訊的資料庫比喻為圖書館，那麼可以把 CLEVI 的語意資料庫想像成擁有一位非常出色的圖書館員。（向圖書館員請求所需資訊，就能獲得準確且快速的回應。）
使用者可以隨時在圖書館中新增資訊，並調取所需的資訊。
此外，也可以按照需求設定資料版本管理與存取權限。
圖書館員的所有行為都會以日誌（紀錄）的形式留存，因此即使發生錯誤，也能進行修正。
<Clevi Semantic Database Structure>
主要特色與技術架構
語意資料儲存
- 不只是單純的 chunk 向量 DB，而是將資料之間的語意關係（脈絡、階層、因果等）儲存於圖形 DB 中
- 易於以知識圖譜／語意網路的形式擴展與補充
混合式搜尋與推理
- CTA+Context Query：同時反映查詢的脈絡（Context）與 CTA
- Hybrid Retrieval：結合向量相似度與基於規則／圖形的搜尋
- Intelligent Folder Hits：自動探索語意上相關的資料夾／類別
多模態同步處理
- TextReader Pool、VisionReader Pool 等可同步解讀文字、影像、表格、語音等多種資料
- 現有 RAG 主要只能處理文字；相較之下，語意資料庫具備卓越的多模態處理能力
基於依據的回應與可靠性驗證
- 文件摘要與引用、表格分析等文件摘要與來源自動生成
- Merge & Verify：多個來源資訊的語義整合與可靠性驗證
- Evidence Pack：提供基於證據的回應套件
複合推理與規劃器
- Planner/DAG：針對複雜查詢，根據逐步規劃與 DAG（Directed Acyclic Graph）進行推理
整合式代理架構
- cip-5-agent Supervisor：管理與協調整體搜尋、推理與整合流程的最高層代理
3. 架構摘要與比較
總結而言，Semantic DB 接收各種形式（語音、文字、圖片、影片等）的資料，不只是將資料切分為 Chunk，還會連結資料之間的語義關係（脈絡、層級、因果等），以此分類知識。
基於此，系統並非像 RAG 一樣採用關鍵字／相似度為基礎的搜尋，而是利用語義連結進行搜尋與推理，因此能從 AI 獲得更準確的資訊搜尋結果與回答。
此外，由於資料以知識圖譜／語義網路的形式儲存，因此易於持續擴充與補充。
CLEVI 在 AI 大轉型的時代發現了 RAG 系統的限制，並透過能夠解決這些問題的語義資料庫與自主 AI 模型，讓客戶能夠快速獲得更準確且更值得信賴的資料回應。
CLEVI 的 AI 系統無論在何種環境中，都能不受領域類型限制，讓客戶珍貴的資料發揮價值。
未來 CLEVI 也將持續竭盡全力，最大化客戶資料的價值，並提供創新的 AI 體驗。
敬請與 CLEVI 一同體驗嶄新的 AI 未來。
諮詢與申請示範： [email protected]
Copyright© 2025 Clevi Inc. All rights reserved.