1. Catastrophic Forgetting ve RAG'nin Sınırları
Yapay zekânın gerçek iş süreçlerine uygulanması söz konusu olduğunda, en büyük endişelerden biri, daha önce öğrenilmiş bilgilerin yeni verilerle ince ayar yapılırken ortaya çıkan felaketle sonuçlanan unutma (Catastrophic Forgetting) olgusudur.
Bu, sinir ağı tabanlı yapay zekânın yeni bilgileri öğrenme sürecinde, daha önce edindiği bilgi veya kalıpları aniden kaybetmesi olgusudur.
Örneğin, açık kaynaklı bir LLM'yi belirli bir şirketin verileriyle ince ayardan geçirmek, genel geçer bilgilerin veya dil becerilerinin zayıflamasına neden olabilir.
Bu sorundan kaçınmak için RAG (Retrieval-Augmented Generation) teknolojisi yaygın olarak kullanılsa da RAG'nin de bazı sınırları vardır.
RAG'nin başlıca sınırları
- Yapılandırılmış veri işleme yetersizliği(Structured Data QA): RAG sistemleri çoğunlukla yapılandırılmamış metin belgeleri için optimize edildiğinden, yapılandırılmış verilerin (tablolar, veritabanları, elektronik tablolar vb.) anlamını ve ilişkilerini doğru şekilde kavrayamaz veya kullanamaz.
- Karmaşık PDF/yapılandırılmamış belge sınırlamaları(Complex PDFs): Karmaşık PDF belgelerinde (tablolar, çok sütunlu düzenler, görseller vb. içeren) chunking (bölme) sürecinde bilgiler kaybolabilir veya bağlam bozulabilir. Bu nedenle önemli veriler dizine eklenemeyebilir ya da aranması zorlaşabilir.
- Fallback (yedek) model eksikliği(Fallback Model(s)): RAG sistemi uygun bir yanıt bulamadığında alternatif (yedek) modele geçiş mantığı yetersiz veya verimsizdir. Bu nedenle yanıt başarısız olduğunda kullanıcıya tatmin edici bir alternatif sunulamaz.
- Güvenlik açıkları(LLM Security): LLM'nin kendisindeki güvenlik açıklarına (prompt injection, veri sızıntısı vb.) karşı koruma yetersiz olduğundan hassas bilgilerin açığa çıkma riski vardır.
- Ölçeklenebilirlik eksikliği(Data Ingestion Scalability): Büyük miktardaki verilerin dizine eklenmesi ve depolanması sırasında ölçeklenebilirlik sorunları ortaya çıkar. Veri miktarı arttıkça chunking, depolama ve arama hızları düşer, sistem yükü artar.
- Önemli bilgilerin eksik olması(Missing Content): Belgelerdeki önemli içerikler chunking sürecinde sıklıkla kaybolur veya dizine eklenmez. Bu nedenle kullanıcı istediği bilgileri arayamaz.
- Üst sıralardaki sonuçların kaçırılması(Missed Top Ranked): Arama sonuçlarında gerçekte en alakalı chunk (üst sıralardaki sonuç) eksik olabilir. Bunun nedenleri arasında arama algoritmasının sınırlamaları, embedding kalitesinin düşmesi ve sıralama hataları bulunur.
- Bağlam uyumsuzluğu (Not in Context): Aranan chunk çoğu zaman sorunun gerçek bağlamıyla uyuşmaz. Bunun nedeni, yalnızca benzerliğe dayalı aramanın sınırlamaları ve anlamsal bağlantının yetersiz olmasıdır.
- Biçim hatası (Wrong Format): Aranan chunk'ın biçimi LLM'nin işlemesi için uygun olmayabilir veya kullanıcının istediği yanıt biçiminden farklı olabilir. Örneğin, tablonun metne dönüştürülmesiyle bilgilerin bozulması gibi durumlar söz konusu olabilir.
- Bilgi çıkarma başarısızlığı (Not Extracted): Gerekli bilgiler chunk'tan doğru şekilde çıkarılamayabilir veya LLM bilgiyi algılayamayabilir. Bu durum karmaşık cümle yapılarında, tablolarda ve görsellerde sık görülür.
- Bilgi kapsamının/derinliğinin uygun olmaması (Incorrect Specificity): Yanıtın soru için fazla genel veya tam tersine aşırı spesifik olması nedeniyle kullanıcının gerçek gereksinimleriyle uyuşmayabilir. Bilginin kapsamını ve derinliğini ayarlamak zordur.
- Eksik yanıt (Incomplete): Sonuç olarak oluşturulan yanıt eksik olabilir veya yalnızca bazı bilgiler sunulduğundan kullanıcının gereksinimlerini yeterince karşılamayabilir. Bunun nedenleri arasında birden fazla chunk'taki bilgilerin birleştirilememesi veya LLM'nin bilgilerin yalnızca bir kısmını kullanması bulunur.
Bu nedenle RAG, basit vektör benzerliği aramasına ve chunk tabanlı indekslemeye aşırı derecede bağımlı olduğundan, gerçek iş süreçlerinde güvenilirlik, ölçeklenebilirlik ve doğruluk açısından belirgin sınırlamalara sahiptir.
2. RAG'nin sınırlamalarını aşan CLEVI Semantic Database
CLEVI, bu sınırlamaların üstesinden gelmek için anlamsal bağlantı, karmaşık çıkarım ve kanıta dayalı yanıtlar için optimize edilmiş yeni nesil AI bilgi altyapısı olan Clevi Semantic Database'i geliştirdi.
Kendi Reasoning modellerine, multimodal AI ve ajan tabanlı AI modellerine sahip olması sayesinde mümkün olan bu çözüm, AI'ın gerçek dünyada gerçekten faydalı olmasını sağlayan CLEVI'ye özgü güçlü teknolojilerden biridir.
Bir benzetme yapmak gerekirse, bilgilerin depolandığı veritabanını bir kütüphane olarak düşünürsek, CLEVI'nin anlamsal veritabanını da çok yetkin bir kütüphaneci olarak düşünebiliriz. (Kütüphaneciden ihtiyaç duyduğunuz bilgileri istediğinizde doğru ve hızlı yanıtlar alabilirsiniz.)
Kullanıcılar kütüphaneye istedikleri zaman yeni bilgiler ekleyebilir ve ihtiyaç duydukları bilgileri çağırabilir.
Ayrıca verilerin sürüm yönetimini ve erişim izinlerini de istedikleri şekilde ayarlayabilirler.
Kütüphanecinin tüm işlemleri günlüklerde (kayıtlarda) tutulduğu için bir hata meydana gelse bile düzeltilebilir.
<Clevi Semantic Database Structure>
Temel özellikler ve teknik yapı
Anlamsal veri depolama
- Basit bir chunk vektör DB'si yerine, veriler arasındaki anlamsal ilişkileri (bağlam, hiyerarşi, nedensellik vb.) grafik DB'sinde depolar
- Bilgi grafiği/anlamsal ağ biçiminde genişletilmesi ve tamamlanması kolaydır
Hibrit arama ve çıkarım
- CTA+Context Query: Sorgunun bağlamını (Context) ve CTA'yı birlikte dikkate alır
- Hybrid Retrieval: Vektör benzerliği + kural/grafik tabanlı aramayı birleştirir
- Intelligent Folder Hits: Anlamsal olarak ilişkili klasörleri/kategorileri otomatik olarak keşfeder
Eş zamanlı multimodal işleme
- TextReader Pool, VisionReader Pool gibi metin, görüntü, tablo, ses vb. çeşitli verileri eş zamanlı olarak yorumlar
- Mevcut RAG çoğunlukla yalnızca metin işleyebilirken, anlamsal veritabanı multimodal işleme konusunda üstündür
Kanıta dayalı yanıtlar ve güvenilirlik doğrulaması
- Belge Özetleri ve Atıflar, Tablo Bulguları vb. belge özetleri ve kaynakların otomatik oluşturulması
- Birleştir ve Doğrula: Birden çok kaynaktaki bilgilerin anlamsal olarak birleştirilmesi ve güvenilirliğinin doğrulanması
- Kanıt Paketi: Kanıta dayalı yanıt paketlerinin sunulması
Karmaşık akıl yürütme ve planlayıcı
- Planlayıcı/DAG: Karmaşık sorgular için adım adım planlama ve DAG (Directed Acyclic Graph) tabanlı akıl yürütme
Entegre aracı yapısı
- cip-5-agent Supervisor: Tüm arama/akıl yürütme/entegrasyon sürecini yöneten ve koordine eden en üst düzey aracı
3. Yapı özeti ve karşılaştırması
Özetle Semantic DB, ses, metin, görüntü ve video gibi çeşitli biçimlerdeki verileri alarak bunları basit Chunk'lar olarak değil, veriler arasındaki anlamsal ilişkileri (bağlam, hiyerarşi, nedensellik vb.) de birbirine bağlayarak sınıflandırır.
Buna dayanarak, RAG'deki gibi anahtar kelime/benzerlik tabanlı arama yerine anlamsal bağlantılardan yararlanarak arama ve akıl yürütme gerçekleştirdiği için AI'dan daha doğru bilgi arama sonuçları ve yanıtlar elde edebilirsiniz.
Ayrıca bilgi grafiği/semantik ağ biçiminde depolandığından sürekli olarak genişletilmesi ve tamamlanması kolaydır.
Clevi olarak, AI dönüşümü çağında RAG sistemlerinin sınırlarını keşfettik ve bunları çözebilen anlamsal veritabanı ile özel AI modellerimiz sayesinde müşterilerimize daha doğru ve güvenilir verileri hızlı bir şekilde sunabilir hâle geldik.
Clevi'nin AI sistemi, her türlü ortamda ve alan türünden bağımsız olarak müşterilerimizin değerli verilerini değerli hâle getirebilir.
Clevi olarak bundan sonra da müşterilerimizin verilerinin değerini en üst düzeye çıkarmak ve yenilikçi bir AI deneyimi sunmak için elimizden geleni yapacağız.
Clevi ile AI'ın yeni geleceğini deneyimlemenizi dileriz.
İletişim ve demo talebi: [email protected]
Copyright© 2025 Clevi Inc. All rights reserved.