1. Keterbatasan Catastrophic Forgetting dan RAG
Saat AI diterapkan dalam pekerjaan nyata, salah satu kekhawatiran terbesar adalah fenomena catastrophic forgetting (Catastrophic Forgetting) ketika pengetahuan yang telah dipelajari sebelumnya disesuaikan dengan data baru melalui fine-tuning.
Ini adalah fenomena ketika AI berbasis jaringan saraf secara drastis kehilangan pengetahuan atau pola yang telah dipelajari sebelumnya dalam proses mempelajari informasi baru.
Sebagai contoh, jika LLM open-source di-fine-tune dengan data perusahaan tertentu, pengetahuan umum atau kemampuan berbahasanya dapat menurun.
Untuk menghindari masalah ini, teknologi RAG (Retrieval-Augmented Generation) banyak digunakan, tetapi RAG juga memiliki keterbatasan.
Keterbatasan utama RAG
- Pemrosesan data terstruktur yang tidak memadai (Structured Data QA): Sistem RAG terutama dioptimalkan untuk dokumen teks tidak terstruktur, sehingga tidak dapat memahami atau memanfaatkan makna dan hubungan dalam data terstruktur (tabel, basis data, spreadsheet, dan sebagainya) dengan baik.
- Keterbatasan PDF kompleks/dokumen tidak terstruktur (Complex PDFs): Dokumen PDF kompleks (yang mencakup tabel, beberapa kolom, gambar, dan sebagainya) dapat mengalami kehilangan informasi atau distorsi konteks selama proses chunking (pemecahan). Akibatnya, data penting mungkin tidak terindeks atau sulit dicari.
- Tidak adanya model Fallback (Fallback Model(s)): Saat sistem RAG tidak dapat menemukan jawaban yang sesuai, logika untuk beralih ke model alternatif (cadangan) mungkin tidak memadai atau tidak efisien. Akibatnya, alternatif yang memuaskan bagi pengguna tidak tersedia ketika jawaban gagal diberikan.
- Kerentanan keamanan (LLM Security): Pertahanan terhadap kerentanan keamanan LLM itu sendiri (seperti injeksi prompt dan kebocoran data) tidak memadai, sehingga terdapat risiko terungkapnya informasi sensitif.
- Kurangnya skalabilitas (Data Ingestion Scalability): Masalah skalabilitas dapat terjadi selama proses pengindeksan dan penyimpanan data dalam jumlah besar. Seiring bertambahnya data, kecepatan chunking, penyimpanan, dan pencarian menurun, sementara beban sistem meningkat.
- Hilangnya informasi penting (Missing Content): Konten penting dalam dokumen sering kali hilang selama proses chunking atau tidak terindeks. Akibatnya, pengguna tidak dapat mencari informasi yang diinginkan.
- Tidak ditemukannya peringkat teratas (Missed Top Ranked): chunk yang sebenarnya paling relevan (peringkat teratas) dapat tidak muncul dalam hasil pencarian. Penyebabnya antara lain keterbatasan algoritme pencarian, penurunan kualitas embedding, dan kesalahan pemeringkatan.
- Ketidaksesuaian konteks (Not in Context): chunk yang ditemukan sering kali tidak sesuai dengan konteks pertanyaan yang sebenarnya. Hal ini disebabkan oleh keterbatasan pencarian berbasis kemiripan sederhana, yang tidak memiliki keterkaitan semantik yang memadai.
- Kesalahan format (Wrong Format): Format chunk yang ditemukan mungkin tidak sesuai untuk diproses oleh LLM atau berbeda dari format jawaban yang diinginkan pengguna. Misalnya, tabel diubah menjadi teks sehingga informasi mengalami distorsi.
- Kegagalan ekstraksi informasi (Not Extracted): Informasi yang diperlukan mungkin tidak diekstrak dengan baik dari chunk, atau LLM mungkin tidak mengenali informasi tersebut. Hal ini sering terjadi pada struktur kalimat yang kompleks, tabel, gambar, dan sebagainya.
- Cakupan/kedalaman informasi yang tidak sesuai (Incorrect Specificity): Jawaban mungkin terlalu umum atau, sebaliknya, terlalu spesifik terhadap pertanyaan, sehingga tidak sesuai dengan kebutuhan pengguna yang sebenarnya. Penyesuaian cakupan dan kedalaman informasi sulit dilakukan.
- Jawaban tidak lengkap (Incomplete): Jawaban yang dihasilkan pada akhirnya mungkin tidak lengkap atau hanya memberikan sebagian informasi, sehingga tidak sepenuhnya memenuhi kebutuhan pengguna. Penyebabnya antara lain kegagalan menggabungkan informasi dari beberapa chunk atau LLM hanya memanfaatkan sebagian informasi.
Dengan ketergantungan yang berlebihan pada pencarian kemiripan vektor sederhana dan pengindeksan berbasis chunk, RAG memiliki keterbatasan yang jelas dalam hal keandalan, skalabilitas, dan akurasi di lingkungan kerja nyata.
2. Clevi Semantic Database yang mengatasi keterbatasan RAG
Untuk mengatasi keterbatasan tersebut, CLEVI mengembangkan infrastruktur pengetahuan AI generasi berikutnya, Clevi Semantic Database, yang dioptimalkan untuk koneksi semantik, penalaran kompleks, dan respons berbasis bukti.
Solusi ini dimungkinkan karena CLEVI memiliki Reasoning model, AI multimodal, dan model AI berbasis agen secara mandiri, serta merupakan salah satu teknologi kuat khas CLEVI yang memungkinkan AI benar-benar membantu dalam kehidupan nyata.
Sebagai analogi, jika database tempat informasi disimpan diibaratkan sebagai perpustakaan, Clevi Semantic Database dapat dianggap memiliki pustakawan yang sangat andal. (Jika Anda meminta informasi yang diperlukan kepada pustakawan, Anda dapat menerima respons yang akurat dan cepat.)
Pengguna dapat menambahkan informasi baru ke perpustakaan dan mengambil informasi yang diperlukan kapan saja.
Selain itu, manajemen versi data dan hak akses juga dapat diatur sesuai keinginan.
Karena semua tindakan pustakawan dicatat dalam log (rekaman), tindakan tersebut dapat diperbaiki jika terjadi kesalahan.
<Clevi Semantic Database Structure>
Fitur utama dan struktur teknologi
Penyimpanan data semantik
- Menyimpan hubungan semantik antar data (konteks, hierarki, kausalitas, dan lain-lain) dalam database graf, bukan sekadar vector DB berbasis chunk
- Mudah diperluas dan dilengkapi dalam bentuk knowledge graph/jaringan semantik
Pencarian dan penalaran hibrida
- CTA+Context Query: Mempertimbangkan konteks (Context) kueri dan CTA secara bersamaan
- Hybrid Retrieval: Menggabungkan kemiripan vektor dengan pencarian berbasis aturan/graf
- Intelligent Folder Hits: Menjelajahi folder/kategori yang terkait secara semantik secara otomatis
Pemrosesan multimodal secara bersamaan
- Menafsirkan berbagai jenis data secara bersamaan, seperti teks, gambar, tabel, dan suara, menggunakan TextReader Pool, VisionReader Pool, dan lainnya
- RAG yang ada umumnya hanya dapat memproses teks, sedangkan Clevi Semantic Database memiliki kemampuan pemrosesan multimodal yang unggul
Respons berbasis bukti dan verifikasi keandalan
- Ringkasan Dokumen & Sitasi, Temuan Tabel, dan lain-lain—pembuatan ringkasan dokumen dan sumber secara otomatis
- Merge & Verify: integrasi semantik dan verifikasi keandalan informasi dari berbagai sumber
- Evidence Pack: penyediaan paket respons berbasis bukti
Penalaran kompleks dan perencana
- Planner/DAG: perencanaan bertahap dan penalaran berbasis DAG (Directed Acyclic Graph) untuk kueri kompleks
Struktur agen terintegrasi
- Supervisor cip-5-agent: agen tingkat tertinggi yang mengelola dan mengoordinasikan seluruh proses pencarian/penalaran/integrasi
3. Ringkasan dan perbandingan struktur
Singkatnya, Semantic DB menerima data dalam berbagai bentuk (suara, teks, gambar, video, dan lain-lain) sebagai input, lalu mengklasifikasikan pengetahuan dengan menghubungkan bukan hanya Chunk sederhana, tetapi juga hubungan semantik antardata (konteks, hierarki, sebab-akibat, dan lain-lain).
Berdasarkan hal ini, karena melakukan pencarian dan penalaran dengan memanfaatkan koneksi semantik, bukan pencarian berbasis kata kunci/kemiripan seperti RAG, Anda dapat memperoleh pencarian informasi dan jawaban yang lebih akurat dari AI.
Selain itu, karena disimpan dalam bentuk knowledge graph/semantic network, perluasan dan penyempurnaan secara berkelanjutan dapat dilakukan dengan mudah.
CLEVI menemukan keterbatasan sistem RAG di era transformasi besar AI, dan melalui semantic database serta model AI proprietari yang dapat mengatasi keterbatasan tersebut, kami kini dapat memberikan data yang lebih akurat dan andal kepada pelanggan dengan cepat.
Sistem AI CLEVI dapat membuat data berharga milik pelanggan menjadi bernilai, apa pun lingkungannya dan terlepas dari jenis domainnya.
Ke depannya, CLEVI akan terus berupaya semaksimal mungkin untuk memaksimalkan nilai data pelanggan dan memberikan pengalaman AI yang inovatif.
Silakan rasakan masa depan AI yang baru bersama CLEVI.
Pertanyaan dan permintaan demo: [email protected]
Copyright© 2025 Clevi Inc. All rights reserved.