1. Абмежаванні Catastrophic Forgetting і RAG
Калі ШІ ўкараняецца ў рэальную працу, адной з самых вялікіх праблем з'яўляецца з'ява катастрафічнага забывання (Catastrophic Forgetting), якая ўзнікае пры далейшым навучанні ўжо засвоеных ведаў на новых даных.
Гэта з'ява, пры якой нейрасеткавы ШІ ў працэсе вывучэння новай інфармацыі рэзка губляе раней засвоеныя веды або шаблоны.
Напрыклад, калі правесці далейшае навучанне LLM з адкрытым зыходным кодам на даных пэўнай кампаніі, могуць пагоршыцца агульныя веды або моўныя здольнасці.
Каб пазбегнуць гэтай праблемы, шырока выкарыстоўваецца тэхналогія RAG (Retrieval-Augmented Generation), але RAG таксама мае свае абмежаванні.
Асноўныя абмежаванні RAG
- Недастатковая апрацоўка структураваных даных (Structured Data QA): сістэмы RAG у асноўным аптымізаваныя для неструктураваных тэкставых дакументаў, таму яны не могуць належным чынам зразумець або выкарыстаць сэнс і ўзаемасувязі структураваных даных (табліц, баз даных, электронных табліц і г.д.).
- Абмежаванні складаных PDF/неструктураваных дакументаў (Complex PDFs): у працэсе chunking (раздзялення) складаных PDF-дакументаў (з табліцамі, некалькімі калонкамі, выявамі і г.д.) інфармацыя можа губляцца або кантэкст можа скажацца. У выніку важныя даныя могуць не індэксавацца або іх становіцца цяжка шукаць.
- Адсутнасць Fallback (рэзервовай) мадэлі (Fallback Model(s)): калі сістэма RAG не знаходзіць належны адказ, логіка пераключэння на альтэрнатыўную (рэзервовую) мадэль можа быць недастатковай або неэфектыўнай. У выніку пры няўдалым адказе карыстальніку не прапануецца прымальная альтэрнатыва.
- Уразлівасці бяспекі (LLM Security): абарона ад уразлівасцяў бяспекі самой LLM (ін'екцый падказак, уцечкі даных і г.д.) можа быць недастатковай, што стварае рызыку раскрыцця канфідэнцыйнай інфармацыі.
- Недастатковая маштабаванасць (Data Ingestion Scalability): пры індэксацыі і захоўванні вялікіх аб'ёмаў даных узнікаюць праблемы з маштабаванасцю. Чым больш даных, тым больш зніжаюцца хуткасці chunking, захоўвання і пошуку, а нагрузка на сістэму павялічваецца.
- Прапуск важнай інфармацыі (Missing Content): важны змест дакумента часта губляецца ў працэсе chunking або не індэксуецца. У выніку карыстальнік не можа знайсці патрэбную інфармацыю.
- Прапуск верхняга рангу (Missed Top Ranked): у выніках пошуку можа адсутнічаць chunk, які на самай справе мае найбольшую адпаведнасць (верхні ранг). Прычынамі могуць быць абмежаванні алгарытму пошуку, нізкая якасць эмбедынгаў, памылкі ранжыравання і г.д.
- Неадпаведнасць кантэксту (Not in Context): знойдзены chunk часта не адпавядае кантэксту рэальнага пытання. Гэта абмежаванне пошуку на аснове простага падабенства, якому не хапае сэнсавай сувязнасці.
- Памылковы фармат (Wrong Format): фармат знойдзенага chunk можа быць непрыдатным для апрацоўкі LLM або адрознівацца ад фармату адказу, якога хоча карыстальнік. Напрыклад, табліца можа быць пераўтворана ў тэкст, што прыводзіць да скажэння інфармацыі.
- Збой здабывання інфармацыі (Not Extracted): патрэбная інфармацыя можа быць неналежным чынам вынятая з chunk або LLM можа не распазнаць яе. Такое часта адбываецца са складанымі структурамі сказаў, табліцамі, выявамі і г.д.
- Недапушчальны аб'ём/глыбіня інфармацыі (Incorrect Specificity): адказ можа быць занадта агульным адносна пытання або, наадварот, празмерна канкрэтным і таму не адпавядаць рэальным патрэбам карыстальніка. Цяжка наладзіць аб'ём і глыбіню інфармацыі.
- Няпоўны адказ (Incomplete): у выніку згенераваны адказ можа быць няпоўным або змяшчаць толькі частку інфармацыі, таму не задавальняць патрэбы карыстальніка ў поўнай меры. Прычынамі могуць быць няздольнасць аб'яднаць інфармацыю з некалькіх chunk або выкарыстанне LLM толькі яе часткі.
Такім чынам, паколькі RAG празмерна залежыць ад простага пошуку вектарнага падабенства і індэксацыі на аснове chunk, яго абмежаванні з пункту гледжання надзейнасці, маштабаванасці і дакладнасці ў рэальнай працы становяцца відавочнымі.
2. Семантычная база даных Clevi, якая пераадольвае абмежаванні RAG
Каб пераадолець гэтыя абмежаванні, Clevi распрацавала інфраструктуру ведаў для AI новага пакалення — аптымізаваную для семантычнай сувязнасці, складанага лагічнага вывядзення і адказаў на аснове доказаў, Clevi Semantic Database.
Гэта рашэнне стала магчымым дзякуючы таму, што кампанія мае ўласныя Reasoning-мадэлі, мультымадальны AI і агентныя AI-мадэлі, і яно з'яўляецца адной з магутных унікальных тэхналогій Clevi, якія дазваляюць AI сапраўды дапамагаць у рэальным свеце.
Калі параўнаць базу даных, у якой захоўваецца інфармацыя, з бібліятэкай, то семантычную базу даных Clevi можна ўявіць як надзвычай здольнага бібліятэкара. (Калі папрасіць бібліятэкара знайсці патрэбную інфармацыю, можна атрымаць дакладны і хуткі адказ.)
Карыстальнік можа ў любы час дадаваць новую інфармацыю ў бібліятэку і атрымліваць неабходныя звесткі.
Акрамя таго, можна задаваць кіраванне версіямі даных і правы доступу на свой густ.
Усе дзеянні бібліятэкара захоўваюцца ў выглядзе журнала (запісу), таму нават у выпадку памылкі яе можна выправіць.
<Clevi Semantic Database Structure>
Асноўныя асаблівасці і тэхналагічная структура
Семантычнае захоўванне даных
- Захоўванне семантычнай сувязі паміж данымі (кантэксту, іерархіі, прычыннасці і інш.) у графавай базе даных, а не ў простай вектарнай БД на аснове chunk
- Лёгка пашыраць і дапаўняць у форме графа ведаў/семантычнай сеткі
Гібрыдны пошук і лагічнае вывядзенне
- CTA+Context Query: адначасовы ўлік кантэксту (Context) запыту і CTA
- Hybrid Retrieval: спалучэнне пошуку на аснове вектарнага падабенства і пошуку на аснове правіл/графаў
- Intelligent Folder Hits: аўтаматычны пошук семантычна звязаных папак/катэгорый
Адначасовая мультымадальная апрацоўка
- TextReader Pool, VisionReader Pool і адначасовая інтэрпрэтацыя розных даных, у тым ліку тэксту, выяваў, табліц і голасу
- У адрозненне ад звычайнага RAG, які пераважна апрацоўвае толькі тэкст, семантычная база даных выдатна спраўляецца з мультымадальнай апрацоўкай
Адказы на аснове доказаў і праверка надзейнасці
- Аўтаматычнае стварэнне рэзюмэ дакументаў і цытат, высновы з табліц і інш.
- Аб’яднанне і праверка: семантычная інтэграцыя інфармацыі з некалькіх крыніц і праверка яе надзейнасці
- Пакет доказаў: прадастаўленне пакета адказаў на аснове доказаў
Складанае лагічнае вывядзенне і планіроўшчык
- Planner/DAG: паэтапнае планаванне і лагічнае вывядзенне на аснове DAG (Directed Acyclic Graph) для складаных запытаў
Архітэктура інтэграванага агента
- cip-5-agent Supervisor: найвышэйшы агент, які кіруе і каардынуе ўвесь працэс пошуку, лагічнага вывядзення і інтэграцыі
3. Структурнае рэзюмэ і параўнанне
Падсумоўваючы, Semantic DB прымае даныя розных формаў (голас, тэкст, выявы, відэа і інш.) і класіфікуе веды, звязваючы не толькі асобныя фрагменты, але і семантычныя сувязі паміж данымі (кантэкст, іерархія, прычыннасць і інш.).
Дзякуючы гэтаму пошук і лагічнае вывядзенне ажыццяўляюцца з выкарыстаннем семантычнай сувязнасці, а не пошуку на аснове ключавых слоў або падабенства, як у RAG, што дазваляе атрымліваць ад AI больш дакладны пошук інфармацыі і адказы.
Акрамя таго, паколькі даныя захоўваюцца ў форме графа ведаў або семантычнай сеткі, іх лёгка пастаянна пашыраць і дапаўняць.
Кампанія Clevi выявіла абмежаванні сістэм RAG у эпоху вялікай трансфармацыі AI і дзякуючы семантычнай базе даных і ўласнай AI-мадэлі, здольным іх вырашыць, цяпер можа хутка прадастаўляць кліентам больш дакладныя і надзейныя даныя.
AI-сістэма Clevi здольная ў любым асяроддзі, незалежна ад тыпу дамена, ператвараць каштоўныя даныя кліентаў у карысную каштоўнасць.
І надалей Clevi будзе рабіць усё магчымае, каб максімальна раскрываць каштоўнасць даных кліентаў і прадастаўляць інавацыйны AI-досвед.
Запрашаем вас разам з Clevi адкрыць для сябе будучыню новага AI.
Кантакты і запыт на дэманстрацыю: [email protected]
Copyright© 2025 Clevi Inc. Усе правы абаронены.