Sıfırdan Təməl Model 클레비 AI(ivy)

“Kiçik bir şirkət necə dünyanın ən yüksək səviyyəli nəhəng süni intellekt dil modelini yarada bildi?”

Kiçik bir startap nəhəng dil modelini necə yaratdı?

클레비 1,4 trilyon parametr miqyaslı Təməl modelini təqdim etdikdən sonra bu, ən çox verilən sual oldu.

Bir çox şirkətin açıq mənbəli modelləri sadəcə incə tənzimləməsindən fərqli olaraq, 클레비 məlumatların toplanmasından modelin dizaynına, genişmiqyaslı paylanmış təlimdən keyfiyyətin yoxlanılmasına qədər bütün prosesləri müstəqil şəkildə həyata keçirib.

Bu sirri və rəqabət üstünlüklərini aşağıda ətraflı təqdim edirik.

1. Kiçik bir şirkət nəhəng dil modeli yaradır?

2025-ci ilin iyulunda 클레비 tərəfindən hazırlanmış nəhəng dil modeli bazara təqdim ediləndə, saysız-hesabsız müştərilər (istifadəçilər) təəccüb və şübhə içində qaldılar. “Bu, həqiqətən də özlərinin hazırladığı modeldir?” “Açıq mənbəli modeli bir qədər dəyişdiriblər?”

Əslində, yerli və xarici bir çox şirkət yalnız açıq mənbəli modellərə sadə transfer təlimi (fine-tuning) tətbiq edir və bunu öz modelləri kimi tanıdır.

Lakin 클레비 **‘Sıfırdan Təməl Model’** yanaşmasını irəli sürdü.

Yəni məlumatların toplanmasından modelin dizaynına, genişmiqyaslı paylanmış təlimdən keyfiyyətin yoxlanılmasına qədər bütün prosesləri birbaşa özü dizayn edib həyata keçirdi.

2. Nəhəng dil modelinin hazırlanmasının çətin olmasının səbəbləri

Sıfırdan Təməl Modeli öyrətmək üçün aşağıdakı bütün istiqamətlər üzrə təlim keçirmək lazımdır.

Böyük həcmli, yüksək keyfiyyətli verilənlər toplusu lazımdır

• Müxtəliflik: dil, domen və format (mətn, şəkil və s.) baxımından müxtəlifliyin təmin edilməsi
• Təmizləmə: səs-küyün aradan qaldırılması, keyfiyyətə nəzarət, dublikat/zərərli məlumatların filtrlənməsi
• Lisenziya: müəllif hüquqlarının və məlumatlardan istifadə hüququnun aydınlaşdırılması

Genişmiqyaslı hesablama infrastrukturu

• Yüksək performanslı GPU/TPU klasteri: minlərlə və on minlərlə qovşaqdan ibarət avadanlığı birləşdirərək böyük həcmli paylanmış təlimi dəstəkləyən texnologiya
• Səmərəli paylanmış təlim çərçivələri: DeepSpeed, Megatron-LM, Ray və s.
• Saxlama/şəbəkə: böyük həcmli məlumatların giriş-çıxışı və yüksək sürətli şəbəkə mühiti

Model arxitekturasının dizaynı

• Ən son arxitekturaların tətbiqi: Transformer, MoE (Mixture of Experts), multimodal və s.
• Miqyaslana bilmə: Parametrlərin sayı, layların sayı, giriş uzunluğu və s. üzrə genişlənmə imkanlarının nəzərə alınması
• Səmərəlilik: Təlim və inferens sürətinin, yaddaş istifadəsinin optimallaşdırılması

Təlim strategiyaları və alqoritmlər

• Ön təlim məqsədi: Dil modeli (məsələn, next token prediction), multimodal (məsələn, contrastive learning) və s.
• Optimallaşdırma üsulları: mixed precision, gradient accumulation, learning rate schedule və s.
• Normallaşdırma/stabilləşdirmə: dropout, layer norm, weight decay və s.

Qiymətləndirmə və yoxlama sistemi

• Benchmark dəsti: Standart verilənlər bazalarından (Benchmarks) istifadə
• Daxili qiymətləndirmə: Real istifadə ssenariləri əsasında qiymətləndirmə
• Davamlı monitorinq: Təlim zamanı və sonrasında keyfiyyətin, qərəzliliyin və təhlükəsizliyin yoxlanılması

İnsan resursları və təşkilati potensial

• AI/ML tədqiqatçıları: Model dizaynı, alqoritmlərin hazırlanması
• Məlumat mühəndisləri: Məlumatların toplanması/təmizlənməsi/idarə edilməsi
• İnfrastruktur mühəndisləri: Paylanmış sistemlərin, bulud/on-premises infrastrukturunun idarə edilməsi
• Layihə menecerləri: Müddət, büdcə və keyfiyyətin idarə edilməsi

Etik, hüquqi və təhlükəsizlik məsələləri

• AI etikası: Qərəzlilik, təhlükəsizlik, şəffaflıq, məsuliyyətlilik
• Hüquqi uyğunluq: Şəxsi məlumatlar, müəllif hüquqları, məlumat suverenliyi
• Təhlükəsizlik: Məlumatların və modellərin sızmasının qarşısının alınması, girişə nəzarət

Hazırda bütün dünyada AI tədqiqatçıları təxminən 2 000 nəfər səviyyəsindədir və onların da əksəriyyəti META, Google, XAI kimi böyük texnologiya şirkətlərində cəmləşib. Cənubi Koreyada məlumatların toplanmasından tutmuş böyükmiqyaslı təlim infrastrukturuna qədər hər şeyi özü layihələndirərək Foundation modeli yarada bilən komandalar olduqca azdır.

3. Az sayda işçi qüvvəsi ilə nəhəng dil modeli yaratmaq.

Clevi şirkətinin rəhbəri Li Hvanho 10 ildən artıq dərin öyrənmə və maşın öyrənməsi üzrə tədqiqat təcrübəsinə əsaslanaraq, 3 il əvvəl “dünyanın ən yaxşı AI sistemini yaradacağam” məqsədi ilə şirkəti (Clevi) təsis etdi.

Şirkətin öz məlumat boru kəmərinin qurulması, böyükmiqyaslı paylanmış dərin öyrənmə infrastrukturunun layihələndirilməsi, model arxitekturasının hazırlanması, keyfiyyətin yoxlanılması və digər bütün prosesləri birbaşa layihələndirərək Foundation Modelinin hazırlanması üçün zəruri potensiala yiyələndi.

Modeli dəfələrlə təlim etdikdən sonra hazırda dünyanın ən yüksək səviyyəli modelləri ilə rəqabət apara bilən Clevi-5-x modelinə sahibdir.

Nəhəng dil modellərini effektiv şəkildə öyrətmək üçün yüzlərlə, hətta minlərlə GPU-nu klasterə birləşdirərək saniyədə kvadrilyonlarla əməliyyatı eyni vaxtda emal edə bilən infrastruktur tələb olunur. Bu prosesdə genişmiqyaslı paylanmış mühitdə hesablamaların sinxronlaşdırılmasını və kommunikasiya gecikməsini minimuma endirən texnologiyalar əsas əhəmiyyət daşıyır. İndiyədək ölkə daxilində “dəqiq idarəetmə alqoritmi” olmadığından, əksər şirkətlər modelləri lazımi səviyyədə öyrədə bilməyiblər. Clevi şirkətinin baş direktoru Li Hvan-ho bu unikal paylanmış hesablama idarəetmə alqoritmini müstəqil şəkildə inkişaf etdirərək, ölkədə ilk dəfə 1,4 trilyon (1.4 Trillion) parametr həcmində nəhəng dil modelinin öyrədilməsinə nail olub.

4. Az sayda tərtibatçı ilə müxtəlif modellərin inkişaf etdirilməsinin səbəbi

Əksər böyük texnologiya şirkətləri də genişmiqyaslı infrastrukturun idarə edilməsi və məlumatların təmizlənməsi texnologiyalarına malikdir.

Bunu idarə etmək üçün yüzlərlə və ya minlərlə tədqiqatçıya ehtiyac var.

Lakin Clevi az sayda tədqiqatçı ilə müxtəlif modellər inkişaf etdirir və onlara sahibdir.

Bu necə mümkün olub?

Clevi Teacher-Student Model (Knowledge Distilation) texnologiyası vasitəsilə az sayda əməkdaşla müxtəlif modellər inkişaf etdirir və onlara sahibdir.

Elə isə Teacher-Student texnologiyasına nəzər salaq.

Teacher-Student (Bilik distillasiyası)

Teacher-Student texnologiyası sadə desək, nəhəng dil modeli (Teacher Model) vasitəsilə törəmə modeli (Student Model) qiymətləndirib ona rəy bildirməklə, az sayda əməkdaşla yüzlərlə tədqiqatçını əvəz edərək müxtəlif modelləri sürətlə inkişaf etdirməyə imkan verən texnologiyadır.

• Mother Model (nəhəng model) müxtəlif sahələr üzrə modelləri qiymətləndirir və onlara rəy bildirərək yüzlərlə tədqiqatçını əvəz edir.
• Bu üsulla Clevi-x-platform vasitəsilə öyrənmə prosesi aparılarsa, Reasoning, VLM, Physical AI, Coding Agent və digər yüksək performanslı modelləri 10–15 gün ərzində öyrədib tətbiqə buraxmaq mümkündür.

Clevi Coding Agent

Clevi Phsycal AI Learning Platform

VLM-Vision Language Model

Təhlükəsizlik agenti

5. Clevi-x-platform texnologiya və keyfiyyət baxımından fərqləndirici xüsusiyyətləri

Model performansı və miqyaslana bilməsi

• Məntiqi nəticə çıxarma (CoT/Reasoning) üstünlüyü: cip-5-x mərhələli məntiqi əsaslandırmanı və dəlillərin təqdim edilməsini dizayn fəlsəfəsinə daxil edir, elmi, riyazi və mühəndislik problemlərinin həllində yüksək etibarlılığa malik hesablama və şərh etmə qabiliyyəti nümayiş etdirir. Daxili bençmarklar əsasında GPT-5 səviyyəsi və daha yüksək performans imkanlarını hədəfləyərək hazırlanır və idarə olunur; eyni prompt şərtlərində təkrarlana bilmə və yoxlanıla bilmə əsas keyfiyyət göstəriciləri kimi idarə edilir.

• Multimodal imkanların tam spektri: məqsədyönlü VLM (cip-5-vision), böyük həcmli multimodal emal modeli (ivy-4-mm) və yüngül, cihazdaxili (on-device) model (ivy-3-text) vahid platformada istehsal edilərək birləşdirilir və tapşırığın xüsusiyyətlərinə (axtarış/təsnifat/xülasə və ya nəticə çıxarma/izah/icra) uyğun optimal kombinasiya yaratmaq mümkündür.

Müəssisələrdə tətbiqolunma

• On-premise təhlükəsizlik və əlçatanlıq: qapalı şəbəkənin bütün mərhələlərində (giriş-təlim-xidmət-ehtiyat nüsxəsi) fəaliyyət, HA dizaynı, modulyar genişləndirmə və SVCE (təcrid olunmuş təhlükəsiz icra mühiti) vasitəsilə məlumatlar və model parametrləri ayrı-ayrılıqda qorunur.
• Sürətli tətbiq və genişləndirmə: Ivy Chat (işgüzar multimodal dialoq/agent) və API Platform (qlobal standart SaaS) vasitəsilə sürətli tətbiq və istismar dəstəklənir.

Fiziki AI (Physical AI) fərqləndirici xüsusiyyəti

• NVIDIA Isaac əsaslı simulyasiyanın və təkamülə əsaslanan gücləndirici öyrənmənin (Evolutionary RL) birləşdirilməsi, Sim2Real transferi və sintetik məlumatlarla paralel təlim sayəsində öyrənmə səmərəliliyi və real mühitə uyğunlaşma qabiliyyəti artırılıb. Rəqəmsal mühitdən robot texnikasında təlim və tətbiqədək bütün prosesi əhatə etməsi bu sahədə alternativlərin az olmasına səbəb olur.

Xidmət keyfiyyəti və idarəetmə

• Model, prompt və alət versiyalarının idarə edilməsi, qiymətləndirmə dəsti (yerli və ingilisdilli biliklər, sənaye üzrə tapşırıqlar, hallüsinasiya və təhlükəsizlik göstəriciləri), dəyişikliklərin idarə edilməsi (SLO/SLA) və istismar müşahidəsi (gecikmə, uğur dərəcəsi, TCO) vahid platforma proseduru çərçivəsində idarə edilir.

Hazırda Cənubi Koreyada təxminən 300-dən çox AI model xidməti şirkəti mövcuddur, lakin

yüksək performanslı, özünəməxsus foundation modelləri vasitəsilə həm on-premise, həm də bulud xidmətlərini eyni vaxtda təqdim edə bilən yeganə şirkət Clevi-dir.

6. Dil modellərindən sənayedə istifadə üsulları

AI tətbiqi böyük investisiya və hərtərəfli yoxlama tələb etdiyindən, bunun şirkətə həqiqətən fayda verən həll olub-olmadığını birbaşa müqayisə etmək və sınaqdan keçirmək vacibdir.

• Clevi sadəcə modellər yaratmaqla kifayətlənmir, real sənaye mühitində tətbiq oluna bilən süni intellekt həlləri təqdim edir.
• Məsələn, Ivy Chat Platform, Clevi API Platform, sənaye sahələri üzrə fərdiləşdirmə, təhlükəsizlik tələblərinə uyğunluq və digər korporativ kanalları tam şəkildə təmin edir.
• Fiziki süni intellekt, robototexnika, multimodal məlumatların emalı kimi ölkə daxilində və xaricdə nadir rast gəlinən texniki imkanlara malikdir.

Clevi süni intellekti “məqsəd” deyil, “vasitə” kimi qəbul edərək, real iş səmərəliliyinə və sənaye innovasiyasına töhfə verən praktiki süni intellekt həlləri təqdim edir.Əsl From-scratch Foundation modelinin fərqini birbaşa təcrübədən keçirin.

Sorğular və demo tələbi: [email protected]

Müəlliflik hüququ© 2025 Clevi Inc. Bütün hüquqlar qorunur.