From-scratch Foundation Model CLEVI AI(ivy)

“Küçük bir şirket nasıl dünya standartlarında devasa bir yapay zekâ dil modeli geliştirebildi?”

Küçük bir startup nasıl devasa bir dil modeli geliştirdi?

Bu, CLEVI'nin 1,4 trilyon parametre ölçeğindeki Foundation modelini duyurmasından sonra en sık aldığı sorudur.

Birçok şirket açık kaynak modelleri basitçe ince ayar yaparak kullanırken, CLEVI veri toplama, model tasarımı, büyük ölçekli dağıtık eğitim ve kalite doğrulama dahil tüm süreçleri bağımsız olarak yürütmüştür.

Bu başarının sırrını ve rekabet gücünü aşağıda ayrıntılı olarak açıklıyoruz.

1. Küçük bir şirket devasa bir dil modeli mi geliştiriyor?

Temmuz 2025'te CLEVI kendi geliştirdiği devasa dil modelini pazara sunduğunda, çok sayıda müşteri (kullanıcı) şaşkınlık ve şüpheyle karşıladı. “Gerçekten kendileri mi geliştirdi?” “Açık kaynak bir modeli biraz değiştirip sunmadılar mı?”

Gerçekte, yurt içinde ve yurt dışında birçok şirket yalnızca açık kaynak modellere transfer öğrenimi (fine-tuning) uygulamakta ve bunları kendi modelleri olarak tanıtmaktadır.

Ancak CLEVI, **‘From-scratch Foundation Model’** yaklaşımını benimsedi.

Başka bir deyişle, veri toplama, model tasarımı, büyük ölçekli dağıtık eğitim ve kalite doğrulama dahil tüm süreçleri kendisi tasarlayıp uyguladı.

2. Devasa dil modeli geliştirmek neden zordur?

From-Scratch Foundation Model'i eğitmek için aşağıdaki unsurların tümü üzerinde çalışılması gerekir.

Büyük ölçekli, yüksek kaliteli veri kümeleri gerekir

• Çeşitlilik: Dil, alan ve format (metin, görsel vb.) çeşitliliğinin sağlanması
• Arıtma: Gürültünün giderilmesi, kalite kontrolü, yinelenen/zararlı verilerin filtrelenmesi
• Lisans: Telif hakkı ve veri kullanım haklarının netleştirilmesi

Büyük ölçekli bilişim altyapısı

• Yüksek performanslı GPU/TPU kümeleri: Binlerce ila on binlerce düğümden oluşan ekipmanları entegre ederek büyük hacimli dağıtık eğitimi destekleyen teknoloji
• Verimli dağıtık eğitim çerçeveleri: DeepSpeed, Megatron-LM, Ray vb.
• Depolama/ağ: Büyük hacimli veri giriş-çıkışı ve yüksek hızlı ağ ortamı

Model mimarisi tasarımı

• Güncel mimarileri yansıtma: Transformer, MoE(Mixture of Experts), çok modlu yapı vb.
• Ölçeklenebilirlik: Parametre sayısı, katman sayısı, girdi uzunluğu gibi ölçeklenebilirlik unsurlarını dikkate alma
• Verimlilik: Eğitim/çıkarım hızını ve bellek kullanımını optimize etme

Eğitim stratejileri ve algoritmaları

• Ön eğitim hedefi: Dil modeli (ör. next token prediction), çok modlu yapı (ör. contrastive learning) vb.
• Optimizasyon teknikleri: mixed precision, gradient accumulation, learning rate schedule vb.
• Normalleştirme/kararlılık: dropout, layer norm, weight decay vb.

Değerlendirme ve doğrulama sistemi

• Karşılaştırma seti: Standart veri kümelerinden (Benchmarks) yararlanma
• Dahili değerlendirme: Gerçek kullanım senaryolarına dayalı değerlendirme
• Sürekli izleme: Eğitim sırasında/sonrasında kalite, önyargı ve güvenlik denetimi

İnsan kaynağı ve organizasyonel yetkinlik

• AI/ML araştırmacıları: Model tasarımı ve algoritma geliştirme
• Veri mühendisleri: Veri toplama/temizleme/yönetimi
• Altyapı mühendisleri: Dağıtık sistemler, bulut şirket içi altyapı yönetimi
• Proje yöneticileri: Takvim, bütçe ve kalite yönetimi

Etik, hukuk ve güvenlik hususları

• AI etiği: Önyargı, güvenlik, şeffaflık ve hesap verebilirlik
• Yasal uyumluluk: Kişisel veriler, telif hakları ve veri egemenliği
• Güvenlik: Veri/model sızıntısını önleme ve erişim kontrolü

Günümüzde dünya genelindeki AI araştırmacılarının sayısı yaklaşık 2.000 seviyesindedir ve bunların çoğu META, Google, XAI gibi büyük teknoloji şirketlerinde yoğunlaşmıştır. Ülke içinde veri toplamadan büyük ölçekli eğitim altyapısına kadar her şeyi doğrudan tasarlayarak bir Foundation model oluşturabilecek ekiplerin sayısı son derece azdır.

3. Az sayıda insanla devasa bir dil modeli oluşturmak.

CEO Lee Hwan-ho, 10 yılı aşkın derin öğrenme ve makine öğrenmesi araştırma deneyimine dayanarak, 3 yıl önce “dünyanın en iyi AI'ını oluşturma” hedefiyle şirketi (CLEVI) kurdu.

Şirketin kendi veri hattının oluşturulması, büyük ölçekli dağıtık derin öğrenme altyapısının tasarlanması, model mimarisinin geliştirilmesi ve kalite doğrulaması da dahil olmak üzere tüm süreçleri doğrudan tasarlayarak Foundation Model geliştirmek için gereken yetkinlikleri kazandı.

Modelleri birçok kez eğitmenin sonucunda, şu anda dünyanın en iyi modelleriyle rekabet edebilecek Clevi-5-x modeline sahibiz.

Büyük dil modellerini etkili bir şekilde eğitmek için yüzlerce ila binlerce GPU'yu bir kümede birbirine bağlayan ve saniyede katrilyonlarca hesaplamayı eş zamanlı olarak gerçekleştirebilen bir altyapı gereklidir. Bu süreçte, büyük ölçekli dağıtık ortamlarda hesaplama senkronizasyonu ve iletişim gecikmesini en aza indiren teknolojiler kritik önem taşır. Şimdiye kadar yurt içinde “hassas kontrol algoritmaları” bulunmadığından, çoğu şirket modelleri gerektiği gibi eğitememiştir. Clevi CEO'su Lee Hwan-ho, bu özgün dağıtık hesaplama kontrol algoritmasını kendi bünyesinde geliştirerek, yurt içinde ilk kez 1,4 trilyon (1.4 Trillion) parametre ölçeğinde büyük dil modeli eğitimini başarıyla tamamlamıştır.

4. Az sayıda geliştiriciyle çeşitli modeller geliştirebilmemizin nedeni

Çoğu büyük teknoloji şirketi de büyük ölçekli altyapı kontrolü ve veri arıtma teknolojilerine sahiptir.

Bunları yönetmek için yüzlerce ila binlerce araştırmacı gerekir.

Ancak Clevi, az sayıda araştırmacıyla çeşitli modeller geliştirip bünyesinde bulundurmaktadır.

Bu nasıl mümkün oldu?

Clevi, Teacher-Student Model(Knowledge Distilation) teknolojisi sayesinde az sayıda çalışanla çeşitli modeller geliştirmekte ve bünyesinde bulundurmaktadır.

Öyleyse Teacher-Student teknolojisine bir göz atalım.

Teacher-Student (Bilgi Damıtma)

Teacher-Student teknolojisi, basitçe ifade etmek gerekirse, büyük dil modeli (Teacher Model) aracılığıyla çocuk modeli (Student Model) değerlendirip geri bildirim sağlayarak, az sayıda çalışanla yüzlerce araştırmacının yerini alıp çeşitli modelleri hızla geliştirmeyi sağlayan bir teknolojidir.

• Mother Model (büyük model), çeşitli alanlardaki modelleri değerlendirip geri bildirim sağlayarak yüzlerce araştırmacının yerini alır.
• Bu yöntemle Clevi-x-platform üzerinden eğitim gerçekleştirildiğinde Reasoning, VLM, Physical AI, Coding Agent gibi yüksek performanslı modeller 10-15 gün içinde eğitilip dağıtıma alınabilir.

Clevi Coding Agent

Clevi Phsycal AI Learning Platform

VLM-Görsel Dil Modeli

Güvenlik aracısı

5. Clevi-x-platform teknolojik ve kalite farklılıkları

Model performansı ve ölçeklenebilirlik

• Çıkarım (CoT/Reasoning) üstünlüğü: cip-5-x, kademeli mantıksal çıkarım ve gerekçe sunmayı tasarım felsefesine dâhil eder; bilim, matematik ve mühendislik problemlerinin çözümünde yüksek güvenilirlikte hesaplama ve yorumlama yeteneği gösterir. İç kıyaslamalara göre GPT-5 seviyesinin üzerinde performans kapasitesini hedefleyecek şekilde tasarlanıp işletilmekte ve aynı istem koşullarında tekrarlanabilirlik/doğrulanabilirlik temel kalite göstergeleri olarak yönetilmektedir.

• Multimodal yelpazenin tamamı: amaca yönelik VLM (cip-5-vision), büyük hacimli multimodal işleme modeli (ivy-4-mm) ve hafif, cihaz üzerinde çalışan model (ivy-3-text) tek bir platformda üretilip birleştirilebilir; böylece görev özelliklerine (arama/sınıflandırma/özetleme ve çıkarım/açıklama/uygulama) uygun en iyi kombinasyon oluşturulabilir.

Kurumsal uygulanabilirlik

• On-premise güvenlik ve kullanılabilirlik: kapalı ağın tüm aşamalarında (girdi-eğitim-hizmet-yedekleme) işletim, HA tasarımı, modüler ölçeklendirme ve SVCE (izole güvenli yürütme ortamı) ile veriler ve model parametreleri ayrı olarak korunur.
• Hızlı devreye alma ve ölçeklendirme: Ivy Chat (iş odaklı multimodal sohbet/aracı) ve API Platform (küresel standart SaaS) ile hızlı uygulama ve işletim desteklenir.

Fiziksel Yapay Zekâ (Physical AI) farklılığı

• NVIDIA Isaac tabanlı simülasyon ile evrimsel pekiştirmeli öğrenmenin (Evolutionary RL) birleştirilmesi, Sim2Real aktarımı ve sentetik verilerle paralel eğitim sayesinde eğitim verimliliği ve saha uyarlanabilirliği artırılmıştır. Dijital ortamdan robotik eğitime ve dağıtıma kadar kapsama sunması, alternatiflerinin az olduğu bir özelliktir.

Hizmet kalitesi ve yönetişim

• Model/sistem istemi/araç sürüm yönetimi, değerlendirme paketi (Korece ve İngilizce bilgi, sektöre özgü görevler, halüsinasyon ve güvenlik göstergeleri), değişiklik yönetimi (SLO/SLA) ve operasyonel gözlemlenebilirlik (gecikme, başarı oranı, TCO) tek bir platform prosedürüyle yönetilir.

Şu anda Güney Kore'de 300'den fazla yapay zekâ model hizmeti şirketi bulunmasına rağmen,

yüksek performanslı, kendine ait bir temel model aracılığıyla hem on-premise hem de bulut hizmetlerini aynı anda sunabilen tek şirket Clevi'dir.

6. Dil modellerini endüstride kullanma yöntemleri

Yapay zekânın benimsenmesi büyük yatırımlar ve kapsamlı doğrulama gerektirdiğinden, bir çözümün gerçekten işletmeye fayda sağlayıp sağlamadığını doğrudan karşılaştırmak ve deneyimlemek kritik önem taşır.

• CLEVI yalnızca model geliştirmekle kalmaz; gerçek endüstriyel ortamlarda uygulanabilen yapay zekâ çözümleri sunar.
• Örneğin Ivy Chat Platform, Clevi API Platform, sektöre özel özelleştirme ve güvenlik gereksinimlerine uyum gibi kurumsal kanalları eksiksiz şekilde sunar.
• Fiziksel yapay zekâ, robotik ve çok modlu veri işleme gibi yurt içinde ve yurt dışında nadiren rastlanan teknik yetkinliklere sahiptir.

CLEVI, yapay zekâyı bir “amaç” değil, gerçek iş verimliliğine ve endüstriyel inovasyona katkı sağlayan bir “araç” olarak ele alan somut yapay zekâ çözümleri sunar. Gerçek From-scratch Foundation modelinin farkını doğrudan deneyimleyin.

İletişim ve demo talebi: [email protected]

Copyright© 2025 Clevi Inc. Tüm hakları saklıdır.