From-scratch Foundation Model 클레비 AI(ivy)

“Giunsa paghimo sa usa ka gamay nga kompanya ang usa ka pinulongang modelo sa AI nga dako kaayo ug lebel sa labing maayo sa kalibotan?”

Giunsa paghimo sa usa ka gamay nga startup ang usa ka pinulongang modelo nga dako kaayo?

Sukad nga gipahibalo sa 클레비 ang Foundation model nga adunay sukod nga 1.4 trilyong parameter, mao kini ang pangutana nga labing kanunay nadawat.

Sukwahi sa daghang kompanya nga yano lamang nga nag-fine-tune sa mga open-source nga modelo, ang 클레비 independente nga mipatuman sa tanang proseso, gikan sa pagkolekta sa datos, pagdisenyo sa modelo, dinagkong distributed learning, hangtod sa pagsusi sa kalidad.

Among ipaila sa ubos sa detalyado ang maong sekreto ug kompetitibong bentaha.

1. Usa ka gamay nga kompanya makahimo og pinulongang modelo nga dako kaayo?

Niadtong Hulyo 2025, sa dihang gipagawas sa merkado sa 클레비 ang kaugalingon nitong gihimong pinulongang modelo nga dako kaayo, daghang kustomer (mga tiggamit) ang nangahibulong ug nagduhaduha. “Tinuod ba nga kaugalingon nilang gihimo?” “Gamay ra ba nilang giusab ang usa ka open-source nga modelo?”

Sa tinuod, daghang kompanya sa sulod ug gawas sa nasod ang kasagarang yano lamang nga nagbuhat og transfer learning (fine-tuning) sa mga open-source nga modelo ug nagpakaylap niini isip ilang kaugalingong modelo.

Apan gipasiugda sa 클레비 ang **‘From-scratch Foundation Model’**.

Sa ato pa, sila mismo ang nagdisenyo ug mipatuman sa tanang proseso, gikan sa pagkolekta sa datos, pagdisenyo sa modelo, dinagkong distributed learning, hangtod sa pagsusi sa kalidad.

2. Ngano nga lisod ang pagpalambo og pinulongang modelo nga dako kaayo

Aron ma-train ang From-Scratch Foundation Model, kinahanglan tun-an ang tanang mosunod nga mga elemento.

Gikinahanglan ang dinagkong dataset nga taas og kalidad

• Pagkalain-lain: pagsiguro sa pagkalain-lain sa pinulongan, dominyo, ug pormat (teksto, imahe, ug uban pa)
• Pagpino: pagtangtang sa kasaba, pagdumala sa kalidad, pagsala sa doblado/makadaot nga datos
• Lisensya: klarong pagpiho sa copyright ug katungod sa paggamit sa datos

Dinagkong imprastraktura sa kompyutasyon

• Kumpol sa high-performance nga GPU/TPU: teknolohiya sa paghiusa sa mga ekipo nga adunay libo-libo hangtod napulo ka libong node aron suportahan ang dinagkong distributed learning
• Framework alang sa episyenteng distributed learning: DeepSpeed, Megatron-LM, Ray, ug uban pa
• Storage/network: palibot alang sa input ug output sa dagkong datos ug paspas nga network

Pagdisenyo sa arkitektura sa modelo

• Pagpahiuyon sa pinakabag-ong estruktura: Transformer, MoE (Mixture of Experts), multimodal, ug uban pa
• Scalability: pagkonsiderar sa pagpalapad sa gidaghanon sa mga parameter, gidaghanon sa mga layer, gitas-on sa input, ug uban pa
• Efficiency: pag-optimize sa katulin sa pagkat-on/pag-infer ug paggamit sa memorya

Mga estratehiya ug algorithm sa pagkat-on

• Tumong sa pretraining: language model (pananglitan, next token prediction), multimodal (pananglitan, contrastive learning), ug uban pa
• Mga teknik sa optimization: mixed precision, gradient accumulation, learning rate schedule, ug uban pa
• Normalization/stabilization: dropout, layer norm, weight decay, ug uban pa

Sistema sa ebalwasyon ug beripikasyon

• Benchmark set: paggamit sa standard nga mga dataset (Benchmarks)
• Internal nga ebalwasyon: ebalwasyon base sa aktuwal nga mga senaryo sa paggamit
• Padayon nga monitoring: pagsusi sa kalidad, bias, ug safety panahon ug human sa pagkat-on

Kahanas sa mga kawani ug organisasyon

• Mga tigdukiduki sa AI/ML: disenyo sa modelo, pagpalambo sa algorithm
• Mga data engineer: pagkolekta/pagdalisay/pagdumala sa datos
• Mga infrastructure engineer: distributed systems, pagdumala sa cloud/on-premises
• Mga project manager: pagdumala sa iskedyul, badyet, ug kalidad

Mga konsiderasyon sa etika, legalidad, ug seguridad

• Etika sa AI: bias, safety, transparency, accountability
• Legal nga pagsunod: pribasiya, copyright, soberanya sa datos
• Seguridad: pagpugong sa pagtagas sa datos/modelo, kontrol sa access

Sa pagkakaron, ang gidaghanon sa mga tigdukiduki sa AI sa tibuok kalibotan mokabat sa mga 2,000, ug kadaghanan kanila nakonsentra sa dagkong kompanya sa teknolohiya sama sa META, Google, ug XAI. Sa Korea, talagsaon ra kaayo ang mga team nga makahimo mismo sa pagdisenyo sa usa ka Foundation model, gikan sa pagkolekta sa datos hangtod sa dinagkong learning infrastructure.

3. Paghimo og dako kaayong language model gamit ang gamay nga gidaghanon sa mga kawani.

Base sa iyang kapin napulo ka tuig nga kasinatian sa pagtuon sa deep learning ug machine learning, gitukod ni CEO Lee Hwan-ho ang kompanya (Clevi) tulo ka tuig na ang milabay uban sa tumong nga “maghimo og pinakamaayong AI sa kalibotan.”

Pinaagi sa direktang pagdisenyo sa tanang proseso—lakip ang pagtukod sa kaugalingong data pipeline sa kompanya, pagdisenyo sa dinagkong distributed deep learning infrastructure, pagpalambo sa modelo nga arkitektura, ug pagberipika sa kalidad—nakuha niini ang mga kahanas nga gikinahanglan alang sa pagpalambo sa Foundation Model.

Human sa makadaghang higayon nga pagbansay sa modelo, aduna na karon kini og Clevi-5-x nga modelo nga makatupong sa mga modelo nga pinakamaayo sa kalibotan.

Aron epektibong matudloan ang mga super-large language model, gikinahanglan ang imprastraktura nga nagkonektar sa gatusan hangtod liboan ka GPU isip usa ka cluster, aron dungan nga maproseso ang mga kalkulasyon nga moabot sa napulo ka quadrillion kada segundo. Niining prosesoha, mahinungdanon ang teknolohiya nga makapamenos sa pag-synchronize sa mga kalkulasyon ug sa communication delay sulod sa dagkong distributed environment. Hangtod karon, tungod kay walay “precision control algorithm” sa nasod, kadaghanan sa mga kompanya wala makahimo sa hustong pagpa-train sa mga modelo. Pinaagi sa kaugalingong pag-develop ni CEO Lee Hwan-ho sa Clevi sa maong independent distributed computation control algorithm, malampuson silang nakapa-train, sa unang higayon sa nasod, og super-large language model nga adunay 1.4 trilyon (1.4 Trillion) ka parameter.

4. Ang hinungdan nganong nakahimo og lain-laing mga modelo gamit ang gamay nga gidaghanon sa mga developer

Bisan ang kadaghanan sa mga kompanya sa big tech adunay dagkong imprastraktura nga kontrol ug teknolohiya sa paglimpyo sa datos.

Aron kini madumala, gikinahanglan ang gatusan hangtod liboan ka research personnel.

Apan, ang Clevi nakahimo ug nakapanag-iya og lain-laing mga modelo gamit ang gamay nga research personnel.

Giunsa kini pagkahimo?

Pinaagi sa teknolohiyang Teacher-Student Model(Knowledge Distilation), ang Clevi nakahimo ug nakapanag-iya og lain-laing mga modelo gamit ang gamay nga gidaghanon sa personnel.

Busa, atong susihon ang teknolohiyang Teacher-Student.

Teacher-Student (knowledge distillation)

Sa yano nga pagkasulti, ang teknolohiyang Teacher-Student usa ka teknolohiya nga, pinaagi sa super-large language model (Teacher Model), mag-evaluate ug mohatag og feedback sa child model (Student Model), nga nagtugot sa gamay nga gidaghanon sa personnel nga mopuli sa gatusan ka research personnel ug makadevelop og lain-laing mga modelo sa madali nga paagi.

• Ang Mother Model (super-large model) mag-evaluate ug mohatag og feedback sa mga modelo sa lain-laing natad, ug mopuli sa gatusan ka research personnel.
• Kung ang training himoon niining paagiha pinaagi sa Clevi-x-platform, ang mga high-performance model sama sa Reasoning, VLM, Physical AI, ug Coding Agent mahimong ma-train ug ma-deploy sulod lamang sa 10–15 ka adlaw.

Clevi Coding Agent

Clevi Phsycal AI Learning Platform

VLM-Vision Language Model

Ahente sa seguridad

5. Pagkalahi sa teknolohiya ug kalidad sa Clevi-x-platform

Performance ug scalability sa modelo

• Labaw sa pangatarungan (CoT/Reasoning): Ang cip-5-x gidisenyo nga maglakip sa pilosopiya sa disenyo niini ang sunod-sunod nga pagpalambo sa lohika ug pagpresentar sa mga basihan, ug nagpakita og taas nga kasaligan sa pagkalkula ug interpretasyon sa pagsulbad sa mga problema sa siyensiya, matematika, ug inhenyeriya. Base sa internal nga mga benchmark, kini gidisenyo ug gipadagan aron maabot ang lebel sa performance nga katumbas o mas taas pa sa GPT-5, samtang ang reproducibility ug verifiability ubos sa parehas nga mga kondisyon sa prompt maoy sentro nga mga sukdanan sa kalidad.

• Tibuok nga spectrum sa multimodal: Pinaagi sa paghimo ug paghiusa sa purpose-oriented nga VLM (cip-5-vision), dako-kapasidad nga multimodal processing model (ivy-4-mm), ug gaan nga on-device model (ivy-3-text) sa usa ka plataporma, posible ang labing angay nga kombinasyon sumala sa kinaiya sa buluhaton (pagpangita/pagklasipikar/pagsumada kontra sa pangatarungan/pagpasabot/pagpatuman).

Pagkaangay sa paggamit sa negosyo

• Seguridad ug pagkaanaa sa on-premises: Nag-operate sulod sa tibuok closed network (input-pagkat-on-serbisyo-backup), nga adunay HA nga disenyo, modular nga pagpalapad, ug SVCE (nahimulag nga luwas nga palibot sa pagpatuman) aron bulagon ug mapanalipdan ang datos ug mga parameter sa modelo.
• Paspas nga pagsagop ug pagpalapad: Ang Ivy Chat (multimodal nga panag-istorya/agent alang sa trabaho) ug API Platform (global nga standard nga SaaS) nagsuporta sa paspas nga pagpatuman ug operasyon.

Kalainan sa pisikal nga AI (Physical AI)

• Pinaagi sa paghiusa sa simulation nga gibase sa NVIDIA Isaac ug evolutionary-based reinforcement learning (Evolutionary RL), ingon man sa Sim2Real transfer ug parallel training gamit ang synthetic data, gipauswag ang episyensya sa pagkat-on ug kapasidad sa pag-angay sa aktuwal nga lugar. Talagsaon ang mga kapuli nga makatak-op sa tibuok proseso gikan sa digital ug robotics learning hangtod sa deployment.

Kalidad sa serbisyo ug pagdumala

• Ang pagdumala sa bersyon sa mga modelo/prompt/tool, evaluation suite (kahibalo sa Koreano ug Iningles, mga task sa matag industriya, mga sukdanan sa hallucination ug safety), change management (SLO/SLA), ug operational monitoring (latency, success rate, TCO) gidumala pinaagi sa mga pamaagi sa usa ka plataporma.

Sa pagkakaron, adunay kapin sa 300 ka kompanya sa serbisyo sa mga modelo sa AI sa nasod, apan

Ang Clevi mao lamang ang makahimo sa paghatag dungan sa on-premises ug cloud nga mga serbisyo pinaagi sa kaugalingon nga high-performance nga foundation model.

6. Mga paagi sa paggamit sa mga modelo sa pinulongan sa industriya

Tungod kay ang pagsagop sa AI nagkinahanglan og dakong pamuhunan ug hingpit nga beripikasyon, gikinahanglan gayod ang direktang pagtandi ug pagsulay aron masuta kung ang solusyon tinuod bang makatabang sa kompanya.

• Ang Clevi dili lang nagmugna og mga modelo, kondili naghatag usab og mga solusyon sa AI nga magamit sa aktuwal nga mga palibot sa industriya.
• Pananglitan, kompleto kini sa mga channel alang sa negosyo sama sa Ivy Chat Platform, Clevi API Platform, pagpasibo matag industriya, ug pagtubag sa mga kinahanglanon sa seguridad.
• Naa kini’y mga teknolohikal nga kapabilidad nga lisod pangitaon sa sulod ug gawas sa nasod, lakip ang pisikal nga AI, robotics, ug pagproseso sa multimodal nga datos.

Ang Clevi naghatag og praktikal nga mga solusyon sa AI nga nakatampo sa aktuwal nga episyente sa trabaho ug inobasyon sa industriya, diin ang AI gigamit isip ‘paagi’ imbes nga ‘katuyoan’. Masinati mismo ang kalainan sa tinuod nga From-scratch Foundation nga modelo.

Mga pangutana ug hangyo alang sa demo: [email protected]

Copyright© 2025 Clevi Inc. All rights reserved.