From-scratch Foundation Model CLEVI AI(ivy)

“Ahoana no nahafahan’ny orinasa kely iray namorona maodely fiteny AI goavana manara-penitra eran-tany?”

Ahoana no namoronan’ny startup kely iray maodely fiteny goavana?

Io no fanontaniana voaray matetika indrindra taorian’ny namoahan’i CLEVI ny maodely Foundation manana masontsivana 1,4 trillion.

Tsy sahala amin’ireo orinasa maro izay manao fine-tuning tsotra amin’ny maodely open source, CLEVI dia nanatanteraka tsy miankina ny dingana rehetra, manomboka amin’ny fanangonana angona, ny famolavolana maodely, ny fianarana mizara amin’ny ambaratonga lehibe, hatramin’ny fanamarinana ny kalitao.

Eto ambany no hampahafantaranay amin’ny antsipiriany ny tsiambaratelo sy ny tombony amin’izany.

1. Afaka mamorona maodely fiteny goavana ve ny orinasa kely iray?

Tamin’ny Jolay 2025, rehefa namoaka teny an-tsena ny maodely fiteny goavana novolavolain’i CLEVI manokana, mpanjifa (mpampiasa) maro no gaga sy nisalasala. “Tena novolavolaina manokana ve izy io?” “Tsy maodely open source novaina kely fotsiny ve?”

Raha ny marina, orinasa maro eto an-toerana sy any ivelany no manao transfer learning (fine-tuning) tsotra amin’ny maodely open source, avy eo mampiroborobo izany ho maodely novolavolain’izy ireo manokana.

Saingy CLEVI dia nampiroborobo ny **‘From-scratch Foundation Model’**.

Midika izany fa ny dingana rehetra, manomboka amin’ny fanangonana angona, ny famolavolana maodely, ny fianarana mizara amin’ny ambaratonga lehibe, hatramin’ny fanamarinana ny kalitao, dia novolavolaina sy notanterahina mivantana.

2. Antony mahatonga ny famolavolana maodely fiteny goavana ho sarotra

Mba hampianarana ny From-Scratch Foundation Model dia tsy maintsy ianarana avokoa ireo singa etsy ambany.

Ilaina ny angon-drakitra lehibe sy avo lenta

• Fahasamihafana: Fiantohana fahasamihafana amin’ny fiteny, sehatra, ary endrika (lahatsoratra, sary, sns.)
• Fanadiovana: Fanesorana tabataba, fitantanana kalitao, fanivanana angona miverimberina/manimba
• Fahazoan-dàlana: Fanazavana mazava momba ny zon’ny mpamorona sy ny zo hampiasa angona

Fotodrafitrasa informatika lehibe

• Vondrona GPU/TPU manana fahombiazana avo: Teknolojia mampifandray fitaovana an’arivony ka hatramin’ny an’aliny mba hanohanana fianarana mizara amin’ny angona be
• Rafitra fianarana mizara mahomby: DeepSpeed, Megatron-LM, Ray, sns.
• Fitahirizana/tambajotra: Fampidirana sy famoahana angona be, ary tontolon-tambajotra haingam-pandeha

Famolavolana ny rafitry ny maodely

• Fampidirana ny rafitra farany: Transformer, MoE(Mixture of Experts), multimodal, sns.
• Scalability: fandinihana ny fahafahana manitatra ny isan’ny paramètre, ny isan’ny sosona, ny halavan’ny fidirana, sns.
• Fahombiazana: fanatsarana ny hafainganam-pianarana/faminaniana sy ny fampiasana fahatsiarovana

Paikady sy algorithma amin’ny fianarana

• Tanjona amin’ny pretraining: language model (ohatra: next token prediction), multimodal (ohatra: contrastive learning), sns.
• Teknika fanatsarana: mixed precision, gradient accumulation, learning rate schedule, sns.
• Normalization/fanarenana: dropout, layer norm, weight decay, sns.

Rafitra fanombanana sy fanamarinana

• Sehatra benchmark: fampiasana angon-drakitra manara-penitra (Benchmarks)
• Fanombanana anatiny: fanombanana mifototra amin’ny tranga fampiasana tena izy
• Fanaraha-maso mitohy: fanamarinana ny kalitao, ny fitongilanana ary ny fiarovana mandritra sy aorian’ny fianarana

Fahaiza-manaon’ny mpiasa sy ny fikambanana

• Mpikaroka AI/ML: famolavolana modely, fampivoarana algorithma
• Injenieran’ny angon-drakitra: fanangonana/fanadiovana/fitantanana angon-drakitra
• Injenieran’ny fotodrafitrasa: rafitra zaraina, fitantanana rahona/on-premises
• Mpitantana tetikasa: fitantanana fandaharam-potoana, tetibola ary kalitao

Fandinihana etika, ara-dalàna ary fiarovana

• Etikan’ny AI: fitongilanana, fiarovana, mangarahara, fandraisana andraikitra
• Fanarahana ny lalàna: angon-drakitra manokana, zon’ny mpamorona, fiandrianan’ny angon-drakitra
• Fiarovana: fisorohana ny fivoahan’ny angon-drakitra/modely, fanaraha-maso ny fidirana

Manodidina ny 2 000 eo ho eo ny isan’ny mpikaroka AI maneran-tany amin’izao fotoana izao, ary ny ankamaroan’izy ireo dia mifantoka amin’ireo orinasa teknolojia lehibe toa an’i META, Google ary XAI. Tena vitsy dia vitsy ny ekipa eto an-toerana afaka mamolavola mivantana ny zava-drehetra, manomboka amin’ny fanangonana angon-drakitra ka hatramin’ny fotodrafitrasa fianarana midadasika, mba hamoronana Foundation model.

3. Mamorona maodely fiteny tena goavana amin’ny mpiasa vitsy.

Miorina amin’ny traikefany nandritra ny 10 taona mahery tamin’ny fikarohana deep learning sy machine learning, dia nanangana ny orinasa (CLEVI) i Lee Hwan-ho, 3 taona lasa izay, noho ny tanjona hoe “hamorona ny AI tsara indrindra eran-tany”.

Nanangana mivantana ny dingana rehetra izy, anisan’izany ny fananganana ny data pipeline an’ny orinasa, ny famolavolana fotodrafitrasa deep learning zaraina midadasika, ny fampivoarana ny rafitry ny modely ary ny fanamarinana ny kalitao, ka nahazo ny fahaiza-manao ilaina amin’ny fampivoarana Foundation Model.

Олон удаа загвар сургасны үр дүнд бид одоо дэлхийн шилдэг түвшний загваруудтай өрсөлдөхүйц Clevi-5-x загвартай болсон.

Асар том хэлний загварыг үр дүнтэй сургахын тулд хэдэн зуугаас хэдэн мянган GPU-г кластер болгон холбож, секундэд квадриллион тооны тооцооллыг зэрэг боловсруулах чадвартай дэд бүтэц шаардлагатай. Энэ үйл явцад өргөн цар хүрээтэй тархмал орчин дахь тооцооллын синхрончлол болон харилцаа холбооны саатлыг багасгах технологи чухал үүрэгтэй. Өнөөг хүртэл дотоодын хэмжээнд “нарийн хяналтын алгоритм” байгаагүй тул ихэнх компани загвараа зохих ёсоор сургаж чадаагүй. Clevi-ийн гүйцэтгэх захирал Ли Хван-хо энэхүү бие даасан тархмал тооцооллын хяналтын алгоритмыг өөрсдөө хөгжүүлснээр дотоодын хэмжээнд анх удаа 1.4 их наяд (1.4 Trillion) параметрийн хэмжээтэй асар том хэлний загварыг амжилттай сургасан.

4. Цөөн тооны хөгжүүлэгчээр олон төрлийн загвар хөгжүүлэх боломжтой болсон шалтгаан

Ихэнх Big Tech компаниуд том хэмжээний дэд бүтцийг удирдах болон өгөгдөл боловсруулах технологитой байдаг.

Үүнийг удирдахын тулд хэдэн зуугаас хэдэн мянган судлаач шаардлагатай.

Гэвч Clevi цөөн тооны судлаачтайгаар олон төрлийн загвар хөгжүүлж, эзэмшиж байна.

Хэрхэн боломжтой болсон бэ?

Clevi нь Teacher-Student Model(Knowledge Distilation) технологийн тусламжтайгаар цөөн тооны ажилтнаар олон төрлийн загварыг хөгжүүлж, эзэмшиж байна.

Тэгвэл Teacher-Student технологийг авч үзье.

Teacher-Student(Мэдлэгийн нэрэлт)

Teacher-Student технологи нь энгийнээр хэлбэл асар том хэлний загвар (Teacher Model)-аар хүүхэд загвар (Student Model)-ыг үнэлж, санал хүсэлт өгснөөр цөөн тооны ажилтнаар хэдэн зуун судлаачийг орлож, олон төрлийн загварыг хурдан хөгжүүлэх технологи юм.

• Mother Model(асар том загвар) нь төрөл бүрийн салбарын загваруудыг үнэлж, санал хүсэлт өгснөөр хэдэн зуун судлаачийг орлодог.
• Энэ аргаар Clevi-x-platform-ээр дамжуулан сургалт явуулбал Reasoning, VLM, Physical AI, Coding Agent зэрэг өндөр гүйцэтгэлтэй загваруудыг 10–15 хоногийн дотор сургаж, нэвтрүүлэх боломжтой.

Clevi Coding Agent

Clevi Phsycal AI Learning Platform

VLM-Vision Language Model

Agentin’ny fiarovana

5. Ny mampiavaka ara-teknika sy ara-kalitaon’ny Clevi-x-platform

Fahombiazan’ny modely sy fahafaha-manitatra

• Ambony amin’ny fanatsoahan-kevitra (CoT/Reasoning): ny cip-5-x dia mampiditra ny fivoaran’ny lojika tsikelikely sy ny fanolorana antony ho ao anatin’ny filozofia famolavolana azy, ka mampiseho fahaiza-manao azo itokisana ambony amin’ny kajy sy fandikana amin’ny famahana olana ara-tsiansa, matematika ary injeniera. Noforonina sy tantanana izy, araka ny mari-pandrefesana anatiny, ka mikendry fahaiza-manao mitovy na ambony noho ny GPT-5; ny fahafahana mamerina sy manamarina vokatra ao anatin’ny fepetra prompt mitovy dia tantanana ho mari-pamantarana fototra amin’ny kalitao.

• Spektrum feno amin’ny multimodal: amin’ny famokarana sy fampifangaroana ao anatin’ny sehatra iray ny VLM miompana amin’ny tanjona (cip-5-vision), ny modely fanodinana multimodal manana fahafaha-manao lehibe (ivy-4-mm), ary ny modely maivana amin’ny fitaovana (ivy-3-text), dia azo atao ny misafidy fitambarana tsara indrindra mifanaraka amin’ny toetran’ny asa (fikarohana/fanasokajiana/famintinana raha oharina amin’ny fanatsoahan-kevitra/fanazavana/fanatanterahana).

Fampiharana amin’ny orinasa

• Fiarovana sy fahafahana miasa on-premise: miasa ao anatin’ny tambajotra mihidy manontolo (fampidirana-fanofanana-serivisy-backup), miaraka amin’ny famolavolana HA, fanitarana modular, ary SVCE (tontolo fanatanterahana azo antoka mitokana) mba hiarovana misaraka ny angona sy ny paramètre-n’ny modely.
• Fampidirana sy fanitarana haingana: manohana fampiharana sy fitantanana haingana amin’ny alalan’ny Ivy Chat (resaka/agent multimodal ho an’ny asa) sy ny API Platform (SaaS manaraka fenitra iraisam-pirenena).

Ny mampiavaka ny AI ara-batana (Physical AI)

• Ny fampifangaroana ny simulation mifototra amin’ny NVIDIA Isaac sy ny fianarana fanamafisana mifototra amin’ny evolisiona (Evolutionary RL), miaraka amin’ny famindrana Sim2Real sy ny fanofanana parallèle amin’ny angona sintetika, dia nampitombo ny fahombiazan’ny fianarana sy ny fahafahana mifanaraka amin’ny sehatra. Vitsy ny safidy hafa afaka mandrakotra ny dingana manontolo manomboka amin’ny fianarana nomerika sy robotika ka hatramin’ny fametrahana.

Kalitaon’ny serivisy sy fitantanana

• Ny fitantanana ny dikan’ny modely/prompt/fitaovana, ny suite fanombanana (fahalalana amin’ny teny koreana sy anglisy, asa isaky ny indostria, mari-pamantarana momba ny hallucination sy ny fiarovana), ny fitantanana fanovana (SLO/SLA), ary ny fanaraha-maso ny fampandehanana (latency tahan’ny fahombiazana TCO) dia tanterahina amin’ny alalan’ny fomba fiasa tokana ao amin’ny sehatra.

Na dia misy orinasa manome serivisy modely AI mihoatra ny 300 eo ho eo aza eto an-toerana amin’izao fotoana izao,

I Clevi irery no afaka manome serivisy on-premise sy rahona miaraka amin’ny alalan’ny modely fototra mahaleo tena manana fahombiazana avo.

6. Fomba fampiasana ny modely amin’ny fiteny amin’ny indostria

AI нэвтрүүлэлт нь асар их хөрөнгө оруулалт, нарийн шалгалт шаарддаг тул тухайн шийдэл үнэхээр байгууллагад тустай эсэхийг шууд харьцуулж, туршиж үзэх үйл явц зайлшгүй чухал юм.

• CLEVI нь зөвхөн загвар бүтээхээр хязгаарлагдахгүй, бодит үйлдвэрлэлийн орчинд хэрэгжүүлэх боломжтой AI шийдлүүдийг санал болгодог.
• Жишээлбэл, Ivy Chat Platform, Clevi API Platform, салбар бүрт тохируулан өөрчлөх үйлчилгээ, аюулгүй байдлын шаардлагад нийцүүлэх зэрэг энтерпрайз сувгийг бүрэн бүрдүүлсэн.
• Физик AI, робот техник, мультимодал өгөгдөл боловсруулах зэрэг дотоод, гадаадад ховор тохиолдох техникийн чадавхтай.

CLEVI нь AI-г “зорилго” бус “хэрэгсэл” болгон ашиглаж, бодит ажлын үр ашиг болон салбарын инновацид хувь нэмэр оруулах бодитой AI шийдлүүдийг санал болгодог.Жинхэнэ From-scratch Foundation загварын ялгааг өөрийн биеэр мэдэрч үзээрэй.

Лавлагаа болон демо хүсэлт: [email protected]

Copyright© 2025 Clevi Inc. All rights reserved.