From-scratch Foundation Model CLEVI AI(ivy)

„Hvernig gat lítið fyrirtæki búið til risastórt gervigreindarmálalíkan á heimsmælikvarða?“

Hvernig bjó lítið sprotafyrirtæki til risastórt málalíkan?

Þetta er algengasta spurningin sem CLEVI hefur fengið síðan fyrirtækið kynnti Foundation-líkan með 1,4 billjón færibreytum.

Ólíkt mörgum fyrirtækjum, sem takmarka sig við að fínstilla opinn hugbúnaðarlíkan, framkvæmdi CLEVI allt ferlið sjálfstætt, allt frá gagnasöfnun, hönnun líkansins og umfangsmiklu dreifðu námi til gæðaprófunar.

Hér að neðan kynnum við leyndarmálið að baki þessu og samkeppnisforskotið í smáatriðum.

1. Getur lítið fyrirtæki búið til risastórt gervigreindarmálalíkan?

Þegar CLEVI kynnti risastóra gervigreindarmálalíkanið sem fyrirtækið þróaði sjálft á markað í júlí 2025 urðu fjölmargir viðskiptavinir (notendur) bæði undrandi og efins. „Var það virkilega þróað af fyrirtækinu sjálfu?“ „Breyttu þau kannski bara opnu hugbúnaðarlíkani lítillega?“

Reyndar hafa mörg fyrirtæki innanlands og erlendis einfaldlega beitt yfirfærslunámi (fine-tuning) á opnum hugbúnaðarlíkönum og kynnt þau síðan sem eigin líkön.

En CLEVI lagði áherslu á **‘From-scratch Foundation Model’**.

Með öðrum orðum hannaði og framkvæmdi fyrirtækið allt ferlið sjálft, allt frá gagnasöfnun, hönnun líkansins og umfangsmiklu dreifðu námi til gæðaprófunar.

2. Hvers vegna er erfitt að þróa risastórt gervigreindarmálalíkan?

Til að þjálfa From-Scratch Foundation Model þarf að ná tökum á öllum eftirfarandi þáttum.

Þörf er á umfangsmiklu gagnasafni í háum gæðum

• Fjölbreytni: Tryggja fjölbreytni í tungumálum, lénum og sniðum (texta, myndum o.s.frv.)
• Hreinsun: Fjarlægja hávaða, stjórna gæðum og sía út tvítekin eða skaðleg gögn
• Leyfi: Skýra höfundarrétt og heimildir til gagnanotkunar

Umfangsmikil tölvuinnviði

• Afkastamiklar GPU/TPU-klasar: Tækni til að samþætta búnað með þúsundum til tugþúsunda hnúta og styðja við umfangsmikið dreift nám
• Skilvirkur rammi fyrir dreift nám: DeepSpeed, Megatron-LM, Ray o.fl.
• Geymsla/netkerfi: Inn- og úttak umfangsmikilla gagna og hraðvirkt netumhverfi

Hönnun líkanaarkitektúrs

• Nýjasta arkitektúr tekin með í reikninginn: Transformer, MoE(Mixture of Experts), fjölþátta o.fl.
• Skalanleiki: Tekið tillit til stækkunar á fjölda stika, laga, lengd inntaks o.fl.
• Skilvirkni: Hagræðing á hraða þjálfunar og ályktana, minnisnotkun o.fl.

Þjálfunarstefnur og reiknirit

• Markmið forþjálfunar: Tungumálalíkön (t.d. next token prediction), fjölþátta líkön (t.d. contrastive learning) o.fl.
• Hagræðingaraðferðir: mixed precision, gradient accumulation, learning rate schedule o.fl.
• Stöðlun/stöðugleiki: dropout, layer norm, weight decay o.fl.

Mats- og sannprófunarkerfi

• Viðmiðunargagnasett: Notkun staðlaðra gagnasetta (Benchmarks)
• Innra mat: Mat byggt á raunverulegum notkunarsviðsmyndum
• Stöðugt eftirlit: Eftirlit með gæðum, hlutdrægni og öryggi meðan á og eftir þjálfun stendur

Mannauður og skipulagsgeta

• AI/ML-rannsakendur: Hönnun líkana, þróun reiknirita
• Gagnaverkfræðingar: Söfnun, hreinsun og stjórnun gagna
• Innviðaverkfræðingar: Dreifð kerfi, stjórnun skýja-/staðbundinna innviða
• Verkefnastjórar: Stjórnun á tímaáætlun, fjárhagsáætlun og gæðum

Siðferðileg, lagaleg og öryggisleg atriði

• Siðfræði gervigreindar: Hlutdrægni, öryggi, gagnsæi og ábyrgð
• Lagalegt samræmi: Persónuvernd, höfundarréttur og fullveldi gagna
• Öryggi: Forvarnir gegn leka gagna og líkana, aðgangsstýring

Nú eru um 2.000 manns starfandi við gervigreindarrannsóknir á heimsvísu og flestir þeirra eru einbeittir hjá stórtæknifyrirtækjum á borð við META, Google og XAI. Það er afar sjaldgæft að finna teymi innanlands sem getur hannað sjálft allt frá gagnasöfnun til innviða fyrir stórfellda þjálfun og búið til Foundation-líkan.

3. Að búa til risastórt tungumálalíkan með fámenna starfsmenn.

Framkvæmdastjórinn Lee Hwan-ho stofnaði fyrirtækið (Clevi) fyrir þremur árum með það markmið að „skapa bestu gervigreind í heimi“, byggt á meira en tíu ára reynslu af rannsóknum á djúpnámi og vélanámi.

Með því að hanna sjálfur alla ferla, þar á meðal uppbyggingu eigin gagnaleiðslu fyrirtækisins, hönnun stórfelldra dreifðra djúpnámsinnviða, þróun líkanaarkitektúrs og gæðaprófanir, öðlaðist fyrirtækið þá getu sem nauðsynleg er til þróunar Foundation Model.

Eftir að hafa þjálfað líkanið ítrekað býr fyrirtækið nú yfir Clevi-5-x-líkaninu, sem getur keppt við bestu líkön heims.

Til að þjálfa ofurstór mállíkön á árangursríkan hátt þarf innviði þar sem hundruð til þúsundir GPU-eininga eru tengdar saman í klasa svo hægt sé að framkvæma samtímis allt að tugum 10²⁴ útreikninga á sekúndu. Í þessu ferli er tækni til að samstilla útreikninga og lágmarka samskiptaseinkun í stórum dreifðum umhverfum lykilatriði. Hingað til hafa flest fyrirtæki í Suður-Kóreu ekki getað þjálfað líkön almennilega vegna skorts á „nákvæmnisstýringaralgrími“. Með því að þróa sjálfstætt slíkt einstakt algrím til stýringar dreifðra útreikninga tókst forstjóra CLEVI, Lee Hwan-ho, að þjálfa í fyrsta sinn í Suður-Kóreu ofurstórt mállíkan með 1,4 billjónum (1.4 Trillion) stika.

4. Ástæða þess að hægt var að þróa fjölbreytt líkön með fáum þróunaraðilum

Flest stórtæknifyrirtæki búa einnig yfir tækni til að stýra stórum innviðum og hreinsa gögn.

Til að stjórna þessu þarf hundruð til þúsundir rannsóknarstarfsmanna.

CLEVI hefur hins vegar þróað og yfir að ráða fjölbreyttum líkönum með fáum rannsóknarstarfsmönnum.

Hvernig var það mögulegt?

CLEVI þróar og hefur yfir að ráða fjölbreyttum líkönum með fáum starfsmönnum með Teacher-Student Model(Knowledge Distilation)-tækninni.

Skoðum þá Teacher-Student-tæknina.

Teacher-Student(þekkingarafmótun)

Teacher-Student-tækni er í einföldu máli tækni þar sem ofurstórt mállíkan (Teacher Model) metur og veitir endurgjöf á barnalíkan (Student Model), sem gerir kleift að þróa fjölbreytt líkön hratt með fáum starfsmönnum og koma þannig í stað hundruða rannsóknarstarfsmanna.

• Mother Model(ofurstórt líkan) metur og veitir endurgjöf á líkön á ýmsum sviðum og kemur þannig í stað hundruða rannsóknarstarfsmanna.
• Ef þjálfun fer fram með þessum hætti í gegnum Clevi-x-platform er hægt að þjálfa og setja í notkun afkastamikil líkön á borð við Reasoning, VLM, Physical AI og Coding Agent á aðeins 10–15 dögum.

Clevi Coding Agent

Clevi Phsycal AI Learning Platform

VLM-Vision Language Model

Öryggisagent

5. Sérstaða Clevi-x-platform hvað varðar tækni og gæði

Afköst og sveigjanleiki líkans

• Yfirburðir í rökhugsun (CoT/Reasoning): cip-5-x hefur stigvaxandi rökræna framvindu og framsetningu rökstuðnings innbyggða í hönnunarheimspeki sína og sýnir mikla áreiðanleika í útreikningum og túlkun við lausn vísinda-, stærðfræði- og verkfræðiverkefna. Samkvæmt innri viðmiðunarmælingum er kerfið hannað og rekið með það markmið að ná frammistöðu á við GPT-5 eða meiri, og endurtekningarhæfni og sannreynanleiki við sömu skilyrði leiðbeininga eru lykilgæðamælikvarðar í stjórnun þess.

• Fullt litróf fjölháttunar: Með því að framleiða og sameina markmiðstengt VLM (cip-5-vision), stórt fjölháttunarlíkan fyrir úrvinnslu (ivy-4-mm) og létt líkan fyrir tæki (ivy-3-text) á einum vettvangi er hægt að velja bestu samsetninguna út frá eðli verkefnisins (leit/flokkun/samantekt vs. rökhugsun/skýringar/framkvæmd).

Hæfni til notkunar í fyrirtækjum

• Öryggi og aðgengi á staðnum: Rekstur innan lokaðs nets á öllum stigum (inntak–þjálfun–þjónusta–afritun), HA-hönnun, einingaskiptanleg stækkun og SVCE (einangrað öruggt keyrsluumhverfi) aðskilja og vernda gögn og færibreytur líkana.
• Hröð innleiðing og stækkun: Ivy Chat (fjölháttað samtal/umboðsmaður fyrir vinnuverkefni) og API Platform (alþjóðlegur staðall SaaS) styðja hraða innleiðingu og rekstur.

Sérstaða í Physical AI

• Með því að sameina NVIDIA Isaac-byggða hermun og þróunarstýrða styrkingarnám (Evolutionary RL), ásamt Sim2Real-yfirfærslu og samhliða þjálfun með gervigögnum, hefur námshagkvæmni og aðlögunarhæfni á vettvangi verið aukin. Fáir valkostir ná yfir allt ferlið frá stafrænni og vélfærafræðilegri þjálfun til dreifingar.

Þjónustugæði og stjórnarhættir

• Útgáfustjórnun líkana, leiðbeininga og verkfæra, matsforrit (þekking á innlendum og enskum tungumálum, verkefni eftir atvinnugreinum, mælikvarðar á ofskynjanir og öryggi), breytingastjórnun (SLO/SLA) og rekstrarvöktun (seinkun, árangurshlutfall og TCO) eru stjórnað í gegnum sameinað verklag vettvangsins.

Nú eru meira en 300 fyrirtæki sem bjóða AI-líkanaþjónustu til staðar innanlands, en

Clevi er eina fyrirtækið sem getur boðið upp á staðbundna uppsetningu og skýjaþjónustu samtímis með öflugu, sjálfstæðu grunnlíkani.

6. Leiðir til að nýta tungumálalíkön í atvinnugreinum

Þar sem innleiðing AI krefst mikillar fjárfestingar og ítarlegrar sannprófunar er nauðsynlegt að bera saman og prófa lausnirnar sjálfur til að staðfesta hvort þær gagnist fyrirtækinu í raun.

• CLEVI lætur sér ekki nægja að þróa líkön heldur býður upp á gervigreindarlausnir sem hægt er að innleiða í raunverulegu atvinnulífi.
• Til dæmis býður fyrirtækið upp á fullkomið úrval fyrirtækjalausna, þar á meðal Ivy Chat Platform, Clevi API Platform, sérsníðingu fyrir mismunandi atvinnugreinar og aðlögun að öryggiskröfum.
• Fyrirtækið býr yfir tæknilegri getu á sviðum á borð við líkamlega gervigreind, vélfærafræði og fjölþátta gagnavinnslu sem sjaldgæft er að finna bæði innanlands og erlendis.

CLEVI lítur á gervigreind sem „tæki“ en ekki „markmið“ og býður upp á raunverulegar gervigreindarlausnir sem stuðla að skilvirkni í starfi og nýsköpun í atvinnulífinu. Upplifðu af eigin raun sérstöðu grunnlíkans sem er þróað frá grunni.

Fyrirspurnir og beiðnir um kynningu: [email protected]

Copyright© 2025 Clevi Inc. All rights reserved.