ב-24 באוקטובר האחרון, בהזמנת האגודה הקוריאנית לתיעוש תעשייתי (KOIIA), השתתף מנכ״ל קלבי, לי הוואן-הו, ב״אקדמיה לטיפוח כישרונות ליבה בחברות בינוניות לשנת 2025, סמינר אסטרטגיות להתמודדות עם תעשיות העתיד״ ונשא נאום מרכזי.
השתתפנו במושב ״מקרי שימוש בטכנולוגיות AI ואסטרטגיות מעשיות ל-DX״ בנושא ״מקרי שימוש ב-Physical AI, גורמי כישלון ואסטרטגיות לשיפור בתהליך הטמעת סוכני RAG״.
ככל שהעניין בסוכני AI גובר לאחרונה, הולך וגדל גם מספר החברות השוקלות להטמיע פתרונות AI רבים. ידוע לנו שמוסדות וחברות רבים כבר מפעילים AI במסגרת פיילוט.
אולם, למרבה הצער, על פי מחקרים, בחברות ובמוסדות רבים ה-ROI הרצוי אינו מושג, או שפונקציות שעבדו במסגרת PoC אינן מספקות תשובות הולמות או אינן פועלות כראוי בפרויקט המרכזי או בשטח.
בשל מידע זה, חברות רבות מהססות להטמיע AI בחיפזון.
בהרצאה זו הסביר מנכ״ל קלבי, לי הוואן-הו, בפירוט את מגבלות מערכות RAG, שהן אחת הסיבות המרכזיות לכישלון בהטמעת AI בחיפזון, וכן את נושא המודלים בקוד פתוח או מודלי LLM קטנים (SLM), והסביר מדוע מקרי ההטמעה הקודמים נכשלו.
בסופו של דבר, הסיבה לשימוש ב-AI היא הציפייה שהוא יבצע את עבודתם של אנשים או יציג ביצועים טובים יותר מאלה של אנשים.
מכיוון שאנשי המקצוע בחברות שהטמיעו AI כיום אינם סומכים על איכות תשובות ה-AI, נשמעות תלונות על כך שהעבודה דווקא גדלה, משום שהם נאלצים לבדוק כל תשובת AI באופן ידני.
הסיבה לכך נעוצה בכך שרוב החברות משתמשות במודלי SLM בקוד פתוח, לאחר ביצוע fine-tuning שלהם, כפתרונות.
באופן אינטואיטיבי, אנו חושבים ש-AI יהפוך לחכם יותר אם ילמד דברים חדשים, אך למעשה, כאשר מלמדים AI ידע חדש, הוא מאבד את זיכרונות העבר שלו, כלומר משקלי פרמטרים שרירותיים.
הבעיה החמורה יותר היא שאיש אינו יודע איזה מידע או ידע אבדו.
מאחר שהטמעת AI אינה משימה שדורשת משאבים מועטים, סביר שביצעתם אימותים רבים כבר משלב ה-PoC.
מדוע בעיות כאלה לא הופיעו באותה נקודת זמן? הסיבה לכך היא, כמובן, שהמודל אומן מחדש באמצעות מידע ממוקד.
לימדתם AI שידע רק מספרים את האלפבית, ולאחר מכן הצגתם בפניו רק שאלות הקשורות לאלפבית, ולכן טבעי שהוא יענה היטב. אך האם בשטח אנו זקוקים רק למודלים המתמחים בתחום ספציפי כזה?
השטח שלנו מתמודד מדי יום עם סביבות חדשות ועם נתונים חדשים. אולם AI שאומן תוך השמדה אקראית של הידע הקיים אינו מסוגל להבטיח לא רק רב-שימושיות, אלא גם דיוק.
לכן יש צורך להחזיק במודל שפה גדול מסוג From-scratch Foundation, או בטכנולוגיה המאפשרת ליצור מודל כזה.
מכיוון שלמודלים אלה יש כמעט את כל הידע בעולם, הם מספקים לא רק איכות תשובות גבוהה, אלא גם דיוק רב.
במקרה של תחום ייעודי, ניתן להתגבר על חסרונותיו של SLM שעבר fine-tuning באמצעות טכנולוגיית SFT(Supervised Fine-Tuning), או במקרה של כמות קטנה של נתונים באמצעות מערכת RAG או טכנולוגיית מסד נתונים סמנטי, שהיא מערכת מסד הנתונים האינטליגנטית שפותחה באופן עצמאי על ידי CLEVI.
מכיוון שגם הממשלה מכירה בחשיבותם של מודלי Foundation אלה, היא מעניקה תמיכה רבה.
זהו פרויקט ה-AI הלאומי. המטרה הגדולה ביותר של פרויקט זה היא, ככל הנראה, הבטחת ריבונות דיגיטלית.
גם אנחנו ב-CLEVI הכרנו את החסרונות הקריטיים שעלולים להופיע בעת שימוש במודלים בקוד פתוח, ולכן פיתחנו באופן עצמאי את הכול, מאיסוף נתונים ועד לתכנון הארכיטקטורה, ואימנו את המודלים של CLEVI.
כיום, למודלים של CLEVI יש ביצועים שאינם נופלים כלל מאלה של מערכות ה-AI המובילות בעולם, גם כאשר הם מתחרים בהן.
במיוחד מכיוון שאנו מחזיקים במודלים עצמאיים משלנו, בעיית התלות שעלולה להיווצר בעת שימוש במודלים חיצוניים אינה רלוונטית ל-CLEVI.
הטמעת AI הופכת כעת מבחירה לחובה. אולם קשה להשיג את התוצאות הרצויות באמצעות אימוץ טכנולוגיה מתקדמת בלבד.
חדשנות אמיתית מתחילה רק כאשר מבינים במדויק את מגבלות הטכנולוגיה ובונים אסטרטגיה מיטבית התואמת את הסביבה ואת היעדים של הארגון שלנו.
באמצעות יכולות טכנולוגיות מובחנות, כגון מודל שפה גדול עצמאי ומסד נתונים סמנטי, CLEVI ממזערת את הניסוי והטעייה ואת הסיכונים שעמם מתמודדות חברות בתהליך הטמעת AI.
גם בעתיד נקשיב בקשב רב לקולות העוסקים בתחום ונעשה כל שביכולתנו כדי להיות שותף AI אמין עבור חברות רבות יותר. אנו מקווים שתבנו יחד עם CLEVI את ההצלחה האמיתית של הטמעת AI.