כדי לבדוק בנפרד את מזג האוויר של היום, את לוח הזמנים של רכבות KTX, את שערי החליפין ואת המסמכים הפנימיים של החברה, יש לעבור בין מספר אפליקציות ומערכות. AI שמשתמש רק במידע שהיה זמין עד לסיום האימון מתקשה לשקף מצבים המשתנים ללא הרף.
Tool Calling מאפשר ל-AI לבחור כלים חיצוניים המתאימים לבקשת המשתמש, לקבל מידע עדכני ולבצע משימות. במאמר זה נסביר כיצד Tool Calling פועל, באילו תחומים ניתן להשתמש בו ומה יש לבדוק בעת התכנון.
מהו Tool Calling
Tool Calling הוא טכנולוגיה המחברת מודלי שפה גדולים לפונקציות חיצוניות, ממשקי API, מסדי נתונים ומערכות עסקיות. לאחר ניתוח בקשת המשתמש, ה-AI קובע אילו כלים וערכי קלט נדרשים, ומשתמש בתוצאות שהכלים מחזירים כדי להשיב או לבצע את המשימה הבאה.
| סיווג | עיבוד המבוסס על נתוני אימון | עיבוד המבוסס על Tool Calling |
|---|---|---|
| מועד המידע | שימוש במידע עד למועד אימון המודל | שימוש בנתונים חיצוניים במועד הקריאה |
| חישוב | יצירת תוצאה על סמך ההקשר | בדיקת התוצאה באמצעות קריאה למחשבון או לפונקציית חישוב |
| מסמכים פנימיים של החברה | שימוש רק במידע שנכלל בתהליך האימון | חיפוש במסדי נתונים ובמערכות מסמכים שההרשאות מאפשרות גישה אליהם |
| ביצוע משימות | יצירת טקסט תשובה | ביצוע משימות כגון הזמנה, רישום, שליחה ויצירת דוחות |
תהליך עיבוד הבקשה
מה ניתן לעשות באמצעות Tool Calling
Tool Calling מחבר אחזור מידע וביצוע משימות לזרימת שיחה אחת. המשתמשים יכולים להעביר תנאים בשפה טבעית, בלי להכיר את שיטת החיפוש או את מיקום התפריטים של כל שירות. ארגונים יכולים להגדיר כלים שונים שניתן להפעיל בהתאם להרשאות המשתמש ולכללי העבודה.
| תחומי שימוש | יעדי חיבור | דוגמאות לעיבוד |
|---|---|---|
| מידע בזמן אמת | ממשקי API של מזג אוויר, תחבורה, שערי חליפין ומחירי מניות | אחזור מידע עדכני והשוואה לפי תנאים |
| חישובים מדויקים | מחשבונים, פונקציות סטטיסטיות וממשקי API לחישוב עלויות | חישוב מסים, מרחקים, עלויות וערכים סטטיסטיים |
| מידע פנים-ארגוני | מאגרי מסמכים, מסדי נתונים ומערכות חיפוש | חיפוש תקנות, חוזים ונתוני ביצועים במסגרת ההרשאות |
| ניהול לוחות זמנים | יומנים ומערכות הזמנה | בדיקת זמנים פנויים ורישום פגישות |
| תקשורת | דוא״ל, שליחים ומערכות התראות | כתיבה ושליחה של הודעות לאחר אישור המשתמש |
| אוטומציה של משימות | מערכות לדוחות, לניהול לקוחות ולתכנון משאבי ארגון | איסוף נתונים, מילוי טפסים ושינוי סטטוס |
נקודות שיש לבדוק בעת התכנון
ככל שמספר החיבורים למערכות חיצוניות גדל, כך מתרחבים גם היקף הגישה לנתונים והרשאות הביצוע. מפעילי השירות צריכים להגדיר באופן מפורט את הליכי האימות לפני הקריאה ואחריה, את אופן הטיפול בשגיאות ואת מגבלות העלות. המשתמשים צריכים להיות מסוגלים לבדוק איזה מידע מועבר ולאיזו מערכת.
| פריט לבדיקה | בעיה אפשרית | שיטת תכנון |
|---|---|---|
| הגנה על מידע אישי | מידע אישי עשוי להיות מועבר למערכת חיצונית במהלך הקריאה | להעביר רק את הנתונים הנחוצים ולנהל הצפנה, תקופת שמירה ותנאים למסירה לצדדים שלישיים |
| הרשאות גישה | ייתכן שתתבצע גישה לנתונים או לפונקציות שאין למשתמש הרשאה להשתמש בהם | להחיל אימות משתמש והרשאות לפי תפקיד, ולאמת מחדש את ההרשאות לפני הקריאה |
| דיוק הנתונים | ה-API עשוי להחזיר ערכים ישנים או שגויים | להציג את מועד הנתונים ואת מקורם ולהחיל בדיקות תקינות ואימות צולב |
| אחריות על ביצוע | פעולה לא מכוונת עשויה להפוך לסופית במהלך הזמנה, תשלום או שליחה | להחיל אישור משתמש ושלבי אישור על פעולות שקשה לבטל |
| ניהול עלויות | עלויות התפעול עשויות לגדול עקב קריאות חוזרות ובקשות בכמות גדולה | להגדיר מגבלות על מספר הקריאות, שמירת תוצאות וכללים למניעת בקשות כפולות |
| תחזוקה | ממשקי API חיצוניים ופורמטי קלט עשויים להשתנות | להפעיל ניהול גרסאות, בדיקות אוטומטיות, זיהוי תקלות ונהלי טיפול חלופיים |
- יש להגביל מידע רגיש להיקף הנדרש למטרת הקריאה.
- יש להוסיף שלב אישור משתמש לפעולות תשלום, הזמנה, שליחה ומחיקה.
- יש לתעד באופן רציף את זמני התגובה של הכלים, שיעורי השגיאות ועלויות הקריאה.
- יש להציג בתוצאות את מקור הנתונים החיצוניים ואת מועד השליפה.
- במקרה של תקלה בכלי, יש להחיל קריטריונים למספר ניסיונות חוזרים ולעיבוד חלופי.
הכיוון של CLEVI ליישום בעבודה בפועל
מידת השימוש ב-AI בעבודה תלויה בביצועי המודל, בכלים שניתן לחבר, בדיוק הביצוע וברמת בקרות האבטחה. חיבור כמה כלים לבקשה אחת מאפשר לבצע באותו מסך את כל התהליך, מחיפוש מידע ועד לארגון התוצאות ולמשימות המשך. שילוב הרשאות ותהליכי אישור בהתאם לכל משימה מאפשר לצמצם עבודה חוזרת תוך שמירה על מדיניות האבטחה של הארגון.
- Tool Calling
- Function Calling
- AI גנרטיבי
- סוכני AI
- אוטומציה של תהליכי עבודה
- שילוב API