დღევანდელი ამინდის, KTX-ის განრიგის, ვალუტის კურსებისა და კომპანიის შიდა მასალების ცალ-ცალკე მოსაძიებლად საჭიროა სხვადასხვა აპსა და სისტემას შორის გადასვლა. AI-ს, რომელიც მხოლოდ სწავლის დასრულების მომენტისთვის არსებულ ინფორმაციას იყენებს, მუდმივად ცვალებადი სიტუაციების ასახვა უჭირს.
Tool Calling AI-ს ეხმარება, მომხმარებლის მოთხოვნის შესაბამისი გარე ხელსაწყო აირჩიოს და უახლესი ინფორმაციის მოძიება და სამუშაოების შესრულება დაამუშაოს. ამ სტატიაში განვმარტავთ Tool Calling-ის მუშაობის პრინციპს, გამოყენების სფეროებსა და იმ საკითხებს, რომლებიც დიზაინის დროს უნდა გაითვალისწინოთ.
რა არის Tool Calling
Tool Calling არის ტექნოლოგია, რომელიც დიდ ენობრივ მოდელს გარე ფუნქციებთან, API-ებთან, მონაცემთა ბაზებსა და სამუშაო სისტემებთან აკავშირებს. AI აანალიზებს მომხმარებლის მოთხოვნას, განსაზღვრავს საჭირო ხელსაწყოსა და შეყვანის მნიშვნელობებს, შემდეგ კი ხელსაწყოს მიერ დაბრუნებულ შედეგს იყენებს პასუხის გასაცემად ან შემდეგი სამუშაოს შესასრულებლად.
| კატეგორია | სასწავლო მონაცემებზე დაფუძნებული დამუშავება | Tool Calling-ზე დაფუძნებული დამუშავება |
|---|---|---|
| ინფორმაციის დრო | მოდელის სწავლის მომენტამდე არსებული ინფორმაციის გამოყენება | გარე მონაცემების გამოყენება გამოძახების მომენტში |
| გამოთვლა | კონტექსტზე დაყრდნობით შედეგის გენერირება | შედეგის გადამოწმება კალკულატორის ან გამოთვლის ფუნქციის გამოძახებით |
| კომპანიის შიდა მასალები | მხოლოდ სწავლის პროცესში ჩართული ინფორმაციის გამოყენება | წვდომის უფლების მქონე მონაცემთა ბაზებისა და დოკუმენტების სისტემების მოძიება |
| სამუშაოს შესრულება | პასუხის ტექსტის გენერირება | დაჯავშნის, რეგისტრაციის, გაგზავნისა და ანგარიშის გენერირების მსგავსი სამუშაოების შესრულება |
მოთხოვნის დამუშავების პროცესი
რისი გაკეთებაა შესაძლებელი Tool Calling-ით
Tool Calling ინფორმაციის მოძიებასა და სამუშაოს შესრულებას ერთი დიალოგის ნაკადში აერთიანებს. მომხმარებელს შეუძლია პირობები ბუნებრივ ენაზე გადასცეს ისე, რომ არ იცოდეს თითოეული სერვისის ძიების მეთოდი ან მენიუს მდებარეობა. კომპანიას შეუძლია მომხმარებლის უფლებებისა და სამუშაო წესების შესაბამისად განსხვავებულად დააკონფიგურიროს გამოსაძახებელი ხელსაწყოები.
| გამოყენების სფერო | დაკავშირების ობიექტები | დამუშავების მაგალითები |
|---|---|---|
| რეალურ დროში ინფორმაცია | ამინდის, ტრანსპორტის, ვალუტის კურსისა და აქციების ფასის API-ები | მიმდინარე დროის ინფორმაციის მოძიება და პირობების მიხედვით შედარება |
| ზუსტი გამოთვლები | კალკულატორი, სტატისტიკური ფუნქციები, საფასურის გამოთვლის API-ები | გადასახადების, მანძილის, ხარჯებისა და სტატისტიკური მნიშვნელობების გამოთვლა |
| შიდა ინფორმაცია | დოკუმენტების საცავი, მონაცემთა ბაზა, საძიებო სისტემა | რეგულაციების, ხელშეკრულებებისა და შედეგების შესახებ მასალების ძიება უფლებამოსილების ფარგლებში |
| განრიგის მართვა | კალენდარი, დაჯავშნის სისტემა | ხელმისაწვდომი დროის შემოწმება და განრიგში ჩანაწერის დამატება |
| კომუნიკაცია | ელფოსტა, მესენჯერი, შეტყობინებების სისტემა | მომხმარებლის თანხმობის შემდეგ შეტყობინების შედგენა და გაგზავნა |
| სამუშაოს ავტომატიზაცია | ანგარიშგების, მომხმარებელთა მართვისა და საწარმოს რესურსების მართვის სისტემები | მასალების შეგროვება, ფორმების შევსება და სტატუსის შეცვლა |
დაპროექტებისას გასათვალისწინებელი საკითხები
გარე სისტემებთან კავშირების ზრდასთან ერთად ფართოვდება მონაცემებზე წვდომის სფერო და შესრულების უფლებამოსილებაც. სერვისის ოპერატორმა კონკრეტულად უნდა განსაზღვროს გამოძახებამდე და გამოძახების შემდეგ შემოწმების პროცედურები, შეცდომებზე რეაგირების მეთოდები და ხარჯების ლიმიტები. მომხმარებელს უნდა შეეძლოს იმის გადამოწმება, თუ რომელი ინფორმაცია რომელ სისტემაში გადაიცემა.
| შესამოწმებელი საკითხი | შესაძლო პრობლემა | დაპროექტების მეთოდი |
|---|---|---|
| პერსონალური მონაცემების დაცვა | გამოძახების პროცესში პერსონალური მონაცემები შეიძლება გარე სისტემას გადაეცეს | გადაეცით მხოლოდ საჭირო მონაცემები და მართეთ დაშიფვრა, შენახვის ვადა და მესამე მხარისთვის მიწოდების პირობები |
| წვდომის უფლებები | შესაძლოა წვდომა მიიღონ მასალებსა და ფუნქციებზე, რომელთა გამოყენების უფლებაც არ აქვთ | გამოიყენეთ მომხმარებლის ავთენტიფიკაცია და როლების მიხედვით უფლებები, ხოლო გამოძახებამდე ხელახლა გადაამოწმეთ უფლებამოსილება |
| მონაცემთა სიზუსტე | API-მ შეიძლება მოძველებული ან არასწორი მნიშვნელობები დააბრუნოს | მიუთითეთ მონაცემების დრო და წყარო და გამოიყენეთ ვალიდაციისა და ურთიერთგადამოწმების პროცედურები |
| შესრულებაზე პასუხისმგებლობა | დაჯავშნის, გადახდისა და გაგზავნის პროცესში შეიძლება უნებლიე მოქმედებები დადასტურდეს | გაუქმება რთულ მოქმედებებზე გამოიყენეთ მომხმარებლის დადასტურებისა და თანხმობის ეტაპები |
| ხარჯების მართვა | განმეორებითმა გამოძახებებმა და მასშტაბურმა მოთხოვნებმა შეიძლება საოპერაციო ხარჯები გაზარდოს | დააყენეთ გამოძახებების რაოდენობის შეზღუდვები, შედეგების შენახვა და დუბლირებული მოთხოვნების თავიდან აცილების წესები |
| ტექნიკური მოვლა | გარე API-ები და შეყვანის ფორმატები შეიძლება შეიცვალოს | მართეთ ვერსიები, ავტომატური ტესტები, გაუმართაობის აღმოჩენა და ალტერნატიული დამუშავების პროცედურები |
- სენსიტიური ინფორმაცია შეზღუდეთ ზუსტად იმ ფარგლებით, რაც გამოძახების მიზნისთვის არის საჭირო.
- გადახდის, ჯავშნის, გაგზავნისა და წაშლის ოპერაციებისთვის მომხმარებლის თანხმობის ეტაპი დაამატეთ.
- ინსტრუმენტის პასუხის დროს, შეცდომების სიხშირესა და გამოძახების ღირებულებას მუდმივად აღრიცხეთ.
- შედეგებში მიუთითეთ გარე მონაცემების წყარო და მოძიების დრო.
- ინსტრუმენტის შეფერხების შემთხვევაში გამოიყენეთ განმეორებითი მცდელობების რაოდენობისა და ალტერნატიული დამუშავების კრიტერიუმები.
CLEVI-ის მიდგომა რეალურ სამუშაოში გამოყენებისადმი
AI-ის სამუშაოში გამოყენების ხარისხი დამოკიდებულია მოდელის შესაძლებლობებზე, დასაკავშირებელ ინსტრუმენტებზე, შესრულების სიზუსტესა და უსაფრთხოების კონტროლის დონეზე. ერთ მოთხოვნასთან რამდენიმე ინსტრუმენტის დაკავშირების შემთხვევაში, ინფორმაციის მოძიებიდან შედეგების დალაგებასა და შემდგომ სამუშაოებამდე ყველაფერი ერთ ეკრანზე შეიძლება დამუშავდეს. სამუშაოს მიხედვით უფლებებისა და თანხმობის პროცედურების ასახვით შესაძლებელია განმეორებითი სამუშაოების შემცირება ორგანიზაციის უსაფრთხოების პოლიტიკის შენარჩუნებისას.
- Tool Calling
- Function Calling
- გენერაციული AI
- AI აგენტი
- სამუშაოს ავტომატიზაცია
- API ინტეგრაცია