หากต้องการตรวจสอบสภาพอากาศวันนี้ ตารางเวลา KTX อัตราแลกเปลี่ยน และเอกสารภายในบริษัทแยกกัน ผู้ใช้ต้องสลับไปมาระหว่างแอปและระบบหลายรายการ AI ที่ใช้เฉพาะข้อมูล ณ เวลาที่การฝึกเสร็จสิ้นจะสะท้อนสถานการณ์ที่เปลี่ยนแปลงอยู่ตลอดได้ยาก
Tool Calling ช่วยให้ AI เลือกเครื่องมือภายนอกที่เหมาะกับคำขอของผู้ใช้ และดำเนินการตรวจสอบข้อมูลล่าสุดรวมถึงการปฏิบัติงานได้ บทความนี้อธิบายวิธีการทำงาน ขอบเขตการใช้งาน และสิ่งที่ควรตรวจสอบเมื่อออกแบบ Tool Calling
Tool Calling คืออะไร
Tool Calling คือเทคโนโลยีที่เชื่อมต่อโมเดลภาษาขนาดใหญ่ให้สามารถเรียกใช้ฟังก์ชันภายนอก API ฐานข้อมูล และระบบงานได้ AI จะวิเคราะห์คำขอของผู้ใช้ จากนั้นกำหนดเครื่องมือและค่าป้อนเข้าที่จำเป็น แล้วใช้ผลลัพธ์ที่เครื่องมือส่งกลับมาเพื่อตอบคำถามหรือดำเนินงานถัดไป
| ประเภท | การประมวลผลโดยอิงข้อมูลการฝึก | การประมวลผลโดยอิง Tool Calling |
|---|---|---|
| ช่วงเวลาของข้อมูล | ใช้ข้อมูลจนถึงเวลาที่โมเดลได้รับการฝึก | ใช้ข้อมูลภายนอก ณ เวลาที่เรียกใช้ |
| การคำนวณ | สร้างผลลัพธ์จากบริบท | เรียกใช้เครื่องคิดเลขหรือฟังก์ชันการคำนวณเพื่อตรวจสอบผลลัพธ์ |
| เอกสารภายในบริษัท | ใช้เฉพาะข้อมูลที่รวมอยู่ในกระบวนการฝึก | ตรวจสอบฐานข้อมูลและระบบเอกสารที่ได้รับอนุญาตให้เข้าถึง |
| การดำเนินงาน | สร้างข้อความตอบกลับ | ดำเนินงานต่าง ๆ เช่น การจอง การลงทะเบียน การส่ง และการสร้างรายงาน |
กระบวนการประมวลผลคำขอ
สิ่งที่ทำได้ด้วย Tool Calling
Tool Calling เชื่อมการเรียกดูข้อมูลและการดำเนินงานเข้าด้วยกันในกระบวนการสนทนาเดียว ผู้ใช้สามารถส่งเงื่อนไขด้วยภาษาธรรมชาติได้โดยไม่จำเป็นต้องทราบวิธีค้นหาหรือตำแหน่งเมนูของแต่ละบริการ องค์กรสามารถกำหนดเครื่องมือที่เรียกใช้ได้แตกต่างกันตามสิทธิ์ของผู้ใช้และกฎการทำงาน
| ขอบเขตการใช้งาน | ระบบที่เชื่อมต่อ | ตัวอย่างการประมวลผล |
|---|---|---|
| ข้อมูลแบบเรียลไทม์ | สภาพอากาศ การจราจร อัตราแลกเปลี่ยน API ราคาหุ้น | เรียกดูข้อมูล ณ เวลาปัจจุบันและเปรียบเทียบตามเงื่อนไข |
| การคำนวณที่แม่นยำ | เครื่องคิดเลข ฟังก์ชันสถิติ API คำนวณค่าบริการ | คำนวณภาษี ระยะทาง ค่าใช้จ่าย และค่าสถิติ |
| ข้อมูลภายในองค์กร | พื้นที่จัดเก็บเอกสาร ฐานข้อมูล ระบบค้นหา | ค้นหาข้อกำหนด สัญญา และข้อมูลผลการดำเนินงานภายในขอบเขตสิทธิ์ |
| การจัดการกำหนดการ | ปฏิทิน ระบบจอง | ตรวจสอบเวลาที่ว่างและลงทะเบียนกำหนดการ |
| การสื่อสาร | อีเมล โปรแกรมส่งข้อความ ระบบแจ้งเตือน | เขียนและส่งข้อความหลังจากได้รับการอนุมัติจากผู้ใช้ |
| การทำงานอัตโนมัติ | ระบบรายงาน ระบบบริหารลูกค้า ระบบวางแผนทรัพยากรองค์กร | รวบรวมข้อมูล กรอกแบบฟอร์ม และเปลี่ยนสถานะ |
ประเด็นที่ต้องตรวจสอบเมื่อออกแบบ
เมื่อมีการเชื่อมต่อระบบภายนอกเพิ่มขึ้น ขอบเขตการเข้าถึงข้อมูลและสิทธิ์ในการดำเนินการก็จะขยายขึ้นตามไปด้วย ผู้ให้บริการต้องกำหนดขั้นตอนการตรวจสอบก่อนและหลังการเรียกใช้ วิธีรับมือข้อผิดพลาด และขีดจำกัดค่าใช้จ่ายอย่างชัดเจน ผู้ใช้ต้องสามารถตรวจสอบได้ว่าข้อมูลใดถูกส่งไปยังระบบใด
| รายการตรวจสอบ | ปัญหาที่อาจเกิดขึ้น | วิธีการออกแบบ |
|---|---|---|
| การคุ้มครองข้อมูลส่วนบุคคล | ข้อมูลส่วนบุคคลอาจถูกส่งไปยังระบบภายนอกระหว่างกระบวนการเรียกใช้ | ส่งเฉพาะข้อมูลที่จำเป็น และจัดการการเข้ารหัส ระยะเวลาเก็บรักษา และเงื่อนไขการให้ข้อมูลแก่บุคคลที่สาม |
| สิทธิ์การเข้าถึง | อาจเข้าถึงข้อมูลหรือฟังก์ชันที่ไม่มีสิทธิ์ใช้งาน | ใช้การยืนยันตัวตนของผู้ใช้และสิทธิ์ตามบทบาท พร้อมตรวจสอบสิทธิ์อีกครั้งก่อนเรียกใช้ |
| ความถูกต้องของข้อมูล | API อาจส่งคืนค่าที่ล้าสมัยหรือไม่ถูกต้อง | แสดงช่วงเวลาและแหล่งที่มาของข้อมูล พร้อมใช้การตรวจสอบความถูกต้องและการตรวจสอบไขว้ |
| ความรับผิดชอบในการดำเนินการ | งานที่ไม่ได้ตั้งใจอาจได้รับการยืนยันระหว่างการจอง การชำระเงิน หรือการส่งข้อมูล | ใช้ขั้นตอนการยืนยันและอนุมัติจากผู้ใช้สำหรับงานที่ยกเลิกได้ยาก |
| การจัดการค่าใช้จ่าย | ค่าใช้จ่ายในการดำเนินงานอาจเพิ่มขึ้นจากการเรียกใช้ซ้ำและคำขอจำนวนมาก | กำหนดข้อจำกัดจำนวนครั้งในการเรียกใช้ การจัดเก็บผลลัพธ์ และกฎป้องกันคำขอซ้ำ |
| การบำรุงรักษา | API ภายนอกและรูปแบบอินพุตอาจมีการเปลี่ยนแปลง | ดำเนินการจัดการเวอร์ชัน การทดสอบอัตโนมัติ การตรวจจับความขัดข้อง และขั้นตอนการประมวลผลสำรอง |
- จำกัดข้อมูลที่ละเอียดอ่อนให้อยู่ในขอบเขตที่จำเป็นต่อวัตถุประสงค์ของการเรียกใช้งาน
- กำหนดขั้นตอนการอนุมัติจากผู้ใช้สำหรับการชำระเงิน การจอง การส่ง และการลบ
- บันทึกเวลาตอบสนอง อัตราข้อผิดพลาด และค่าใช้จ่ายในการเรียกใช้เครื่องมืออย่างต่อเนื่อง
- แสดงแหล่งที่มาและเวลาที่ค้นข้อมูลของข้อมูลภายนอกในผลลัพธ์
- เมื่อเครื่องมือขัดข้อง ให้ใช้เกณฑ์สำหรับจำนวนครั้งในการลองใหม่และการดำเนินการสำรอง
แนวทางของ CLEVI สำหรับการนำไปใช้ในงานจริง
ระดับการนำ AI ไปใช้ในงานขึ้นอยู่กับประสิทธิภาพของโมเดล เครื่องมือที่สามารถเชื่อมต่อได้ ความแม่นยำในการดำเนินการ และระดับการควบคุมความปลอดภัย การเชื่อมต่อเครื่องมือหลายรายการเข้ากับคำขอเดียวช่วยให้ดำเนินการได้ตั้งแต่การค้นหาข้อมูล การจัดระเบียบผลลัพธ์ ไปจนถึงงานต่อเนื่องในหน้าจอเดียว การนำสิทธิ์และขั้นตอนการอนุมัติตามงานมาปรับใช้ช่วยลดงานซ้ำ ๆ ได้โดยยังคงนโยบายความปลอดภัยขององค์กรไว้
- Tool Calling
- Function Calling
- Generative AI
- AI Agent
- การทำงานอัตโนมัติในงาน
- การเชื่อมต่อ API