Για να ελέγξετε τον σημερινό καιρό, τα δρομολόγια του KTX, τις συναλλαγματικές ισοτιμίες και τα εσωτερικά εταιρικά έγγραφα, πρέπει να μετακινείστε μεταξύ πολλών εφαρμογών και συστημάτων. Το AI που χρησιμοποιεί μόνο πληροφορίες έως τη στιγμή ολοκλήρωσης της εκπαίδευσής του δυσκολεύεται να αντικατοπτρίσει καταστάσεις που αλλάζουν συνεχώς.
Το Tool Calling επιτρέπει στο AI να επιλέγει εξωτερικά εργαλεία κατάλληλα για το αίτημα του χρήστη, να ανακτά τις πιο πρόσφατες πληροφορίες και να εκτελεί εργασίες. Σε αυτό το άρθρο εξηγούνται ο τρόπος λειτουργίας του Tool Calling, το πεδίο αξιοποίησής του και τα σημεία που πρέπει να ελέγχονται κατά τον σχεδιασμό.
Τι είναι το Tool Calling
Το Tool Calling είναι μια τεχνολογία που συνδέει μεγάλα γλωσσικά μοντέλα με εξωτερικές συναρτήσεις, API, βάσεις δεδομένων και επιχειρησιακά συστήματα, ώστε να μπορούν να τα καλούν. Αφού αναλύσει το αίτημα του χρήστη, το AI καθορίζει τα απαραίτητα εργαλεία και τις τιμές εισόδου και, χρησιμοποιώντας τα αποτελέσματα που επιστρέφουν τα εργαλεία, παρέχει απάντηση ή εκτελεί την επόμενη εργασία.
| Κατηγορία | Επεξεργασία βάσει δεδομένων εκπαίδευσης | Επεξεργασία βάσει Tool Calling |
|---|---|---|
| Χρονικό σημείο πληροφοριών | Χρήση πληροφοριών έως τη στιγμή εκπαίδευσης του μοντέλου | Χρήση εξωτερικών δεδομένων κατά τη στιγμή της κλήσης |
| Υπολογισμός | Δημιουργία αποτελέσματος με βάση το πλαίσιο | Έλεγχος του αποτελέσματος μέσω κλήσης αριθμομηχανής ή συνάρτησης υπολογισμού |
| Εσωτερικά εταιρικά έγγραφα | Αξιοποίηση μόνο των πληροφοριών που περιλαμβάνονται στη διαδικασία εκπαίδευσης | Αναζήτηση σε βάσεις δεδομένων και συστήματα εγγράφων στα οποία επιτρέπεται η πρόσβαση |
| Εκτέλεση εργασιών | Δημιουργία κειμένου απάντησης | Εκτέλεση εργασιών όπως κρατήσεις, καταχωρίσεις, αποστολές και δημιουργία αναφορών |
Διαδικασία επεξεργασίας του αιτήματος
Τι είναι δυνατό με το Tool Calling
Το Tool Calling συνδέει την ανάκτηση πληροφοριών και την εκτέλεση εργασιών σε μία ενιαία ροή συνομιλίας. Οι χρήστες μπορούν να μεταφέρουν τις συνθήκες σε φυσική γλώσσα, χωρίς να χρειάζεται να γνωρίζουν τον τρόπο αναζήτησης ή τη θέση των μενού κάθε υπηρεσίας. Οι企业σεις μπορούν να διαμορφώνουν διαφορετικά τα εργαλεία που είναι διαθέσιμα προς κλήση, σύμφωνα με τα δικαιώματα των χρηστών και τους επιχειρησιακούς κανόνες.
| Περιοχή αξιοποίησης | Συνδεδεμένος στόχος | Παράδειγμα επεξεργασίας |
|---|---|---|
| Πληροφορίες σε πραγματικό χρόνο | API καιρού, κυκλοφορίας, συναλλαγματικών ισοτιμιών και τιμών μετοχών | Ανάκτηση πληροφοριών της τρέχουσας στιγμής και σύγκριση ανά συνθήκη |
| Ακριβείς υπολογισμοί | Αριθμομηχανή, συναρτήσεις στατιστικής, API υπολογισμού χρεώσεων | Υπολογισμός φόρων, αποστάσεων, κόστους και στατιστικών τιμών |
| Εσωτερικές πληροφορίες | Αποθετήρια εγγράφων, βάσεις δεδομένων, συστήματα αναζήτησης | Αναζήτηση κανονισμών, συμβάσεων και δεδομένων απόδοσης εντός του εύρους δικαιωμάτων |
| Διαχείριση προγράμματος | Ημερολόγια, συστήματα κρατήσεων | Έλεγχος διαθέσιμων ωρών και καταχώριση προγράμματος |
| Επικοινωνία | Email, messenger, συστήματα ειδοποιήσεων | Σύνταξη και αποστολή μηνυμάτων μετά την έγκριση του χρήστη |
| Αυτοματοποίηση εργασιών | Συστήματα αναφορών, διαχείρισης πελατών και διαχείρισης επιχειρησιακών πόρων | Συλλογή δεδομένων, συμπλήρωση φορμών και αλλαγή κατάστασης |
Σημεία που πρέπει να ελέγχονται κατά τον σχεδιασμό
Καθώς αυξάνονται οι συνδέσεις με εξωτερικά συστήματα, διευρύνονται παράλληλα και το εύρος πρόσβασης στα δεδομένα και τα δικαιώματα εκτέλεσης. Οι υπεύθυνοι λειτουργίας της υπηρεσίας πρέπει να καθορίζουν με σαφήνεια τις διαδικασίες επαλήθευσης πριν και μετά την κλήση, τον τρόπο αντιμετώπισης σφαλμάτων και τα όρια κόστους. Οι χρήστες πρέπει να μπορούν να επιβεβαιώνουν ποιες πληροφορίες μεταδίδονται και σε ποιο σύστημα.
| Στοιχείο ελέγχου | Πιθανό πρόβλημα | Μέθοδος σχεδιασμού |
|---|---|---|
| Προστασία προσωπικών δεδομένων | Κατά τη διαδικασία κλήσης, προσωπικά δεδομένα ενδέχεται να μεταδοθούν σε εξωτερικά συστήματα | Μεταδίδετε μόνο τα απαραίτητα δεδομένα και διαχειρίζεστε την κρυπτογράφηση, την περίοδο διατήρησης και τους όρους παροχής σε τρίτους |
| Δικαιώματα πρόσβασης | Ενδέχεται να γίνει πρόσβαση σε υλικό ή λειτουργίες για τις οποίες δεν υπάρχει δικαίωμα χρήσης | Εφαρμόζετε έλεγχο ταυτότητας χρηστών και δικαιώματα ανά ρόλο και επανελέγχετε τα δικαιώματα πριν από την κλήση |
| Ακρίβεια δεδομένων | Το API ενδέχεται να επιστρέψει παρωχημένες ή λανθασμένες τιμές | Εμφανίζετε τη χρονική στιγμή και την πηγή των δεδομένων και εφαρμόζετε ελέγχους εγκυρότητας και διασταυρούμενη επαλήθευση |
| Ευθύνη εκτέλεσης | Κατά τη διαδικασία κράτησης, πληρωμής ή αποστολής ενδέχεται να οριστικοποιηθούν μη προβλεπόμενες ενέργειες | Εφαρμόζετε στάδια επιβεβαίωσης και έγκρισης από τον χρήστη για ενέργειες που είναι δύσκολο να ακυρωθούν |
| Διαχείριση κόστους | Το λειτουργικό κόστος ενδέχεται να αυξηθεί λόγω επαναλαμβανόμενων κλήσεων και μαζικών αιτημάτων | Ορίζετε όρια στον αριθμό κλήσεων, αποθήκευση αποτελεσμάτων και κανόνες αποτροπής διπλών αιτημάτων |
| Συντήρηση | Τα εξωτερικά API και οι μορφές εισόδου ενδέχεται να αλλάξουν | Λειτουργείτε διαχείριση εκδόσεων, αυτοματοποιημένες δοκιμές, ανίχνευση βλαβών και διαδικασίες εναλλακτικής处理σης |
- Περιορίζουμε τις ευαίσθητες πληροφορίες στο εύρος που απαιτείται για τον σκοπό της κλήσης.
- Για τις εργασίες πληρωμής, κράτησης, αποστολής και διαγραφής, προβλέπουμε στάδιο έγκρισης από τον χρήστη.
- Καταγράφουμε συνεχώς τον χρόνο απόκρισης των εργαλείων, το ποσοστό σφαλμάτων και το κόστος των κλήσεων.
- Εμφανίζουμε στα αποτελέσματα την πηγή των εξωτερικών δεδομένων και τον χρόνο ανάκτησής τους.
- Σε περίπτωση βλάβης εργαλείου, εφαρμόζουμε κριτήρια για τον αριθμό των επαναλήψεων και την εναλλακτική επεξεργασία.
Η προσέγγιση της CLEVI για την εφαρμογή στην πραγματική εργασία
Η αξιοποίηση της AI στην εργασία εξαρτάται από την απόδοση του μοντέλου, τα εργαλεία που μπορούν να συνδεθούν, την ακρίβεια εκτέλεσης και το επίπεδο των ελέγχων ασφαλείας. Με τη σύνδεση πολλών εργαλείων σε ένα αίτημα, μπορείτε να εκτελείτε στην ίδια οθόνη τα πάντα, από την αναζήτηση πληροφοριών έως την οργάνωση των αποτελεσμάτων και τις επακόλουθες εργασίες. Με την ενσωμάτωση δικαιωμάτων και διαδικασιών έγκρισης ανά εργασία, μπορείτε να μειώσετε τις επαναλαμβανόμενες εργασίες διατηρώντας παράλληλα τις πολιτικές ασφαλείας του οργανισμού.
- Tool Calling
- Function Calling
- Παραγωγική AI
- Πράκτορες AI
- Αυτοματοποίηση εργασιών
- Ενσωμάτωση API