Aby sprawdzić dzisiejszą pogodę, rozkład jazdy KTX, kursy walut i materiały firmowe, trzeba przełączać się między wieloma aplikacjami i systemami. AI korzystającej wyłącznie z informacji dostępnych do momentu zakończenia uczenia trudno jest uwzględniać stale zmieniające się sytuacje.
Tool Calling umożliwia AI wybieranie zewnętrznych narzędzi odpowiednich do żądania użytkownika oraz pobieranie najnowszych informacji i wykonywanie zadań. W tym artykule wyjaśniamy sposób działania Tool Calling, zakres zastosowań oraz kwestie, które należy uwzględnić podczas projektowania.
Czym jest Tool Calling
Tool Calling to technologia łącząca duże modele językowe z zewnętrznymi funkcjami, interfejsami API, bazami danych i systemami biznesowymi, aby mogły je wywoływać. Po przeanalizowaniu żądania użytkownika AI określa potrzebne narzędzia i wartości wejściowe, a następnie wykorzystuje wyniki zwrócone przez narzędzia do udzielenia odpowiedzi lub wykonania kolejnego zadania.
| Kategoria | Przetwarzanie na podstawie danych treningowych | Przetwarzanie na podstawie Tool Calling |
|---|---|---|
| Moment aktualności informacji | Korzystanie z informacji dostępnych do momentu uczenia modelu | Korzystanie z danych zewnętrznych dostępnych w momencie wywołania |
| Obliczenia | Generowanie wyniku na podstawie kontekstu | Sprawdzanie wyniku przez wywołanie kalkulatora lub funkcji obliczeniowej |
| Materiały firmowe | Wykorzystywanie wyłącznie informacji uwzględnionych w procesie uczenia | Przeszukiwanie baz danych i systemów dokumentów, do których dostęp jest dozwolony |
| Wykonywanie zadań | Generowanie treści odpowiedzi | Wykonywanie zadań takich jak rezerwowanie, rejestrowanie, wysyłanie i tworzenie raportów |
Proces przetwarzania żądania
Co można zrobić za pomocą Tool Calling
Wywoływanie narzędzi łączy pobieranie informacji i wykonywanie zadań w ramach jednego przebiegu rozmowy. Użytkownicy mogą przekazywać warunki w języku naturalnym, bez znajomości sposobu wyszukiwania ani lokalizacji menu w poszczególnych usługach. Przedsiębiorstwa mogą różnie konfigurować narzędzia dostępne do wywołania, zgodnie z uprawnieniami użytkowników i zasadami obowiązującymi w pracy.
| Obszar zastosowania | Połączone systemy | Przykłady przetwarzania |
|---|---|---|
| Informacje w czasie rzeczywistym | API pogody, ruchu drogowego, kursów walut i cen akcji | Pobieranie informacji z bieżącego momentu i porównywanie ich według określonych warunków |
| Precyzyjne obliczenia | Kalkulatory, funkcje statystyczne, API do obliczania opłat | Obliczanie podatków, odległości, kosztów i wartości statystycznych |
| Informacje firmowe | Repozytoria dokumentów, bazy danych, systemy wyszukiwania | Wyszukiwanie regulaminów, umów i materiałów dotyczących wyników w zakresie posiadanych uprawnień |
| Zarządzanie harmonogramem | Kalendarze, systemy rezerwacji | Sprawdzanie dostępnych terminów i dodawanie wydarzeń do harmonogramu |
| Komunikacja | E-mail, komunikatory, systemy powiadomień | Tworzenie i wysyłanie wiadomości po uzyskaniu zgody użytkownika |
| Automatyzacja pracy | Systemy raportowania, zarządzania relacjami z klientami i planowania zasobów przedsiębiorstwa | Zbieranie materiałów, wypełnianie formularzy i zmiana statusu |
Kwestie, które należy sprawdzić podczas projektowania
Wraz ze wzrostem liczby połączeń z systemami zewnętrznymi zwiększa się również zakres dostępu do danych i uprawnień do wykonywania działań. Operator usługi powinien szczegółowo określić procedury weryfikacji przed wywołaniem i po nim, sposób reagowania na błędy oraz limity kosztów. Użytkownicy powinni móc sprawdzić, jakie informacje są przekazywane do którego systemu.
| Element do sprawdzenia | Możliwe problemy | Sposób projektowania |
|---|---|---|
| Ochrona danych osobowych | Podczas wywołania dane osobowe mogą zostać przekazane do systemu zewnętrznego | Przesyłać tylko niezbędne dane oraz zarządzać szyfrowaniem, okresem przechowywania i warunkami udostępniania danych podmiotom trzecim |
| Uprawnienia dostępu | Może dojść do uzyskania dostępu do materiałów lub funkcji, do których użytkownik nie ma uprawnień | Stosować uwierzytelnianie użytkowników i uprawnienia zależne od ról oraz ponownie sprawdzać uprawnienia przed wywołaniem |
| Dokładność danych | API może zwrócić nieaktualne lub nieprawidłowe wartości | Wyświetlać moment pozyskania danych i ich źródło oraz stosować walidację i weryfikację krzyżową |
| Odpowiedzialność za wykonanie | Podczas rezerwacji, płatności lub wysyłania może zostać zatwierdzone niezamierzone działanie | W przypadku działań trudnych do anulowania stosować potwierdzenie użytkownika i etapy zatwierdzania |
| Zarządzanie kosztami | Koszty operacyjne mogą wzrosnąć z powodu powtarzających się wywołań i dużej liczby żądań | Ustawić limity liczby wywołań, zapisywanie wyników i zasady zapobiegania zduplikowanym żądaniom |
| Utrzymanie | Zewnętrzne API i formaty danych wejściowych mogą ulec zmianie | Stosować zarządzanie wersjami, automatyczne testy i wykrywanie awarii oraz zapewnić procedury zastępcze |
- Ograniczamy zakres informacji wrażliwych do tego, co jest niezbędne do realizacji celu wywołania.
- W przypadku płatności, rezerwacji, wysyłania i usuwania wprowadzamy etap akceptacji przez użytkownika.
- Stale rejestrujemy czas odpowiedzi narzędzi, wskaźnik błędów oraz koszt wywołań.
- Wyniki zawierają źródło danych zewnętrznych i czas ich pobrania.
- W przypadku awarii narzędzia stosujemy określoną liczbę ponowień oraz kryteria obsługi alternatywnej.
Kierunek CLEVI w zakresie zastosowań w rzeczywistej pracy
Zakres wykorzystania AI w pracy zależy od wydajności modelu, dostępnych narzędzi, dokładności wykonywania zadań oraz poziomu kontroli bezpieczeństwa. Połączenie wielu narzędzi z jednym żądaniem umożliwia realizację — na jednym ekranie — całego procesu, od wyszukiwania informacji po porządkowanie wyników i wykonywanie dalszych działań. Uwzględnienie uprawnień i procedur akceptacji właściwych dla poszczególnych zadań pozwala ograniczyć liczbę powtarzalnych czynności przy jednoczesnym zachowaniu zasad bezpieczeństwa organizacji.
- Tool Calling
- Function Calling
- Generatywna AI
- Agenci AI
- Automatyzacja pracy
- Integracja z API