Bugünün hava durumunu, KTX sefer saatlerini, döviz kurlarını ve şirket içi belgeleri ayrı ayrı sorgulamak için birden fazla uygulama ve sistem arasında geçiş yapmak gerekir. Yalnızca eğitimin tamamlandığı tarihe kadar olan bilgileri kullanan AI, sürekli değişen durumları yansıtmakta zorlanır.
Tool Calling, AI'nin kullanıcının isteğine uygun harici araçları seçmesini, güncel bilgileri sorgulamasını ve iş süreçlerini yürütmesini sağlar. Bu yazıda Tool Calling'in çalışma şeklini, kullanım alanlarını ve tasarım sırasında kontrol edilmesi gereken noktaları açıklıyoruz.
Tool Calling nedir?
Tool Calling, büyük dil modellerini harici işlevlere, API'lere, veritabanlarına ve iş sistemlerine bağlayan bir teknolojidir. AI, kullanıcı isteğini analiz ettikten sonra gerekli araçları ve girdi değerlerini belirler; ardından aracın döndürdüğü sonuçları kullanarak yanıt verir veya sonraki işlemi gerçekleştirir.
| Kategori | Eğitim verilerine dayalı işleme | Tool Calling tabanlı işleme |
|---|---|---|
| Bilginin zamanı | Modelin eğitildiği tarihe kadar olan bilgileri kullanma | Çağrı anındaki harici verileri kullanma |
| Hesaplama | Bağlama dayanarak sonuç üretme | Sonucu doğrulamak için hesap makinesi veya hesaplama işlevini çağırma |
| Şirket içi belgeler | Yalnızca eğitim sürecine dahil edilen bilgileri kullanma | Yetki verilen veritabanlarını ve belge sistemlerini sorgulama |
| İş yürütme | Yanıt metni oluşturma | Rezervasyon, kayıt, gönderim ve rapor oluşturma gibi işlemleri gerçekleştirme |
İsteğin işlenme süreci
Tool Calling ile yapılabilecekler
Tool Calling, bilgi sorgulama ve iş yürütmeyi tek bir diyalog akışında birleştirir. Kullanıcılar her hizmetin arama yöntemini veya menü konumunu bilmeden koşulları doğal dille iletebilir. Kurumlar, kullanıcı yetkileri ve iş kurallarına göre çağrılabilir araçları farklı şekilde yapılandırabilir.
| Kullanım alanı | Bağlantı hedefi | İşleme örneği |
|---|---|---|
| Gerçek zamanlı bilgiler | Hava durumu, trafik, döviz kuru, hisse senedi API'leri | Güncel bilgileri sorgulama ve koşullara göre karşılaştırma |
| Kesin hesaplamalar | Hesap makinesi, istatistik işlevleri, ücret hesaplama API'leri | Vergi, mesafe, maliyet ve istatistiksel değer hesaplama |
| Şirket içi bilgiler | Belge depoları, veritabanları, arama sistemleri | Yetki kapsamı içinde politika, sözleşme ve performans verilerini arama |
| Takvim yönetimi | Takvimler, rezervasyon sistemleri | Uygun zamanları kontrol etme ve takvim kaydı oluşturma |
| İletişim | E-posta, mesajlaşma, bildirim sistemleri | Kullanıcı onayından sonra mesaj oluşturma ve gönderme |
| İş otomasyonu | Raporlama, müşteri yönetimi ve kurumsal kaynak planlama sistemleri | Veri toplama, form doldurma ve durumu değiştirme |
Tasarlarken kontrol edilmesi gerekenler
Harici sistem bağlantıları arttıkça veri erişim kapsamı ve yürütme yetkileri de genişler. Hizmet işletmecileri, çağrı öncesi ve sonrası doğrulama prosedürlerini, hata müdahale yöntemlerini ve maliyet sınırlarını ayrıntılı şekilde belirlemelidir. Kullanıcılar, hangi bilgilerin hangi sisteme aktarıldığını kontrol edebilmelidir.
| Kontrol maddesi | Olası sorun | Tasarım yöntemi |
|---|---|---|
| Kişisel verilerin korunması | Çağrı sırasında kişisel veriler harici bir sisteme aktarılabilir | Yalnızca gerekli verileri aktarın; şifreleme, saklama süresi ve üçüncü taraflara sağlama koşullarını yönetin |
| Erişim yetkileri | Kullanma yetkisi olmayan verilere veya işlevlere erişilebilir | Kullanıcı kimlik doğrulamasını ve role dayalı yetkilendirmeyi uygulayın; çağrıdan önce yetkiyi yeniden doğrulayın |
| Veri doğruluğu | API eski veya hatalı değerler döndürebilir | Veri zamanını ve kaynağını belirtin; geçerlilik denetimi ve çapraz doğrulama uygulayın |
| Yürütme sorumluluğu | Rezervasyon, ödeme veya gönderim sırasında istenmeyen bir işlem kesinleştirilebilir | İptal edilmesi zor işlemler için kullanıcı onayı ve onay adımlarını uygulayın |
| Maliyet yönetimi | Tekrarlanan çağrılar ve toplu istekler işletme maliyetlerini artırabilir | Çağrı sayısı sınırları, sonuçların saklanması ve yinelenen istekleri önleme kuralları belirleyin |
| Bakım | Harici API'ler ve girdi biçimleri değişebilir | Sürüm yönetimi, otomatik testler, arıza algılama ve alternatif işlem prosedürleri uygulayın |
- Hassas bilgiler, çağrının amacı için gerekli kapsamla sınırlandırılır.
- Ödeme, rezervasyon, gönderim ve silme işlemleri için kullanıcı onayı adımı eklenir.
- Araçların yanıt süresi, hata oranı ve çağrı maliyeti sürekli olarak kaydedilir.
- Harici verilerin kaynağı ve sorgu zamanı sonuçlarda gösterilir.
- Araç arızası meydana geldiğinde yeniden deneme sayısı ve alternatif işlem kriterleri uygulanır.
CLEVI’nin gerçek iş süreçlerinde uygulanmasına yönelik yaklaşımı
Yapay zekânın iş süreçlerindeki kullanım düzeyi; model performansına, bağlanabilen araçlara, yürütme doğruluğuna ve güvenlik kontrollerinin düzeyine bağlıdır. Tek bir isteğe birden fazla araç bağlandığında, bilgi aramadan sonuçları düzenlemeye ve sonraki işlemlere kadar her şey aynı ekrandan gerçekleştirilebilir. İş süreçlerine göre yetkilendirme ve onay prosedürleri uygulandığında, kuruluşun güvenlik politikaları korunurken tekrarlayan işler azaltılabilir.
- Tool Calling
- Function Calling
- Üretken yapay zekâ
- Yapay zekâ ajanları
- İş otomasyonu
- API entegrasyonu