Untuk mencari cuaca hari ini, jadwal KTX, nilai tukar, dan materi internal perusahaan, Anda harus berpindah-pindah di antara berbagai aplikasi dan sistem. AI yang hanya menggunakan informasi hingga saat pelatihannya selesai akan kesulitan mencerminkan situasi yang terus berubah.
Tool Calling memungkinkan AI memilih alat eksternal yang sesuai dengan permintaan pengguna, mencari informasi terbaru, dan menjalankan pekerjaan. Artikel ini menjelaskan cara kerja Tool Calling, cakupan penggunaannya, serta hal-hal yang perlu diperiksa saat merancangnya.
Apa yang dimaksud dengan Tool Calling
Tool Calling adalah teknologi yang menghubungkan model bahasa besar agar dapat memanggil fungsi eksternal, API, basis data, dan sistem kerja. Setelah menganalisis permintaan pengguna, AI menentukan alat dan nilai input yang diperlukan, lalu menggunakan hasil yang dikembalikan alat untuk memberikan jawaban atau melakukan pekerjaan berikutnya.
| Klasifikasi | Pemrosesan berbasis data pelatihan | Pemrosesan berbasis Tool Calling |
|---|---|---|
| Waktu informasi | Menggunakan informasi hingga saat model dilatih | Menggunakan data eksternal pada saat pemanggilan |
| Perhitungan | Menghasilkan hasil berdasarkan konteks | Memanggil kalkulator atau fungsi operasi untuk memeriksa hasil |
| Materi internal perusahaan | Hanya memanfaatkan informasi yang termasuk dalam proses pelatihan | Mencari basis data dan sistem dokumen yang izinnya diberikan |
| Pelaksanaan pekerjaan | Menghasilkan kalimat respons | Melakukan pekerjaan seperti reservasi, pendaftaran, pengiriman, dan pembuatan laporan |
Proses pemrosesan permintaan
Hal-hal yang dapat dilakukan dengan Tool Calling
Tool Calling menghubungkan pencarian informasi dan pelaksanaan tugas dalam satu alur percakapan. Pengguna dapat menyampaikan kondisi dalam bahasa alami tanpa perlu mengetahui cara pencarian atau lokasi menu setiap layanan. Perusahaan dapat mengonfigurasi alat yang dapat dipanggil secara berbeda sesuai dengan hak akses pengguna dan aturan kerja.
| Area penggunaan | Target koneksi | Contoh pemrosesan |
|---|---|---|
| Informasi real-time | API cuaca, lalu lintas, nilai tukar, dan harga saham | Mencari informasi terkini dan membandingkan berdasarkan kondisi |
| Perhitungan akurat | Kalkulator, fungsi statistik, dan API perhitungan biaya | Menghitung pajak, jarak, biaya, dan nilai statistik |
| Informasi internal perusahaan | Repositori dokumen, basis data, dan sistem pencarian | Mencari peraturan, kontrak, dan data kinerja dalam lingkup hak akses |
| Manajemen jadwal | Kalender dan sistem reservasi | Memeriksa waktu yang tersedia dan mendaftarkan jadwal |
| Komunikasi | Email, messenger, dan sistem notifikasi | Menyusun dan mengirim pesan setelah mendapat persetujuan pengguna |
| Otomatisasi tugas | Sistem pelaporan, manajemen pelanggan, dan perencanaan sumber daya perusahaan | Mengumpulkan data, mengisi formulir, dan mengubah status |
Hal-hal yang perlu diperiksa saat merancang
Seiring bertambahnya koneksi ke sistem eksternal, cakupan akses data dan hak pelaksanaan juga meluas. Pengelola layanan harus menetapkan secara konkret prosedur verifikasi sebelum dan sesudah pemanggilan, metode penanganan kesalahan, serta batas biaya. Pengguna harus dapat memastikan informasi apa yang dikirim ke sistem mana.
| Item pemeriksaan | Masalah yang mungkin terjadi | Metode perancangan |
|---|---|---|
| Perlindungan informasi pribadi | Informasi pribadi dapat dikirim ke sistem eksternal selama proses pemanggilan | Kirim hanya data yang diperlukan dan kelola enkripsi, masa penyimpanan, serta ketentuan pemberian kepada pihak ketiga |
| Hak akses | Data atau fungsi yang tidak memiliki hak akses dapat diakses | Terapkan autentikasi pengguna dan hak akses berdasarkan peran, lalu periksa kembali hak akses sebelum pemanggilan |
| Keakuratan data | API dapat mengembalikan nilai yang sudah usang atau salah | Tampilkan waktu dan sumber data, lalu terapkan validasi dan verifikasi silang |
| Tanggung jawab pelaksanaan | Tindakan yang tidak diinginkan dapat dikonfirmasi selama proses reservasi, pembayaran, atau pengiriman | Terapkan konfirmasi pengguna dan tahapan persetujuan untuk tindakan yang sulit dibatalkan |
| Manajemen biaya | Biaya operasional dapat meningkat karena pemanggilan berulang dan permintaan dalam jumlah besar | Tetapkan batas jumlah pemanggilan, penyimpanan hasil, dan aturan pencegahan permintaan duplikat |
| Pemeliharaan | API eksternal dan format input dapat berubah | Operasikan manajemen versi, pengujian otomatis, deteksi gangguan, dan prosedur penanganan alternatif |
- Batasi informasi sensitif pada lingkup yang diperlukan untuk tujuan pemanggilan.
- Terapkan tahap persetujuan pengguna untuk pembayaran, pemesanan, pengiriman, dan penghapusan.
- Catat waktu respons alat, tingkat kesalahan, dan biaya pemanggilan secara berkelanjutan.
- Tampilkan sumber dan waktu pengambilan data eksternal dalam hasil.
- Jika terjadi gangguan alat, terapkan jumlah percobaan ulang dan kriteria penanganan alternatif.
Arah CLEVI untuk penerapan dalam pekerjaan nyata
Pemanfaatan AI dalam pekerjaan bergantung pada kinerja model, alat yang dapat dihubungkan, akurasi eksekusi, dan tingkat kontrol keamanan. Dengan menghubungkan beberapa alat ke satu permintaan, Anda dapat menangani pencarian informasi hingga penyusunan hasil dan pekerjaan lanjutan dalam satu layar. Dengan menerapkan hak akses dan prosedur persetujuan untuk setiap pekerjaan, Anda dapat mengurangi pekerjaan berulang sambil mempertahankan kebijakan keamanan organisasi.
- Tool Calling
- Function Calling
- AI generatif
- Agen AI
- Otomatisasi pekerjaan
- Integrasi API