오늘의 날씨, KTX 시간표, 환율, 사내 자료를 각각 조회하려면 여러 앱과 시스템을 오가야 합니다. 학습이 끝난 시점의 정보만 사용하는 AI는 계속 변하는 상황을 반영하기 어렵습니다.
Tool Calling은 AI가 사용자의 요청에 맞는 외부 도구를 선택하고 최신 정보 조회와 업무 실행을 처리하도록 지원합니다. 이 글에서는 Tool Calling의 작동 방식, 활용 범위, 설계 시 확인할 사항을 설명합니다.
Tool Calling이란 무엇인가
Tool Calling은 대규모 언어 모델이 외부 함수, API, 데이터베이스, 업무 시스템을 호출하도록 연결하는 기술입니다. AI는 사용자 요청을 분석한 뒤 필요한 도구와 입력값을 정하고, 도구가 반환한 결과를 이용해 답변하거나 다음 작업을 수행합니다.
| 구분 | 학습 데이터 기반 처리 | Tool Calling 기반 처리 |
|---|---|---|
| 정보 시점 | 모델 학습 시점까지의 정보 사용 | 호출 시점의 외부 데이터 사용 |
| 계산 | 문맥을 바탕으로 결과 생성 | 계산기나 연산 함수를 호출해 결과 확인 |
| 사내 자료 | 학습 과정에 포함된 정보만 활용 | 권한이 허용된 데이터베이스와 문서 시스템 조회 |
| 업무 실행 | 응답 문장 생성 | 예약, 등록, 전송, 보고서 생성 등의 작업 수행 |
요청이 처리되는 과정
Tool Calling으로 가능한 일
Tool Calling은 정보 조회와 업무 실행을 하나의 대화 흐름에 연결합니다. 사용자는 각 서비스의 검색 방식이나 메뉴 위치를 알지 않아도 자연어로 조건을 전달할 수 있습니다. 기업은 사용자 권한과 업무 규칙에 맞춰 호출 가능한 도구를 다르게 구성할 수 있습니다.
| 활용 영역 | 연결 대상 | 처리 예시 |
|---|---|---|
| 실시간 정보 | 날씨, 교통, 환율, 주가 API | 현재 시점의 정보 조회와 조건별 비교 |
| 정확한 연산 | 계산기, 통계 함수, 요금 계산 API | 세금, 거리, 비용, 통계값 계산 |
| 사내 정보 | 문서 저장소, 데이터베이스, 검색 시스템 | 권한 범위 안에서 규정, 계약, 실적 자료 검색 |
| 일정 관리 | 캘린더, 예약 시스템 | 가능한 시간 확인과 일정 등록 |
| 커뮤니케이션 | 이메일, 메신저, 알림 시스템 | 사용자 승인 후 메시지 작성과 전송 |
| 업무 자동화 | 보고서, 고객관리, 전사자원관리 시스템 | 자료 수집, 양식 작성, 상태 변경 |
설계할 때 확인해야 할 사항
외부 시스템 연결이 늘어나면 데이터 접근 범위와 실행 권한도 함께 확대됩니다. 서비스 운영자는 호출 전후의 검증 절차, 오류 대응 방식, 비용 한도를 구체적으로 정해야 합니다. 사용자는 어떤 정보가 어느 시스템으로 전달되는지 확인할 수 있어야 합니다.
| 확인 항목 | 발생 가능한 문제 | 설계 방법 |
|---|---|---|
| 개인정보 보호 | 호출 과정에서 개인정보가 외부 시스템으로 전달될 수 있음 | 필요한 데이터만 전송하고 암호화, 보관 기간, 제3자 제공 조건을 관리 |
| 접근 권한 | 사용 권한이 없는 자료나 기능에 접근할 수 있음 | 사용자 인증과 역할별 권한을 적용하고 호출 전에 권한을 재확인 |
| 데이터 정확성 | API가 오래되거나 잘못된 값을 반환할 수 있음 | 데이터 시점과 출처를 표시하고 유효성 검사와 교차 검증을 적용 |
| 실행 책임 | 예약, 결제, 전송 과정에서 의도하지 않은 작업이 확정될 수 있음 | 취소하기 어려운 작업에는 사용자 확인과 승인 단계를 적용 |
| 비용 관리 | 반복 호출과 대량 요청으로 운영비가 증가할 수 있음 | 호출 횟수 제한, 결과 저장, 중복 요청 방지 규칙을 설정 |
| 유지관리 | 외부 API와 입력 형식이 변경될 수 있음 | 버전 관리, 자동 테스트, 장애 감지, 대체 처리 절차를 운영 |
- 민감정보는 호출 목적에 필요한 범위로 제한합니다.
- 결제, 예약, 전송, 삭제 작업에는 사용자 승인 단계를 둡니다.
- 도구의 응답 시간, 오류율, 호출 비용을 지속해서 기록합니다.
- 외부 데이터의 출처와 조회 시점을 결과에 표시합니다.
- 도구 장애가 발생하면 재시도 횟수와 대체 처리 기준을 적용합니다.
실제 업무에 적용하는 클레비의 방향
AI의 업무 활용도는 모델 성능, 연결 가능한 도구, 실행 정확도, 보안 통제 수준에 따라 달라집니다. 하나의 요청에 여러 도구를 연결하면 정보 검색부터 결과 정리와 후속 작업까지 같은 화면에서 처리할 수 있습니다. 업무별 권한과 승인 절차를 반영하면 조직의 보안 정책을 유지하면서 반복 작업을 줄일 수 있습니다.
- Tool Calling
- Function Calling
- 생성형 AI
- AI 에이전트
- 업무 자동화
- API 연동