지난 10월 24일 한국산업지능화협회(KOIIA)의 초청으로 '2025 중견기업 핵심인재 육성 아카데미, 미래산업 대응전략 세미나'에 참여하여 클레비 이환호 대표가 기조 연설을 하였습니다.

저희는 'AI 기술도입 사례 및 DX 실무 전략' 세션에서서 'Physical AI 활용 사례와 RAG 에이전트 도입 과정에서의 실패 요인 및 개선 전략'이란 주제로 참여하였습니다.

최근 AI 에이전트에 대한 관심도가 높아짐에 따라 많은 AI를 도입을 고려하려는 회사 역시 많아지고 있는 추세인데요. 이미 많은 기관과 기업에서 AI를 시범 도입하여 운영하는 것으로 알고 있습니다.

하지만 안타깝게도 많은 기업과 기관에서 원하는 ROI가 나오지 않거나 PoC에서는 동작했던 기능들이 본사업이나 현장에서는 제대로 된 답변이 나오질 않거나 동작하지 않는 경우가 매우 많은 것으로 조사됐습니다.

이러한 정보들 때문에 많은 기업들이 AI의 성급한 도입을 꺼려하고 있습니다.

이번 강연에서 클레비 이환호 대표는 성급한 AI 도입의 대표적 실패 원인인 RAG 시스템의 한계와 오픈소스 모델이나 스몰 LLM(SLM)에 대해 자세히 설명하며 왜 앞선 도입 사례들이 실패하였는지를 설명하였습니다.

결국 AI를 활용하는 이유는 사람의 일을 대신하게 하거나, 사람보다 나은 퍼포먼스를 보여줄 것을 기대하기 때문인데요.

지금의 AI 도입을 한 기업들의 실무진들은 AI 답변 품질에 대한 신뢰를 하지 못하다 보니 AI 답변 내용을 일일이 체크하느라 오히려 업무가 증가하고 있다는 불만이 터져나오고 있습니다.

이유는 대부분의 기업들이 오픈 소스 SLM 모델을 파인튜닝해서 솔루션으로 사용하는 데 있습니다.

직관적으론 AI가 새로운 학습을 하면 더 똑똑해질 것이라고 생각하지만, 오히려 AI에게 새로운 지식을 학습하면 과거의 기억, 즉 임의의 파라미터 가중치를 소실하게 됩니다.

더 심각한 문제는 어떤 정보나 지식을 잃어버렸는지 아무도 모르게 된 데에 있습니다.

AI도입은 작은 리소스가 들어가는 일이 아니기 때문에 PoC 때부터 많은 검증을 진행하셨을 텐데요.

왜 이때는 그러한 문제가 나타나지 않았을까요? 그것은 물론 타겟 정보로 재학습이 되었기 때문입니다.

숫자만 알던 AI에게 알파벳을 학습시키고 이후 알파벳에 관한 문제만 냈으니 당연히 답변을 잘하는 것입니다. 하지만 현장에서는 이런 특정 도메인에 특화된 모델만 필요할까요?

우리의 현장은 매일 새로운 환경과 새로운 데이터에 직면하게 됩니다. 하지만 기존의 지식들을 랜덤하게 파괴하면서 학습된 AI는 범용성은 물론 정확성까지 보장하지 못합니다.

따라서 From-scratch Foundation 초거대언어모델을 보유하고 있거나 이 모델을 만들 수 있는 기술이 필요한데요.

이러한 모델들은 세상 거의 모든 지식을 가지고 있기 때문에 답변 품질은 물론 정확성도 높기 때문입니다.

특화된 도메인의 경우엔 SFT(Supervised Fine-Tuning)이라는 기술을 사용하거나 적은 양의 데이터는 RAG 시스템 혹은 클레비 자체 개발 인텔리전스 데이터베이스 시스템인 시맨틱데이터베이스 기술을 사용한다면 파인튜닝한 SLM의 단점을 극복할 수 있습니다.

이러한 파운데이션 모델의 중요성을 정부도 알기 때문에 많은 지원을 아끼지 않고 있는데요.

바로 국가대표AI 프로젝트입니다. 이 프로젝트의 가장 큰 목표는 디지털 주권 확보일텐데요.

저희 클레비 역시 오픈소스 모델을 사용했을 때의 치명적인 단점을 알고 있었기 때문에 데이터 수집부터 아키텍처 설계까지 독자적으로 개발하여 클레비의 모델들을 학습시켰습니다.

현재 클레비 모델들은 세계 유수의 AI와 경쟁하여도 전혀 뒤쳐지지 않는 성능을 가지고 있습니다.

특히나 자체 모델을 보유하고 있기 때문에 외부 모델을 사용했을 때 발생할 수 있는 종속성 문제도 저희 클레비는 관계가 없습니다.

이제 AI 도입은 선택이 아닌 필수가 되어가고 있습니다. 하지만 단순히 최신 기술을 도입하는 것만으로는 원하는 성과를 얻기 어렵습니다.

진정한 혁신은 기술의 한계를 정확히 이해하고, 우리 조직의 환경과 목표에 맞는 최적의 전략을 세울 때 비로소 시작됩니다.

클레비는 독자적인 초거대 언어모델과 시맨틱 데이터베이스 등 차별화된 기술력으로, 기업들이 AI 도입 과정에서 겪는 시행착오와 리스크를 최소화하고 있습니다.

앞으로도 저희는 현장의 목소리에 귀 기울이며, 더 많은 기업들이 신뢰할 수 있는 AI 파트너가 되기 위해 최선을 다하겠습니다. AI 도입의 진정한 성공, 클레비와 함께 만들어가시길 바랍니다.

미래산업 대응전략 세미나 - 한국산업지능화협회