CONTENTS

• 목록

2월 KSUG 뉴스레터 : 

생성형AI를 활용한 업무 혁신 : AI 에이전트 시대의 개막

2025년 2월 26일(수)

 작년 말 KSUG 뉴스레터에서 생성형 AI를 업무에 도입하려는 회사가 직면한 주요 과제와 해결책을 다뤘습니다. 그 중 하나로 RAG (Retrieval-Augmented Generation)의 원리와 활용법도 간략히 소개했죠.

 그런데 지난 몇 달이 지나는 짧은 사이에도 AI는 실로 엄청난 속도로 진화를 거듭하고 있습니다. 쏟아지는 기사나 발표되는 새로운 솔루션들, 각종 활용 사례와 향후 전망을 들어보면 실로 어지러울 정도입니다. SAP도 이에 뒤질세라 AI 관련 기능들을 지속 출시하고 있지만, 빠르게 진화하는 AI 산업의 주류 기업들과는 속도 경쟁에서 다소 뒤처지는 느낌입니다. 그래도 앞으로는 SAP ERP와 연동되는 수많은 외부 솔루션이 등장할 것이 확실해 보입니다.

 최근 트렌드를 보면, AI 산업은 크게 두 갈래로 나뉘고 있습니다. 

   - 생성형 AI 엔진을 직접 개발하고 서비스하는 기업 (예: OpenAI, Google, Meta 등)
   - 기존 AI 엔진을 활용해 다양한 영역에서 생성형 AI를 활용할 수 있도록 도와주는 기업 (일명 ‘AI 에이전트’ 제공 기업)

 생성형 AI 엔진 시장은 빅테크 기업들이 독식하는 구조로 굳어지고 있습니다. OpenAI, Google, Meta 같은 초거대 기업들의 장벽은 너무 높아 후발주자가 도전하기조차 어려운 수준이죠. 하지만 예외도 있었습니다. 중국의 딥시크(DeepSeek)가 시장에 깜짝 등장하며 업계를 놀라게 했고, 테슬라는 그록(Grok)이라는 생성형 AI를 내놓으며 경쟁에 가세했습니다. 이제 AI 엔진 시장은 거대 공룡들의 전쟁터가 되었고, 새로운 플레이어들이 뛰어들 공간은 점점 줄어들고 있습니다.

 반면, AI 에이전트 시장은 다릅니다. 최근 AI 에이전트 관련 뉴스와 사례가 폭발적으로 증가하고 있습니다. AI 에이전트는 사용자를 대신해 다양한 업무를 수행하는 소프트웨어로, 단순한 자동화를 넘어서 다양한 AI엔진들을 활용해서 스스로 판단하고 실행하는 자율적인 시스템입니다.

 그러면 우리가 잘 활용하고 있는 ‘AI 챗봇’과 ‘AI 에이전트’는 어떻게 다를까요? 
   - AI 챗봇: 사람과 자연스럽게 대화하며 질문에 답하는 역할 (예: ChatGPT, Siri, Alexa)
   - AI 에이전트: 사람의 개입 없이도 스스로 작업을 수행하고 의사 결정을 내리는 AI (예: 영화 아이언맨의 ‘자비스’)

 AI 챗봇은 사람과의 상호작용이 가능하게 합니다. 그래서 사람이 어떠한 사항에 대해서도 무엇이든 물어보고 AI는 묻는 사항에 대해 충실하게 답을 제공합니다. AI 챗봇은 예전부터 많이 있었습니다. 통신사, 온라인 쇼핑몰, 각종 유통사 등등, 게다가 음성으로 서비스 하는 애플 시리, 아마존 알렉사, KT, SKT 등의 정말 다양하게 있었는데 완전 멍텅구리라서 아무도 관심이 없었죠. 그런데 정말 찰떡같이 사람 원하는 바를 알아듣고 훌륭한 답변을 제공해 주는 챗GPT와 경쟁 서비스들이 뜨면서 AI 챗봇 전성시대가 되었죠.

 AI 에이전트는 기존 챗봇과 비교해 사람과의 상호작용 없이도 독립적으로 작업을 수행할 수 있도록 되어 있습니다. 사용자를 대신해서 스스로 생각하고 의사결정을 내리고, 해야 할 일을 정의하고 실행하는 것이죠. AI에이전트의 특징을 요약하면 다음과 같습니다.

- 자율성 : 인간의 개입 없이도 운영되며, 프로그래밍 및 학습된 경험과 가이드라인 및 정책을 바탕으로 의사결정을 내리고 실행  
- 인식 : 센서나 데이터 입력을 통해 환경을 감지하고 변화에 인식 
- 의사결정 : 추론 및 의사 결정 프로세스를 통해 목표와 현재 상태를 분석하고 조치 선택
- 학습 : 과거 경험을 배워 새로운 상황에 적응하고, 전략을 최적화

 오픈AI의 CPO(최고 제품 책임자)는 AI 에이전트가 본격적으로 도입되면 사람들이 스마트폰을 덜 사용하게 될 것이라고 전망했습니다. AI 환경에서 특정 목적을 수행하는 AI 에이전트는 스마트폰 앱과 같은 역할을 할 것입니다. 다시 말해, 생성형 AI가 스마트폰 자체라면, AI 에이전트는 그 위에서 돌아가는 앱들이라고 볼 수 있습니다. 그러니 AI 에이전트 시장은 기존 IT 인프라 없이도 아이디어와 기술력만으로 성공할 수 있는 기회의 장이 될 전망입니다. 법률, 의료, 여행, 각종 예약 대행 같은 B2C 서비스부터 기업용(B2B) 솔루션까지, AI 에이전트를 활용한 혁신적인 서비스가 무궁무진하게 등장할 것입니다.

 한편, 기업용 B2B 애플리케이션 시장의 대표 주자인 SAP는 ERP 시스템이 상당히 폐쇄적인 구조를 유지하고 있어서 그동안 BTP를 활용한 생태계가 그다지 활성화되지 못한 것이 사실입니다. 반면, 세일즈포스(Salesforce)는 이미 PaaS 생태계가 활발히 확장되어 개발사들이 유니콘 기업으로 성장할 수 있는 기회를 제공하고 있죠. 하지만 앞으로는 모든 대형 기업용 애플리케이션 업체들이 AI 에이전트 같은 체계로의 전환에 사활을 걸고 동반할 우군을 확보하기 위해 노력할 것이고, 이 과정에서 대박을 터뜨리는 혁신적인 AI 에이전트 기업들이 등장할 것입니다.

 AI 에이전트들이 만들어 가는 워크플로우 자동화도 더 이상 단순한 ‘프로그래밍된 절차’가 아닙니다. 실시간으로 데이터를 분석하고, 최적의 솔루션을 도출해 실행하는 체계입니다. 문제에 관련된 핵심 데이터들과 각종 관련 자료들을 뽑아서 많은 상용 생성형 AI 중에 골라서 정보를 보내고 답을 받아서 스스로 다음 단계를 자동으로 처리하는 시나리오를 가지고 개발되고 있는 것이지요. 이러한 자율화된 플로우를 가진 AI 에이전트들이 이미 상당수 출시되고 있고, 향후에는 무수히 쏟아져 나올 것입니다.

 다음번에는 AI 에이전트 솔루션과 활용 사례를 더 자세히 살펴보겠습니다. 챗GPT로 시작된 AI 혁명의 바람이 이제는 산업 전체를 뒤흔드는 초대형 허리케인으로 변화하는 지금, 기업과 투자자들의 AI 에이전트에 대한 기대감이 부풀어 오르는 것은 당연한 일일 것입니다.