CONTENTS

• 목록

[4월 KSUG 패널 토크 : 핵심 포인트만 보기!]

2025년 4월 11일(금) 진행된 제50회 KSUG 패널 토크, ‘AI 활용과 보안 혁신의 만남’ 세션이 성료 되었습니다! 4월 패널 토크에서는 AI 활용과 기업의 보안 강화에 대해 깊이 있는 논의를 하였습니다. On-Premise LLM 기반 AI Agent 활용 방안을 탐구하는 BI MATRIX, SAP AI를 중심으로 프로세스 자동화와 클라우드 전환을 제시하는 FPT 코리아, 그리고 API 사용 증가에 따른 보안 위협과 대응 방안을 제시하는 Akamai가 한자리에 모여 최신 기술과 실제 사례를 공유하는 시간이었습니다!

<Session 1. 발표>

[BI MATRIX] 기업을 위한 AI Agent 구현방안

지난 주에 창립 20주년 기념 행사를 치른 비아이매트릭스에서 요즘 가장 핫하게 이야기되고 있는 AI를 업무에 활용하여 효과를 극대화할 수 있는 내용을 소개해 주어서 도움이 많이 되었으리라 생각됩니다. 특히 AI Agent의 개념과 이를 활용한 DB 분석 사례도 인상깊었습니다. 

[FPT Korea] ERP 변화에 적극적으로 대응하는 SAP AI 솔루션

FPT가 세 번째 참석인데 아직도 생소한 분들도 있겠지만 이제는 베트남 기업으로 알고 계신 분들도 많죠. 1999년 설립되어 임직원 3만 4천명이 넘으며 전 세계 30여개 국가에서 비즈니스하고 있는 베트남 1위 ICT 기업으로서 성장을 지속하고 있습니다. 우리나라에도 이정도 규모가 되는 기업은 많지 않다고 생각이 되어집니다. 2016년 한국의 지사 설립 후 SAP와 협력관계를 바탕으로 여러 구축 사례에 대한 소개와 ERP 구축 및 운영 등 FPT 가 갖고 있는 역량에 대한 자세한 설명 감사드립니다.

[Akamai] 디지털 트랜스포메이션 시대의 API Security

CDN 최고 기업으로서 역량을 기반으로 다양한 네트워크 비즈니스로 성장하고 있는 Akamai에서 DX와 AI 시대에서 급격하게 증가하고 있는 API 관련 보안 관제에 대한 상세한 소개 감사드립니다. 기존 솔루션들이 갖는 아쉬운 점들을 개선해주는 좋은 내용을 참조하면 도움이 될 것 같습니다.

뿐만 아니라 여러분들의 사전 및 실시간 질문에 대한 전문가들의 답변을 실시간 생생한 내용으로 들을 수 있었습니다. 전문가들의 답변, 지금 바로 확인해 보세요! 

<Session 2. 패널 토의 및 실시간 Q&A>

1) BI MATRIX 대표 상품이 G-MATRIX로 알고 있는데, 시스템 구성과 사용자 편의 기능 등에 대한 간략한 소개 부탁드립니다.

(BI MATRIX) 네 저희 G-MATRIX는 앞서 동영상에서 보셨다시피 기업에서 현업 사용자들이 가장 많이 하는 데이터 수작업에 대해서 AI를 통해 자동화시키고 쉽게 업무를 하실 수 있게끔 에이전트 기능들을 제공해 드리고 있습니다. 그런데 기업에서 지금 AI를 고민하실 때에 GPT라든가 외부 망 같은 것들을 보안 때문에 이제 걱정을 많이 하시기 때문에 On-premise 환경에서 그런 AI 에이전트들을 제공해 드리려고 노력을 계속 하고 있습니다. 

2) FPT가 SAP 비즈니스를 수행해온 기간과 한국에서 SAP 프로젝트를 경험한 기간이 어떻게 되나요? 

(FPT) 네 저희 FPT는 ERP관련 문화의 비즈니스를 시작한지 총 25년 됐고요. 2007년부터 본격적으로 SAP관련 시작했습니다. 그리고 지난 2020년부터 대한민국의 가장 큰 SAP 프로젝트도 저희가 수행했고요. 그리고 2023년도에 SAP RSSP로 선정이 되면서 현재 활발히 활동하고 있습니다. 

3) Akamai는 CDN 벤더로 SaaS 형태의 비즈니스를 제공하는 것으로 아는데, On-Premise 환경의 API 보안에 대해서도 솔루션을 제공하고 있나요?

(Akamai) 네 원래 저희는 CDN을 주로 하던 업체였고요. CDN은 결국은 인터넷 상에서 컨텐츠를 딜리버리하는 회사입니다. 당연히 많은 공격에 노출될 수밖에 없고 보안에 대해서 가장 잘 이해하는 회사였습니다. 그러나 이전까지는 상당 부분 커스터머 위주의 서비스에 포커싱이 되어 있었다면 제로 트러스트 즉, 경계가 허물어진 세상이 되면서 내부 엔터프라이즈 환경도 비슷해진 상황이 되면서 저희가 정말 잘할 수 있는 그 보안의 테크놀리지와 경험들을 엔터프라이즈 시큐리티 그룹에도 실제 도입이 돼서 지금 비즈니스를 왕성하게 하고 있는 중입니다.  

4) ERP, 오라클, MS-SQL 등 모든 데이터베이스와 호환이 가능한가요?

(BI MATRIX) 네 지금 다 호환을 하고 있습니다. 오늘 발표 드리고 싶었던 주제 중의 하나가 LLM한테 학습을 통해서 여러 기종 DB에 대한 데이터를 가져오는 SQL을 가르치려고 하면 굉장히 어려움들이 많이 있으실 텐데 이미 BI 솔루션은 다 기종 DB하고의 연결을 제공하고 있으니까 AI가 BI솔루션한테 요청을 하는 겁니다. 그러면 솔루션이 SAP든 오라클이든 MS-SQL이든 다양한 이 기종 DB의 데이터를 가져와서 사용된 분석결과를 제공해 주는 이런 형태를 취하고 있습니다.     

5) 기업마다 업무 용어가 다른데, 이를 학습시키면서 커스터마이징을 할 수 있나요?

(BI MATRIX) 지금 저희 커스터마이징이라기 보다는 고객사의 업무, 도메인 학습을 시키는 과정들을 이제 저희가 같이 컨설팅을 해드리고 있고요. 기업마다 DB 스키마 모델도 다르고 그 스키마 마다 그 컬럼들에 대해서 다 사용하시는 용어들, 업무에 대한 용어들 다 다르기 때문에 그런 것들을 관리자가 학습을 시킬 때에 별도의 설정들을 통해 가지고 도메인학습 스키마학습 이런 것들을 할 수 있는 UI를 제공하고 있습니다. 저는 굉장히 좀 중요하게 생각하고 있는 게 새로운 테이블이 추가될 수도 있고 용어가 바뀔 수도 있습니다. 그런 것들을 관리자가 앞으로도 어떻게 관리하고 운영해 나갈 수가 있는가 하는 부분에서 LLM학습이 아니라 그것들이 솔루션에서 관리자가 할 수 있는 UI로 제공하는 부분들 이런 것들을 저는 되게 중요하게 생각하고 있습니다.      

6) 기업마다 데이터나 질문의 성격이 모두 다를 것 같은데 어떻게 정답율이 잘 나올 수 있나요?

(BI MATRIX) 작년도부터 많은 AI프로젝트를 통해서 제가 얻은 경험은 사용자가 정답에 대한 질문을 하지 않는다는 것입니다. 그러니까 사실 AI는 거짓말을 하지 않는데 사용자들이 질문을 이상하게 하면서 AI가 거짓말을 한다는 이제 표현들을 쓰시는 경우가 많거든요. 그래서 저는 어디에 포인트를 두고 있냐 하면 사용자가 질문을 할 때 어떤 데이터에 어떤 항목을 보고 싶다라고 하는 것들을 명확하게 질문할 수 있는 UI 그 다음에 그런 것들이 잘 못 됐을 때 AI가 반대로 추론을 통해서 추천질문을 해 줄 수 있는 UI 그리고 UI를 통해 갖고 사용자들이 잘못된 질문을 하지 않으면 명확하게 업무별로 다양한 질문들이 있지만 그것들 다 정답이 나올 수가 있다 이런 경험 치들을 통해서 UI를 계속 발전시켜 나가고 있고요. 벌써 저희 G-MATRIX는 3.0 그 다음에 나아가서 4.0을 준비하고 있습니다.  

7) 그럼 그런 질문들이 좀 약간 미흡할 때 학습을 통해서 그걸 또 다시 한번 재 던져 주는 기능들은 없나요?

(BI MATRIX) 그런 도메인 학습 기능들도 다 가지고 있고요. 그런 것들이 대표적으로 영업실적과 손익을 준비해 놨으니까 자유롭게 질문해 보세요 라고 하면 현업 분들이 가장 먼저 내리신 질문이 “실적 보여 줘” 다섯 글자를 넘기지 않습니다. 그러니까 그런 얘기를 했을 때 AI가 “어떤 부서의 실적을 보고 싶으세요?” 또는 “어떤 상품의 실적을 보고 싶으세요?”라고 역 질문을 하고 그 질문들을 통해서 이제 사용자가 잘 질문할 수 있게끔 유도하는 것이죠.   

8) 데이터베이스에 없는 데이터는 어떻게 분석할 수 있나요?

(BI MATRIX) 로컬 PC에 가지고 계시는 엑셀데이터든가 다양한 데이터들을 엑셀형태로만 취합하실 수 있다고 하면 그 데이터들을 업로드하고 질문하실 수 있습니다. 사실 기술적으로 보면 데이터베이스 마다 다양한 SQL을 생성해서 가져오는 게 어려운 거지 데이터를 분석하는 것들은 LLM이 워낙 잘하고 있기 때문에 엑셀만 취합해서 올려 주시면 얼마든지 다양한 형태의 데이터들을 분석하실 수 있다 말씀드릴 수 있습니다. 

9) 프로젝트를 진행할 때 커뮤니케이션을 영어로 진행하나요? 

(FPT) 네 자료를 보시면 저희가 쓰는 용어는 영어가 공식용어가 맞습니다. 왜냐면 안 그래도 해외 쪽하고 일을 많이 하다 보니까 영어가 쓰일 수 있긴 한데 저는 개인적으로 보면 한국인 분들이 영어를 잘하시면 영어를 직접 하시는 게 가장 효과적이긴 합니다. 그런데 한국 분들이 영어를 좀 막히시는 분들이 있으니 저희가 이걸 메이크업하기 위해서 한국어 가능한 저희 일원들이 있거든요. 저희가 소프트 엔지니어라고 부르고요. 거기에 컴퓨터나 통역도 전체 같이 있습니다. 이 분들 통해서 통역을 하고 있습니다.     

10) 요구 사항, 정보 요건 및 산출물 문서 등을 영어로 작성하려면 어려움이 많을 것 같은데, FPT에서 제공하는 해결 방안은?

(FPT) 네 결론 말씀드리면 영어로 작성할 필요가 없으십니다. 왜냐하면 설계서를 이제 한국어로 만드시면 저희가 그것을 베트남 개발자에 전달하기 위해서 자체적으로 통번역을 하고 있습니다. 물론 진행하다 개발하다 보면 이 부분이 좀 아리송한 부분이 있지 않겠습니까? 그런 분들은 추가 기회를 통해서 이해도를 좀 더 올리고요. 그렇게 진행하고 있기 때문에 굳이 영어를 하실 필요는 없습니다. 

11) GDC 모델 활용의 장단점과 FPT의 강점은 무엇인가요? 

(FPT) 일단 GDC의 장점은 무엇보다 비용대비 효과성 이겠죠. 그리고 베트남 개발자들이 상당히 똑똑한 친구들이 많거든요. 거기에 비용도 상대적으로 낮기 때문에 고 스킬의 인력들을 쓸 수 있다는 게 가장 첫 번째 장점이고요. 두 번째 GDC의 장점으로는 스케일 업 스케일다운이 좀 자유롭다는 거, 만약 고객이 어느 순간 갑자기 늘여야 되는 경우가 있거나 또는 줄여야 할 경우에는 거기에 능동적으로 대처할 수 있기 때문에 FPT는 이런 해외 프로젝트를 그냥 수십 년을 했기 때문에 그런 노하우는 굉장히 많이 갖고 있습니다. 그래서 저희가 되게 고객에게 맞는 솔루션을 탄력적으로 적용할 수 있다는 게 저희 장점이라고 할 수 있겠습니다.     

12) 한국 기업의 요건 정의 레벨이 상세하지 않은 경우가 많은데, 이런 경우 GDC 업무 수행을 하면 효율이 떨어지는 건 아닌가요?

(FPT) 그렇다고 볼 수는 없습니다. 왜냐하면 설계서 자체가 아무리 잘 만들어도 약간 부족할 수도 있잖아요. 조금 전에 말씀드린 것처럼 저희가 그 컴퓨터나 번역, 이 분들이 이제 토의하면서 그걸 개발자가 수행하면서 나오는 추가적 문제가 항상 있거든요. 이것을 추가적인 Q&A로 저희가 그것을 문제를 해소합니다. 그러니까 혹시라도 설계서가 미약하더라도 저희가 하는 과정에서 충분히 메이크업할 수 있는 기회가 있습니다

13) API Gateway와 API Security 솔루션의 차이점은 무엇인가요? 또한 API 보안을 API Gateway에서 모두 해결할 수는 없나요?

(Akamai) 일단 API Gateway는 보통 보안솔루션이라고 보시지는 않으시죠. 보통 우리가 생각하는 와프는 이제 보안솔루션이라고 하고 그런 와프 같은 솔루션들은 시그니처 기반으로 어떤 기법들에 정해져 있는 그리고 이미 확립되어 있는 시그니처 기반으로 잡아내는 데 반해서 이제 API Gateway는 그런 기능이 자체가 없고요. 대신 API를 API Gateway에 등록시키고 거기를 통해서 서비스를 하기 때문에 통제해 주실 수 있다라고 생각하는 부분이 좀 있기는 합니다. 그러나 실제 아까 제가 발표할 때도 말씀드렸던 것처럼 우리가 관리해야 되지만 우리도 모르는 사이에 서비스되는 API들 굉장히 많습니다. 그런 부분에 대해서는 전혀 API Gateway가 보안에 어떤 준비가 될 수 있는 솔루션은 아니죠. 

14) 최근 API 사용량 증가로 주요 공격 대상이 될 수 있는데, 주요 공격 유형을 포함한 보안 위협은 무엇이며 타겟이 되는 사업들이 있나요? (관심유저, gominju)

(Akamai) 네 먼저 이 API에 대한 어떤 공격유형은 아까 제가 발표한 내용 중에 OWASP가 일반적인 웹 어플리케이션과 달리 API에 대한 10대 취약점을 얘기했습니다. 그게 가장 어떻게 보면 바이블 같은 어떤 공격유형이라고 보실 수 있을 것 같고 대표적인 거기에 이제 하나 BOLA 라고 하는게 있는데 API의 특성은 API하나의 API는 리퀘스트를 하고 리스폰스를 하면 그 트랜지션은 끝납니다. 그런데 보통 우리가 하는 서비스들은 그런 API들이 연결돼서 진행이 되는데 이제 그런 관계 속에서 일어나는 어떤 취약한 부분들을 이용하는 하나의 패턴이 넘버원인 취약점 BOLA 라고 하는 그런 것들이 있다고 말씀드릴 수 있을 것 같고요. 주요 산업 군이라고 하면 당연히 어떤 금전적인 이익을 노릴 수 있는 금전거래가 일어나는 그러니까 뭐 금융이라든지 아니면 우리가 물건을 사고 파는 뭐 이커머스라든지 그 다음에 또 최근에는 이제 하이테크 쪽에서도 요새 하이테크 기업들은 혼자서 모든 걸 다 하시는 게 아니고 다 협력 사 들과의 어떤 데이터나 서비스를 교환하시는데 이 때도 다 API를 쓰십니다. 그래서 이제 이 때도 이런 것들을 노리는 또 하나의 큰 타겟으로 보실 수 있을 것 같습니다.       

15) AI 관련 보안에는 추론형 AI를 적용할 필요가 있나요? 또한 보안 분야의 추론형 AI의 현재 수준은? (김구억)

(Akamai) 자료화면을 띄워 주시면 좋을 것 같고요. 보시는 것처럼 당연히 지금 이런 API 시큐리티에 대한 보안에는 추론형 AI를 포함한 다양한 AI 기법이나 모델을 활용할 수밖에 없습니다. 왜냐하면 기존의 시그니처 기반의 보안 솔루션들은 API비즈니스의 로직에 대한 부분까지 이해하지는 못합니다. 그러나 실제로 API보안을 하려고 하면 그 API가 어떤 데이터들을 서로 주고 받고 또 어떤 API를 호출한 다음에 그 다음에 어떤 API를 호출한다 라든지 이런 어떤 상관관계 이런 부분들을 이해해야지만 API에 대한 어떤 오남용을 방지할 수가 있습니다. 그래서 그런 부분들을 하기 위해서 추론형 AI들을 굉장히 많이 쓰고 있고요. 여기서 보시는 것 중에 저희가 API를 디스커버리 하거나 그 다음에 또 실제로 어떤 스렛을 디텍션할 때도 그 기법 중에 Call Flow 라든지 API클러스터링 같은 경우에는 그런 추론형 AI모델을 내부적으로 쓸 수밖에 없습니다. 더 나가서 보통 이제 저희가 False Positive 라고 하는 잘못된 오탐이나 과탐이 이제 발생을 했었을 때 이런 부분들도 저희들이 추론형 AI모델을 통해서 점점 과탐이나 오탐을 줄여나가는데 필요한 어떤 그런 기법들이라고 볼 수 있을 것 같습니다.      

16) AI를 활용한 보안 공격이 다양화 될 것으로 우려되는데, 이에 대한 대응 방안과 기술 개발 현황은? (햇살가득, 버들치)

(Akamai) 일단 AI와 관련된 보안의 어떤 concern는 크게 두 가지로 좀 나눠 볼 수 있을 것 같습니다. 즉 AI서비스를 만들고 우리가 활용을 할 때 그 AI가 가지고 있는 취약점 때문에 하는 문제는 이제 변론이고요. 지금 이제 여쭤보시는 것은 공격을 할 때 내가 AI의 기술을 좀 이용하는 것에 대한 부분을 말씀하시는 것 같습니다. 그래서 공격을 AI로 한다라는 건 뭐냐 하면 사람이 엄청나게 많이 모여서 하는 거하고 똑 같은 겁니다. 그러면 저희는 한정된 리소스를 가지고 그것들을 찾아내고 막아야 되는 게 이제 어떤 대응방법인데 마찬가지로 저희도 AI를 이용해서 디텍션하고 막아야 됩니다. 그들이 AI테크놀리지로 마치 수많은 사람들이 몰려와서 하는 거하고 똑 같은 방식대로 이제 진행을 해줘야 되고 그럼 당연히 방어할 때 저희가 방어하는 AI는 어떻게 해야 되냐면 과탐이나 오탐을 줄여주고 그리고 많은 지도를 필요하지 않으면서도 스마트하게 막아줄 수 있는 그런 AI나 머신러닝 기법을 활용하면서 실제로 막는 것이 이제 가장 일반적인 방향이고요. 더 나가서는 지속적인 어떤 모니터링과 가시성을 확보해 줘야 된다라는 것이 굉장히 중요합니다. 왜냐면 그들은 막히면 또 다른 방법을 찾고 또 막히면 또 다른 방법을 찾는 것이 AI특성이기 때문에 그런 형태로 지속적인 모니터링 및 가시성을 어떻게 확보할 것이냐에 대한 부분들 그리고 마지막으로 여러 가지 위협, 인텔리전스에 대한 정보들은 뭐 공유도 되고 있고 또 SaaS서비스를 통해서 많이 알려지고 있습니다. 그래서 즉 저희 같은 벤더들을 통해서 최근의 어떤 위협 인텔리전스에 대한 정보들도 끊임없이 업데이트 해 가시는 것이 가장 좋은 방법들이 아닐까 이렇게 생각해 볼 수 있을 것 같습니다.             

17) 솔루션 영역의 스키마와 개발자 영역의 용어에 대한 전문성을 높이기 위한 훈련방안과 학습데이터 관련한 지원방안이 어떻게 되는지? (지정호)

(BI MATRIX) 실제 스키마 영역에서 우리가 정의해 놓은 업무용어들 그러니까 그것들은 저희가 이제 코딩을 하기 위해서 만들어 놓은 영역들이고 현업 분들이 실제 쓰시는 업무영역이 매칭이 되지 않습니다. 그러다 보니까 솔루션에서 스키마를 최초에 등록을 할 때 그 스키마별 컬럼별로 해서 업무용어를 다시 재정리할 수 있게끔 하는 기능들을 제공하고 있고요. 조금 더 나아가서 뭐 다중항목이라든가 약어라든가 이런 것들도 그 기업의 조직별로 왜냐면 실적이라고 하는 의미가 영업사원의 실적과 기획팀의 실적 서로 다른 의미일 수 있거든요. 그런 것들까지도 조직 별로 용어를 등록할 수 있게끔 되어 있어서 AI에 학습시키기 위한 UI들이 다 준비가 돼있다 보시면 될 것 같습니다.    

18) BI MATRIX는 제조업의 SCM을 담당 베이스로 해서 성장한 기업이기 때문에 제조분야에 경험이 많고 유저케이스가 많은데 제조 연구소 부분에 좋은 적용사례가 있는지요? (김기영)

(BI MATRIX) 네 연구소 분들도 사실은 많은 데이터를 취급하시고 그 데이터를 리포트화 시키는데 시간들을 많이 할당하고 계시는데요. 지금 보시는 것들은 저희가 쿼리를 기반으로 데이터를 추출해 놓은 것만 보여드렸지만 실제 어떤 정형화 되어져 있는 분석패턴의 리포트가 있다고 하면 말을 통해서 그 리포트를 호출하는 것도 됩니다. “A실험 군 실험결과 리포트 띄워줘” 라고 하게 되면 그런 실험리포트들을 띄워 드림으로써 연구원 분들이 이제 데이터를 쉽게 취득하고 리포트 하는 것까지 자동화시킬 수가 있겠죠.         

19) 생성형 AI LLM을 비용과 고도화 방안 측면에서 RAG에 대한 지원방안과 운영은 어떻게 되고 있나요? (지정호)

(BI MATRIX) 많은 분들이 지금 AI를 한계를 보고 계시는 게 이제 LLM 파인 튜닝인데 LLM 파인 튜닝 하려고 하면 학습비용이라든가 시간도 너무 오래 걸리고 그래서 선택하는 것들이 지금 RAG AI가 참고해서 할 수 있는 백과사전을 만드는 것들인데 RAG는 우리가 알고 있는 일반DB하고 거의 비슷한 성격이기 때문에 관리자가 UI를 통해서 학습을 시키면 바로 바로 실시간으로 발행이 됩니다. 그래서 저희가 기업의 업무용어라든가 스키마 같은 것들은 전부 다 RAG형태로 지원해 드리고 있고요. 기업에서 어려워 하시는 파인 튜닝은 저희 전문화된 연구소에서 원하시는 기능이라든가 요구사항 디파인해 주시면 연구소가 파인 튜닝을 직접 해가지고 마치 패치를 하듯이 반영해 드리는데 요즘에 잼마3가 되게 잘 나온 거 같은데 “그걸 바꿔줄 수 있어요?” 그럼 저희가 또 검증을 해 가지고 모델이 괜찮다라고 판단이 되게 되면 패치형태로 저희가 반영해 드리는 이런 계획들을 잡고 있습니다. 실제로 지금 그렇게 진행하고 있고요.     

20) SAP BTP상에서 머신러닝 모델을 운영할 때 온 프레미스 SAP ERP와 클라우드 간 연계를 할 수 있나요? (조성형)

(FPT) 저는 테크니컬 베이스 보다는 이 부분은 저희가 사례가 많습니다. 제가 이걸 모아서 충분히 답변해 드리도록 전달해 드리겠습니다.   

21) AI Agent란 무엇이고 업무에 적용된다면 어떤 효과가 있나요?

(BI MATRIX) 재작년에 AI가 GPT를 통한 붐이 불었습니다. 그러면서 사람들이 많이 환호했던 건 뭐냐면 자연어 기반으로 말로 했는데 그 말을 알아듣고 얘가 답변을 해준다 이제 대화상대였거든요. 그것들이 이제 AI쳇봇이라고 보시면 될 것 같고 요즘 기업에서 AI 에이전트를 검토하는 이유는 이제 AI가 내 말을 알아듣고 어떤 행동이나 행위를 해 준다 E_메일을 보내준다거나 자료를 취합해 준다거나 보고서를 만들어 준다 이게 이제 AI에이전트의 개념입니다. 그리고 최근에 또 이제 더 아는 척 나가서 하고 싶으시면 한 단계 더 나아가서 에이전틱, 그런 에이전트들을 모아서 중앙에서 오케스트로 그러니까 지휘하는 지휘자가 진짜 한 사람의 역할을 대신해 줄 정도로 그걸 이제 진두 지휘해 주는 역할 이제 에이전틱이란 표현들도 많이 쓰고 계시는데 그런 식으로 지금 진화 발전을 해 나가고 있는 중입니다.         

22) 기업 내부 망에서 동작하기 위해서 필요한 GPU 장비의 권장사양은 어떻게 되며, GPU 없이도 클라우드나 SaaS 방식의 서비스가 가능한가요?

(BI MATRIX) 클라우드나 SaaS방식의 서비스 모델도 있고요. On-Premise도 있는데 아무래도 저희가 지금 국내 기업이라든가 기관들은 이제 다 외부 망에 접근이 어려우시니까 저희가 On-Premise사업을 많이 하고 있는 중이고 On-Premise사업을 한다고 하게 되면은 지금 GPU 뭐 예를 들어서 저희가 H100 한 장 80GB사이즈로 동시접속 자 20명까지 커버가 가능한 수준이라고 보면 될 것 같고요. “우린 동시접속 자가 40명이야” 그러면 두 장 뭐 이런 식으로 이제 배로 늘어나면 됩니다. 그 AI에 대해서 큰 부담을 갖지 않으셔도 되는 게 요즘 LLM모델이 점점 진화하고 발전해 가면서 소형화된 똑똑해진 모델이 더 많이 나오고 있습니다. 그래서 예전에는 H100여러 장이 필요한 그런 상황이었는데 요즘에는 한 장짜리로도 굉장히 똑똑한 답변을 내는 AI들을 적용시키고 업무에 반영하실 수가 있습니다.        

23) AI 솔루션과 업무 적용을 위해 필요한 아키텍처는 어떻게 되며, HA 구성은 어떻게 하게 되나요?

(BI MATRIX) 다양한 방식으로 하실 수가 있는데 아까 말씀드린 GPU카드마다도 LLM을 다른 LLM을 깔아가지고 하나의 인프라 장비로 구성하실 수도 있고요. 아니면 그걸 이중화 하신다거나 다양한 방식으로 아키텍처는 구성하실 수 있습니다. 원하시는 것들은 제가 나중에 따로 한번 자료 아키텍처를 추후 별첨 드리도록 하겠습니다.  

24) 시나리오나 적용 환경 등으로 원치 않는 결과와 정확도가 예상에 미치지 못할 때는 어떻게 하나요? 예를 들면 최적화를 자동화하여 적용하거나 전문가가 수동으로 커스터마이징 하는 방법들을 사용하나요? (양광진)

(BI MATRIX) 일단 제가 강조 드리고 싶은 부분은 관리자에 의해서 통제대가 되는 부분입니다. 아까 AI가 추론능력이 굉장히 좋고 많은 양의 학습데이터가 있으면 품질 좋은 데이터를 답변할 수 있다라고 얘기하지만 사실 기업의 업무는 다릅니다. GPT같은 경우에 인터넷에 있는 무수한 데이터를 가지고 확률을 높여가는 반면에 기업에서 그렇게 많은 학습할 데이터가 있는 것도 아니고 그리고 그런 것들 무분별하게 학습했을 때 오히려 정확도가 떨어질 수가 있기 때문에 관리자가 그걸 통제하셔야 되는데 좋은 하나의 노하우는 제가 방법은 뭐냐 하면 사용 운영하시다 보면 사용자 분들께서 피드백을 남기세요. “이 AI의 답변은 잘못됐어” “이런 게 문제가 있어” 그럼 그 피드백들을 모았다가 재 학습할 때 데이터를 활용할 수가 있습니다. 그래서 실제로 저희 지금 운영하고 계시는 고객 사 들은 다 지금 그런 것들이 이제 로그상에 찍히기 때문에 그 로그데이터를 재 학습의 기준으로 삼고 계십니다.           

25) SAP에서도 AI기능을 많이 제공하는데, BI MATRIXD의 AI 기능을 사용하는 이유와 함께 사용시 효과가 극대화 되는지요? (이른마스크)

(BI MATRIX) 일단 줄 같은 경우에 굉장히 좋은 솔루션이긴 한데 SAP모델 중에서도 SaaS형태의 모델에만 적용이 되다 보니까 On-Premise형태의 SAP를 쓰시는 기업들께서는 아직 좀 도입을 어려워 하시는 경향이 있는데요. 지금 저희 솔루션 같은 경우에는 SAP HANA DB 그 다음에 BW 뭐 이런 데이터들과 다 연동이 가능하다 보니까 On-Premise형태의 SAP를 쓰시는 기업들은 저희 G-MATRIX를 활용하시면 되게 좋다 이런 거고 줄과의 시너지가 날 거 같은 게 줄은 SAP안에 내재되어져 있는 SAP안에 있는 AI모듈이고 저희는 다양한 이 기종에 연결을 시킬 수가 있으니까 ERP의 데이터와 뭐 CRM MES SHM 이런 다른 데이터들을 혼합해서 뭔가 우리가 의사결정을 내려야 할 때 저희 솔루션과 융합하면 좀 좋을 거라고 생각을 하고 있습니다.     

26) SAP ERP에서 AI 구축을 위해서 필요한 기술요소는 무엇이며, BPT를 구비하지 않아도 기존 SAP에 AI를 적용할 수 있는지?

(FPT) 일단 필요한 기술요소는 BPT자체가 필요합니다. BPT가 없어서 AI를 구현 못한다 그건 아니고요. 다만 BPT가 다시 아시겠지만 생산성 향상 이중개발 방지 이런 여러 가지 차원이 이동이 되기 때문에 이런 것들을 쓰는 거 외에도 AI를 적용하는 데 BPT가 훨씬 더 효율적으로 쓸 수가 있습니다. 그래서 BPT가 있으면 잘되지만 없어도 가능하다 하지만 효율적이지 않다 이렇게 말씀드릴 수 있겠네요.  

27) Offshore에서 일을 하는지, 안 하는지에 대해서 어떻게 체크할 수 있나요?

(FPT) 제가 말씀드리고 싶은 건 저희 FPT는 고객의 신뢰를 가장 큰 값어치로 생각하고 있습니다. 그래서 모 회사는 갑자기 불시에 현지에 날아가서 그런 경우가 있긴 한데 저희는 말씀드린 것처럼 고객과의 신뢰가 가장 큰 가치이기 때문에 그걸 져버리지 않게 활동하고 있고요. 그 현지에서 저희가 개발자들이 잘 일을 하고 있는지 보는 방법은 많습니다. 뭐 회의도 있고요 그 다음 모니터링 대시보드 이를 통해서 언제든지 그 분들이 얼마나 많이 하고 있는지 객관적으로 데이터화해서 볼 수 있기 때문에 이런 부분은 그를 통해서 해소가 될 수 있다고 봅니다.        

28) 신뢰라는 부분은 아무래도 심증적인 거니까 아무래도 KPI들이 좀 있어야 할 거 같은데 뭐 리스판스 타임 이랄지, 얼마나 적게 한 KPI를 보조수단으로 활용하고 계시는지?

(FPT) 네 당연합니다. 자체적으로 평가하고 있고요. 고객사들도 일감을 내리는 것을 기반으로 평가를 하고 있습니다. 

29) 시차에 상관없이 상시 연락과 응대가 가능한지? 또한, 인력 필요 시 요청 후 배치까지 얼마나 소요 되나요?

(FPT) 저희가 항상 커뮤니케이션 채널을 구축하고 있고요. 필요하실 경우에는 언제든지 출동이 가능합니다. 물론 한밤중에 하면 시간이 걸리기는 하겠죠. 하지만 그 외의 시간은 적어도 한 시간 이내에 회신은 드리고요. 응답은 한 시간 이내 그리고 조치하는 것은 최대한 빨리 조치하고 있습니다.   

30) 각 기업과 산업별로 ERP 구축할 때 사전 주요 공통 준비작업이 무엇인지? (지정호)

(FPT) 저는 몇 가지를 얘기했는데요. 일단 첫 번째 데이터가 얼마나 좋은지 그 접점을 갖고요. 이걸 하기 위해서는 SAP에서는 BTP안에 있죠. Data Quality Assessment Tool이 있기 때문에 이걸 가지고 내가 보유한 데이터가 적합한지 이 볼 수 있습니다. 두 번째는 일단 추천하는 거는 처음부터 크게 하기보다는 작은 거부터 시작해라 그런 조언을 많이 드리거든요. 작은 프로젝트로 시작하면서 예를 들면 특정 프로세스를 자동화 한다든가 아니면 수요예측을 모델링 한다든가 이런 작은 프로젝트부터 시작해서 내부적으로 효과성을 입증하고요. 그리고 그 조직 내에 저항을 줄이면서 가는 것도 추천 드립니다. 세 번째는 거버넌스 체결 SAP가 아무래도 스탠더드 기반이기 때문에 그 위에 데이터 거버넌스 체계를 그 위에 얹어서 하는 게 효과적이라고 보입니다. 그래서 이거는 이 세 가지가 거창한 기술보다는 교습차원에서 필요한게 아닌가 생각합니다.    

이어서 31번~ 38번 질문 및 답변 확인하러 가기