12월 KSUG 특집 패널 토크 : 핵심 포인트만 보기(2)
페이지 정보
본문
21) 예측이나 이상 상황 발견을 구현하기 위한 전제 조건은 무엇인가요?
(PwC) 사실 우리가 예측이라든지 하는 것들을 기술적으로 봤을 때는 두 가지의 접근법을 할 수가 있습니다. 뭐 LLM을 통해 가지고 활용을 해가지고 예측을 한다든지 이상치를 발견할 수 있고요. 그러나 이제 파이낸스 입장에서는 이렇게 확률에 의존을 하는 LLM은 여전히 아직은 신뢰성을 가지지 못하고 있습니다. 그렇기 때문에 과거의 머신러닝 또는 통계적 기법을 통해가지고 예측을 해야 되는 것은 아직까지는 사실이고요. 그러면 이제 예측이라든지 이상 상황을 발견하기 위해서는 결국에는 사내외의 데이터들이 필요합니다. 저희가 그런 예측 사례를 했을 때 가장 어떻게 보면 답답한 부분들이 외부 데이터 그리고 회사내의 데이터들을 도저히 접근을 할 수가 없어서 결국에는 애크러시가 떨어지는 그런 부분이 있고요. 그렇기 때문에 사전에 준비해야 되는 부분들은 이런 충분히 예측과 이상 상황을 발견할 수 있는 데이터들을 수집하는 그런 절차가 분명히 있어야 된다고 봅니다.
22) 도입 실패 사례에서 가장 큰 원인이나 이유는 무엇이며, 벤치마킹 할 수 있는지요?
(Megazone Cloud)
성공사례는 명확하면 성공사례가 됩니다. 예를 들어서 첫 번째는 아까 말씀 드렸던 검색, 분명하게도 그 사람들이 하던 일에 개선이 됐다 그런 것들 볼 수 있어 그리고 실제 그 검색엔진을 관리하는 레포트 보다 AI한테 맡기는 레포트가 훨씬 더 효율화 되었다라는 성공사례가 있고요. 그리고 두 번째는 기존의 상담서비스 같은 것들을 AICC라고 하죠. 그 앞쪽에 뭐 의도분류를 한다거나 이런 것들이 사실은 머신러닝 기반에 좀 한계가 있었거든요. 자연어 언어 모델보다 그래서 그 의도분류 부분들 LLM으로 바꿨더니 굉장히 애크러시가 높아졌다 이런 것들은 굉장히 큰 성공사례로 존재하고 있습니다.
(PwC) 저희 같은 경우에는 좀 실패까지는 아니고요. 어떻게 보면 좀 더 고도화 할 수 있는 방안의 사례를 조금 얘기를 두 가지를 드리고 싶은데요. 예측에서는 간단하게 말씀 드렸던 저희가 판매라든지 또는 이제 경영계획을 예측하는 그런 모델들을 했던 적이 있습니다. 그런데 필요로 했던 자료들이 이런 것들이 필요한 거죠. 판매를 위해서는 뭐 소매점을 가정을 하면은
상권정보도 필요하고 날씨정보도 필요하고 경쟁사는 뭐 하는지도 필요하고 뉴스도 캡쳐를 해야 되고 그리고 그 안에 매장에 있는 정보들도 있어야 되고요. 그런 부분들이 조금 더 확보를 했었으면 예측의 정확도는 상당히 올라가게 되고요. 그리고 이제 LLM을 이용해 가지고 프로세스를 자동화 하거나 또는 이상상황을 식별 할 때는 이런 부분들이 조금 더 갖춰지면 좋을 것 같습니다. 예를 들어가지고 회계상에서의 이상 상황을 식별을 할 때 규범이라든지 하는 것들이 상세하게 적혀있고 AI도 충분히 이해할 수 있을 정도의 Example이 있어야지 작동을 할 수 있을 것 같고요. 그렇기 때문에 계정과목표 라든지 회사의 회계규정 등등을 좀 더 사람 눈이 아니라 기계도 이해할 수 있는 수준으로 하면은 좀 더 정확한 성능을 발휘할 수 있을 것이라고 생각을 합니다.
(Dell Technologies) AI가 갑자기 붐을 부르면서 작년 같은 경우에는 사실 모든 회사가 LLM을 만들겠다고 학습에 투자를 많이 했었습니다. 그런데 1년이 지나가면서 사실 그것보다는 우리는 서비스에 대한 포커스를 해야겠다 라고 생각을 하시긴 했는데 워낙 그 GPU수급이 어렵다 보니까 일단은 유스케이스를 정하는 것보다 사실 그 자원을 먼저 투자하시는 분들이 꽤 있어요. 특히 우리나라도 있지만 사실 외국에 그런 부분들이 많은데 그러다 보니까 이제 일단은 GPU서버를 많이 도입을 해야 되는데 당장 이제 이 부분들을 어떻게 써야 될지에 대해서 당황하시는 부분들이 있었어요. 실제 AI를 하게 되면 결국 이제 유스케이스를 기본을 가야 되는데 그 부분들에 대해서 많은 SI업체든 컨설팅업체 조차도 이 부분이 얼만큼 사이징을 해야 될지를 사실 가늠하기 힘든 부분이 있습니다. 저희들은 그 부분들에 대해서는 일단 유스케이스에 대한 전의를 시작하면서 일단 적절한 어떤 사이징에 대한 부분들을 같이 저희들이 도와 드릴 수 있는 부분들이 있기 때문에 그 부분들을 같이 했으면 좋겠다 이런 말씀 좀 드리고 싶습니다.
23) 금융사, 자동차 및 자동차 부품 제조업 등 산업별 구축 사례 소개 부탁 드립니다 (김구억,지정원)
(Megazone Cloud)
일단은 금융 쪽은 아직은 파일럿 단계로 지금 하고 있는 곳들이 있고요. 이제 주로 대면업무를 하시는 분들의 어시스턴트 형태로 좀 많이 진행을 하고 있어요. 그 규정들을 매번 들쳐 봐가면서 고객을 상담하거나 이런 일이 어려움이 있으시다고 하더라고요. 뭐 그 정도로 짧게 말씀 드리겠습니다.
(PwC) 저는 산업보다는 업무영역으로 말씀을 드리고 싶은데요. 크게 보면 SCM같은 경우에는 오퍼레이션 영역에 좀 많이 유스케이스나 사례들이 나오고 있고요. 그 오퍼레이션 쪽에서는 뭐 자동화 한다든지 또는 예측을 한다든지 뭐 판매 예측이라든지 이런 부분들의 유스케이스들이 많이 있습니다. 그리고 뭐 재무와 관련된 FCM영역에서는 그 역시 마찬가지로 자동화 라든지 이상탐지 부분들이 있고요. 특히 이상탐지 부분에서는 사전에 미리 거르는 영역 그리고 사후에 리뷰 하는 그런 영역으로 좀 많이 구성된 유스케이스가 있습니다.
(Dell Technologies) 저는 AI가 젠AI가 되면서 갑자기 AI부분이 들어 있지만 사실은 AI 전체적으로 보면 새로운 기술이 하나 추가된 것 뿐입니다. 예를 들어서 기존에 있는 뭐 자동차 여행이 자율주행이라고 한다고 하면 카메라가 인식하는 거 같은 이미 다 AI로 됐던 부분들이 그 이후를 전부 다 사람이 수작업 해서 엮었던 부분들을 이제는 AI가 도와주는 부분들 그러니까 젠AI같은 경우에는 약간 접착제 같은 그런 느낌을 가지는 부분들이거든요. 그런 식으로 지금 전 산업에 이용되고 있다고 이해하시면 될 것 같습니다.
24) 프로젝트 추진 시 대략적인 비용과 기간은?
(Megazone Cloud)
일단은 프로젝트 추진하는 방향은 Turn_Key 베이스가 아니라 MVP형태로 가는 걸 추가 되고요. 저희가 주로 평균적으로 제시하는 오퍼링은 2-3개월 정도 MVP를 하나 두 개 거치면 프로덕션에 간다 입니다.
(PwC) 약간 유사할 것 같습니다. 클라우드 서비스를 쓰는 강점 중에 하나가 어프런트 비용 일시적 비용이 상당히 작다는 거고요. 저희가 POC나 MVP를 했을 때도 그런 여러 가지 기술을 쓰는 데 있어서 크게 비용이 어프런트로 들지는 않았다 그리고 한 두 달 정도로 해서 MVP 그리고 프로덕션 이행하는 것을 권유 드립니다.
(Dell Technologies) 클라우드에서 일단 확장하게 되면 결국 온프레임으로 내려 올 수 밖에 없는 상황이 벌어지는데요. 저희들은 일단은 온프레임에서 시행 할 수 있는 부분들을 이제 그래도 가장 작은 부분들 워크로드에 따라 다르겠지만 가장 작은 부분들로 시작할 수 있는 뭐 한 2-3억 사이나 5억 사이 미만으로 일단 시작하는 것들이 먼저 필요하다고 생각합니다.
25) 프로젝트 구축으로 인한 기대효과는?
(Megazone Cloud) 중간 중간에 나왔던 거 같은데 일단 업무생산성이 올라 가는 건 사실이고요. 그런데 제가 반드시 말씀 드리고 싶은 효과는 다소 정성적일 수는 있으나 일단은 임직원 분들이 AI를 알게 됩니다. 어떻게 써야지 잘 쓰는 걸 알게 된다는 거 자체가 가장 큰 성공 효과이지 않을까 싶습니다.
(PwC) 요인들만 좀 말씀을 드리고 싶은데요. 프로세스 자동화 같은 경우에는 이런 팩터들을 고려하면 좋을 것 같습니다. 뭐 풀타임 이퀴벌런트 이제 절감률 그리고 애큐러시 그리고 필드 코스트도 같이 생각해야 됩니다. 뭐 100%가 안 나올 때 그에 대한 코스트 그리고 임프루브먼트 코스트 생각을 해야 되고요. 이상 발견 같은 경우에는 적발을 했을 때 그 때 얻을 수 있는 기회비용들 또는 기회수익이 되겠죠. 오히려 그런 부분들을 평가한다면 ROI를 정성적, 정량적으로 평가할 수 있다라고 생각을 합니다.
(Dell Technologies) 정확한 투자대비 어떤 ROI를 뽑는 건 되게 어려운 일이긴 한 거 같은데요. 실제 외국사례 같은 경우에는 실제 자기가 투자했던 그러니까 자기의 어떤 그 AI를 구축 함으로써 일반적으로 생산성이 한 40%이상 향상 한다든가 아니면 초보자 어떤 사람들이 일을 하는데 이미 15년 20년씩 일하는 전문가의 퍼포먼스가 된다든가 아니면 예를 들어서 사람이 하는 그 이상의 한 10배 정도의 정확성과 120배 정도의 어떤 속도라는 효율성을 가지고 갈 수 있다 이런 여러 가지 좋은 사례들은 많이 있습니다. 그런데 그 부분들은 실제 얼만큼 잘 구축 돼 있는지 어떤 워크 케이스에 적용되는지에 따라서 다를 것 같습니다.
26 프로젝트 구축으로 인한 보안문제는 없는지?
(Megazone Cloud)
클라우드 쪽에 보안은 사실 뭐라 말씀을 드릴 수가 없는 게 저희가 보안을 다 지켜 가면서 고객 프로젝트를 하고 있는 상태라 사실 어떤 이슈가 있을까요? 이렇게 오히려 말씀드립니다.
- 이전글SAP의 지속가능성 솔루션, 안전 보건과 제품 규제 24.12.24
- 다음글12월 KSUG 특집 패널 토크 : 핵심 포인트만 보기(1) 24.12.24
댓글목록
등록된 댓글이 없습니다.