SAP 사용자들의 오픈 커뮤니티

• 목록

안녕하세요, KSUG Admin입니다.

11월 8일에 진행된 "[11월 KSUG 특집 패널 토크] AI를 활용한 기업 혁신의 성공/실패 사례 분석” 세션이 많은 SAP 사용자 여러분의 관심 속에 마무리 되었습니다!

KSUG 온라인 패널 토크 세션의 시청자 여러분께서 남겨 주신 질문에 대한 패널 분들의 답변을 올려 드립니다.

이번 패널 토크에서 궁금했던 점을 풀어 보세요!

1. 생성형AI가 시스템 등 종속적인 영향이 크면, 기존 데이터 분석과 활용면에서의 AI 도입에 대한 획기적인 영향력과 결과물에 대한 기대가 어려운지요? 기존 데이터 정제 등 관리 작업 등에 대한 비용과 AI 도입,유지 비용으로 ROI가 더 낮아지는 것을 높이는 방안은 무엇인지요?

[Kearney]종속적 영향이 크다고 하여 도입효과가 낮아지는 것은 아닙니다. 단, 내부 데이터 정체 체제와 클라우드 환경, 데이터 공조 체제, 신규 기술에 대한 활용처가 정의되어 있지 않다면 필요한 데이터가 무엇이고 어떤 조직에서 추진해야 하고 등의 과정이 기술 도입과 병행되어야 합니다. 필요한 데이터는 필요한 AI 도입 Scene에 따라 달라지기 때문에, 어디에 왜 적용해야 하는지를 보고 우리는 필요한 데이터가 존재하고, AI가 학습하기 위한 라벨링이 선행되어 있는지 도입 기반을 마련하면 AI도입후 결과물에 대한 실망이 낮아질 것입니다. 

2. AI활용을 위해서 데이터가 확보, 정제되고 AI전문가와의 협업을 통해 시너지를 낼 수 있다고 말씀하셨는데, 실제 데이터에 대한 참조 데이터에 대한 정보 및 이를 활용해 AI도입 전에 활용할 수 있도록 할 수 없을까요? 기술이 목적이 아닌 수단이라고 말씀하셨는데, AI활용을 통해 비즈니스 효과와 연계된 사례가 있을까요? 공유 부탁드립니다.

[Kearney]AI를 전사적으로 도입하기 전에 시중 기반모델, GPT, Llama 등을 통해 기존 보유한 데이터를 라벨링하고 AI에 학습하는 사전 활용활동은 가능합니다. 예를 들어 일부 대기업 마케팅 조직 및 국내 종합광고 대행사에서는 구매목적, 브랜딩 목적에 따라서 AI가 학습할 광고 카피, 영상 등에 라벨링을하고, 개인화 타겟별 광고메세지, 퍼포먼스 광고 카피, 배너 이미지 등을 전사적 도입하기 전에도 활용하고 일반 네이버 등 포털에서 학습한 데이터보다, 전문 광고인이 제공한 비정형 데이터가 마치 AI 전문 광고인을 만들어 내는 듯한 파일럿을 진행한 적도 있습니다.

사용처, 사용자에 따라서 이 데이터가 유효한지 아닌지 결과물 기준으로 달라지기 때문에 기 존재하는 데이터를 원하는 목적에 학습 재료로 잘 활용되는지 먼저 수행하는 것이 중요합니다. 

비즈니스 효과 사례는 국내는 보안상 말씀드릴 수 없으나 글로벌 소비재 기업들은 소비자 참여형 마케팅 플랫폼(코카콜라) 혹은 개인화 마케팅 카피 솔루션(로레알) 등으 통해서 고객의 구매 전환율을 10~20% 개선했습니다. 또한 글로벌 광고기업 WPP에서는 3D 형태의 광고 제작 Raw data를 AI로 학습하여 자동으로 광고 3D 이미지를 만드는 솔루션을 통해 비용을 20%이상 개선한 것으로 보고 있습니다. 

온라인 패션플랫폼 Zalando의 경우는 AI기반의 고객 맞춤형 추천 서비스를 도입해 교차판매 비중을 높이고 고객의 만족도를 혁신했습니다.

3. 서비스 비용은 데이타량, 리소스(cpu, gpu, 메모리) 사용정도 등에 기준이 되는지요?

[AWS] 요금은 입력 토큰과 출력 토큰의 양, 그리고 모델에 대해 프로비저닝된 처리량을 구매했는지 여부에 따라 결정됩니다. 자세한 내용은 Amazon Bedrock 홈페이지에서 확인하실 수 있습니다. (Link)

4. Peoply HR 도입 시, 생성형 AI를 통한 맞춤형 인재 채용과 선발에 대한 활용 방안은 어떻게 되는지요? AI 모델에 대한 검증과 분석 예측,결과는 어느 정도 정확성을 가지는 지요?

[두산디지털이노베이션]

[Peoply ATS AI활용]

• 현재 Peoply ATS(채용시스템)에서는 인재 채용/선발 시 Gen AI를 활용하고 있습니다.
• Gen AI를 활용해 지원자의 주요 항목을 태그로 생성해 특징을 뽑아내고, 이 항목은 다른 지원자 대비 어떤 수준에 있는지 확인하는 용도로도 활용합니다.
• 인적성파일(PDF)을 AI가 읽고 주요 내용을 추출해 요약 타일로 만들어 주는 기능이 있습니다.
• 지원자의 자기소개서에 경험, 역량적 부분을 하이라이트합니다. 이는 면접관이 주요 내용을 빠른 시간 내에 판단할 수 있도록 도움을 줍니다.
• 하이라이트 된 구문을 기반으로 지원자에 관한 질문을 다수 생성해 줍니다. 이는 면접관이 지원자의 자기소개서 정보를 빠르게 확인하고 몰입할 수 있도록 보조 역할로 활용됩니다.

[AI 모델에 대한 검증과 분석 예측, 결과의 정확성]

• 자소서 분석은 정성적인 부분이 많기 때문에 결과의 정확성을 수치상으로 나타내기엔 어려움이 있습니다.
• 하지만 태그 생성시에는 할루시네이션을 제거할 수 있는 기술을 첨가하여 높은 정확도의 아웃풋을 제공합니다.

5. 현재 사용중인 엣지 AI 와 어떻게 연동 할 수 있나요?

[AWS] Amazon Bedrock은 완전 관리형 Gen AI 서비스로 API 호출로 선도적인 AI 기업의 Foundation Model 연결이 가능 합니다.

6. SAP R3 기반에서도 AI 적용이 가능한가요?

[AWS] Datalake 와 같은 저장소에 SAP 데이터를 저장하여 활용할 수 있습니다.

7. 금융 부분에서의 적용 사례 꼭 공유해 주세요

[Kearney]Bank of America는 챗봇 Erica를 통해 15억회의 대고객 상호작용을 수행했고 실제 이체, 송금 등 단순한 작업을 AI기반 챗봇을 통해 수행하여 내부 고객 응대 비용을 획기적으로 개선했습니다. 

또한 모건스탠리는 GPT4기반 Financial Advisory에게 대화형 AI 개발을 통해 파편화된 지식을 상향 평준화하여 제공하고 있습니다.

JP모건은 합성데이터를 통해 AI를 학습, 금융 사기 탐지 모델에 AI를 도입, 적용하여 금융사기를 예방하는 AI를 내재화 하여 기존 탐지 확도를 높이는 Operational Excellence를 추진 했습니다. 

블룸버그의 경우 블룸버스GPT 개발을 통해 증권거래위원회 서류 및 시장보고서 초안작성, 복잡한 금융 보고서의 인사이트를 서머리하는 기능, 기업 재무제표의 이슈를 파악하는 기능, 기업 및 임원에 대한 정보를 제공하는 서비스를 내재화하여 활용 중입니다. 

국내의 경우에도 KB, 신한에서 소상공인 대상 광고제작 문구 등 PoC를 추진한 것으로 알고 있습니다. 

8. 국내 조립산업 형태의 제조업에 대한 선진 도입 사례에 대해 알려주실 수 있나요? 추가로, 도입시 어떤 효과를 가장 빠르게 얻을 수 있나요?

[AWS] AWS의 IoT 서비스와 머신러닝 기반 AI 서비스로 공장 설비의 평상시 온도, 진동 등을 학습, 분석하여 이상 감지를 통한 예지보전을 통해 장애방지, 비용절감 사례가 있습니다.

[Kearney]지멘스의 경우 AI를 활용하여 예방정비 솔루션을 만들어 매뉴얼, 검사노트, 이미지, 텍스트 등의 형태로 기존 예방정비의 퀄리티를 높인 경우 있으며

BMW는 펜데믹 시기 Made-to-Order방식으로 차량모델, 색상, 옵션 등 생산 조합의 수가 기하급수적으로 증가 했습니다. 이를 위해 차량 제조과정상 오류사항, 예외사항에 대해 사람과 LLM이 대화형으로 생산과정상 이슈를 해소하는 솔루션을 Figure X라는 업체와 Humanoid1 개발을 통해 24년에 개선하려는 시도를 하고 있습니다. 

BOSCH는 생성형 AI 기반 데이터 증강(GANs, VAEs) 통해 결합이 있는 부품 데이터 신규 생성 및 학습 통해 생산라인 품질관리 정확도 개선을 지속화 하고 있습니다. 

9. AI 도입 후 진화와 변화의 측면에서 가장 주목할 만한 성과는 어떤 점이 있을 수 있는지 와 AI의 구현 과정에서 예측되는 문제점 혹은 사전 고려사항이나 필수검토사항은 어떤게 있을지요

[Kearney]생성형 AI가 고도화 되면 반복적이고 고민이 없는 업무 과제는 소멸될 가망도가 높습니다. 기존 RPA대비 맥락정보를 이해하고 적합한 과업을 추진하는 성능이 탁월하기 때문입니다. 

따라서 불필요한 인력이 투입되는 영역 혹은 여러 사람이 컨텐츠를 생산해야 하는 영역 등의 비용절감 효과가 모델이 기하급수적으로 고도화 됨에 비례하여 나타날 것입니다. 

구현과정상은 대부분 AI 도입 조직이 양손잡이가 아닌 한손잡이라는 겁니다. 기획 관련 조직에서는 실행 가능성에 대한 이해도 없는 AI 도입을 추진하고, 반대로 개발 관련 혹은 IT 조직에서는 실제 사용자 경험과 괴리가 있는 혹은 시장에서 괴리가 있는 서비스를 개발할 가망도가 높습니다. 

또한 상기 문제가 해소되었다 하더라도 필요한 데이터를 초기에 정제하는 것에 시간이 필요하고
데이터를 만들어주는 업체에도 필수적으로 비용이 투자되어야 하는데 이러한 데이터 라벨링 등의 소모성 업무에 경영진들이 중요성을 낮게 평가하여 데이터를 충분히 활용하지 못하는 사례가 있습니다. 

이러한 Operational 하지만 경영진들이 곡 필요한 선결 요건에 대한 사전공감이 필요합니다. 

10. ai가 학습한 정보들에 따라서 상당한 편차가 발생하는 것이 현실인데, SAP에 내장된 Ai 기능이나 마마존에 학습된 정보는 한국어에 대한 정보가 어느 정도나 반영되어 있는지요?

[AWS] Amazon Bedrock은 선도적인 AI 기업의 Foundation Model 중 원하는 모델을 선택하여 사용할 수 있습니다. 한국어 결과물도 받아보실 수 있습니다. 학습된 정보는 모델 별로 다를 수 있습니다. 국내기업 Sendbird, LG AI Research, NC Soft의 모델도 AWS에서 사용 가능 합니다.

11. AI Assistant 기능 사용시에, 원하는 분야나 전문용어 등에 제한하여 생성형 결과를 도출할 수 있도록 학습하는 데이터나 금지어 등의 처리를 통해 원하는 범위 내에서 AI가 생성할 수 있도록 설정이 가능한가요?

[AWS] Amazon Bedrock의 가드레일 기능으로 설정 가능 합니다.

12. SAP S4 HANA사용시 Azure를 써야하면 멀티클라우드를 운영하게 되는 상황인데 인프라 관련 msp계약도 같이 포함되는 방식인지요?

[AWS] Amazon Bedrock 사용비용에는 MSP가 포함되어 있지 않지만, AWS의 파트너를 통한 지원이 가능 합니다. 

13. aws는 재무보고서 인사이트 발굴에도 도움이 된다고 하는데요, 혹시 재무와 관련된 감사 활동에도 AI를 사용할 수 있을까요??

[AWS] 감사 솔루션의 일부로 활용될 수 있겠지만, 데이터에 대한 판단은 추가 프로세스가 있어야 할 것으로 보입니다.

14. 멀티클라우드 환경에서 각 클라우드 간에 SAP S/4HANA의 사용자 인증 및 인전한 데이터 공유 방안 등은 어떤것이 있는지요?

[AWS] 우선, 클라우드 간 Private Network 이 구성 되어야 하고, AWS의 인증 관련 서비스 또는 AWS Marketplace에 등록된 파트너 솔루션 활용도 가능 합니다. AWS와 SAP BTP의 통합을 예로 들면, 현재 국내 SAP BTP(서울)는 AWS 서울리전에서만 운영되고 있어서 AWS 내부망 통신으로 보안을 강화할 수 있습니다.

15. On-Premise 시스템을 사용하는 입장에서 SAC의 분석 기능과 AWS Bedrock의 연동에서 가장 큰 차이점이 무엇인가요?

[AWS] SAP SAC는 솔루션 형태의 SAP의 제품 입니다. Amazon Bedrock은 Gen AI 툴로서 고객 서비스에 포함될 수 있고, AWS의 200개 이상의 서비스로의 연계 확장이 용이 합니다.

16. DX를 위한 Cloud 전환이 가장 기본 인프라가 되는데 Cloud 전환을 위해 Enterprise는 데이터유출, 기업내부데이터의 클라우드 보관 등 보안에 대해 많은 고민을 하고 있습니다. S4/HANA 클라우드 인프라에서 이러한 보안 문제를 어떤 식으로 해소해 줄 수 있는지요?

[AWS] 인프라 디바이스의 암호화는 AWS에 기본 적용되어 있습니다. 데이터의 암호화는 AWS의 암호화 기능을 사용하실 수 있고, 파트너의 솔루션도 활용 가능 합니다. AWS의 권한 제어 서비스로 접근이 허용된 사용자만 데이터 접근이 가능하도록 구성하실 수 있습니다.

17. 과거 대형 퍼블릭 클라우드 서비스의 장애로 대형회사의 서비스가 장시간 중단되는 사례등으로 서비스의 안정성에 대한 우려가 있는데 이에 대한 대비책과 DR구축을 통해 데이터센터장애시 실시간 서비스절체가 가능한지 사례등이 궁금합니다.

[AWS] AWS의 DR 관련 서비스 중 하나인 AWS Elastic Disaster Recovery(AWS DRS)는 저렴한 스토리지, 최소한의 컴퓨팅 및 특정 시점으로 복구를 통해 온프레미스 및 클라우드 기반 애플리케이션을 빠르고 안정적으로 복구하여 가동 중지 시간과 데이터 손실을 최소화할 수 있습니다. (Link)