SAP 사용자들의 오픈 커뮤니티

• 목록

안녕하세요, KSUG Admin입니다.

6월 14일에 진행된 "[KSUG 4주년 특집 패널 토크] SAP Sapphire 2024, AI와 혁신을 중심으로 한 SAP의 솔루션 전략” 세션이 많은 SAP 사용자 여러분의 관심 속에 마무리 되었습니다!

KSUG 온라인 패널 토크 세션의 시청자 여러분께서 남겨 주신 질문에 대한 패널 분들의 답변을 올려 드립니다.

이번 패널 토크에서 궁금했던 점을 풀어 보세요!

1. AI기술 발전에 따른 SAP의 보안전략 중 가장 큰 특장점은 무엇인지요?

[SAP Korea] SAP AI 전략 중 하나는 Responsible AI를 구현하는 것입니다. 이것은 AI Application에 대해서 생성된 정보의 검토/승인을 사람이 책임감 있게 참여할 수 있도록 설계하고 또한 AI Ethics 및 Privacy Policy 준수하는 전략을 이야기합니다. 또한 이번 Sapphire 2024에서는 유네스코 AI 윤리권고를 채택하여 이에 기준하여 AI Application을 개발할 것을 발표하였습니다.

2. 엔터프라이즈 레벨에서 AI 서비스를 어떻게 효과적으로 구축하고 관리할 수 있는지 외에 그럼 SMB(중소기업)의 경우에는 어떻게 관리할 수 있을까요?

[SAP Korea] 중소기업의 경우 S/4HANA Public Cloud를 사용함으로써 SAP의 AI 서비스를 효과적으로 구축하고 관리할 수 있습니다. S/4HANA Public Cloud는 SAP AI기술이 우선적으로 적용되고 있고, 또한 BTP를 사용한 Extension 및 customization기능을 결합하여 사용할 수 있습니다.

3. 기업 입장에서 지속가능한 AI가 무엇보다도 중요하다고 판단되는데, 모델 적용 이후 발생하는 AI모델의 성능유지 및 강화를 위한 지속적 통합(CI), 지속적 배포(CD), 지속적 학습(CT)의 결과물들은 하이브리드 클라우드 환경에서 어떤 시나리오로 배포가 이뤄지는지 궁금합니다.

[SAP Korea] SAP AI 모델은 AI Core 서비스의 Kubernetes 기술을 이용하여 개발되며 BTP의 SAP Continuous Integration and Delivery와 Cloud Transport Management, Job Scheduling Service 기술을 이용하여 CI/CD/CT를 수행합니다. 

4. SAP Sapphire에 적용된 AI 기반 모델은 내부개발 엔진 기반인지, 오픈소스 모델이나 3^rd party 협력을 통해 운영하시는지 궁금합니다.

[SAP Korea] SAP Application에 탑재된 AI모델은 Use cases별로 최적화된 오픈소스 모델 및 3^rd party LLM을 적용하여 개발되어 졌습니다.(OpenAI, Google Vertex AI, Llama3, Falcon, Nvidia…) SAP가 자체적으로 개발하고 있는 LLM(정확하게는 Foundation Model)도 존재합니다. 현재 GPT/4HANA라는 프로젝트를 진행하고 있으며, Structured Data를 활용해서 정형정보를 산출하는 생성형AI모델입니다.

5. 회사에서 업무를 수행하는 데 SAP AI를 최적으로 적용하고 활용하려는 경우 중요하게 고려하고 점검해야 할 요소들에 대해서 문의드려요.

[SAP Korea] 가장 중요한 사항은 어떤 영역에 AI를 적용할지에 대한 Use cases를 발굴하는 일입니다. 적용할 유즈케이스가 결정되면 AS-IS 현황 및 유관데이터 파악, 아키텍처 등을 판단하여 순차적으로 적용하는 작업을 진행할 수 있습니다.

6. SAP의 AI 기술이 중견/중소기업에게도 적합한지, 그렇다면 어떤 방식으로 적용될 수 있는지 궁금합니다.

[SAP Korea] 중소기업의 경우 S/4HANA Public Cloud를 사용함으로써 SAP의 AI 서비스를 효과적으로 구축하고 관리할 수 있습니다. S/4HANA Public Cloud는 SAP AI기술이 우선적으로 적용되고 있고, 또한 BTP를 사용한 Extension 및 customization기능을 결합하여 사용할 수 있습니다.

7. Joule을 통해 내부데이터를 LLM화 시켜서 판생전략의 인사이트 도출이 가능할까요?

[SAP Korea] Joule은 BTP의 RAGE(Rag for Enterprise) 서비스를 활용하여 내부데이터를 반영하여 대답할 수 있는 아키텍처로 구성되어 있습니다. 따라서 Joule은 내부데이터를 반영한 판생전략에 대한 답변을 할 수 있습니다.

8. 전 솔직히 말하면, 비지니스과정에 AI를 도입하거나 이를 바탕으로 의사결정 하는 것에 아직 많은 위험이 있지 않나 생각합니다. 특히 신경망을 이용할 경우, 그 과정이 블랙박스화되어 그 산출결과의 타당성을 검증하기 어렵지 않나요?

[SAP Korea] SAP AI에 사용되는 되는 알고리즘이 모두 블랙박스화되어 있는 것은 아닙니다. 질문 주신 것처럼 생성형AI나 신경망 알고리즘의 경우 해석이 어려울 수 있는 반면, 다른 AI 유즈케이스에 대해서는 독립변수의 영향도 및 해석을 위한 결과를 도출하는 알고리즘이 적용되는 경우도 다수 존재합니다. 

9. 실제 신기술을 실무 프로젝트에 적용하기가 쉽지 않은데 이 간극을 줄여 쉽고 빠르게 적용 할 수 있는 기반을 마련할 방법은 무엇일까요?

[SAP Korea] SAP AI 관련 기술들은 Coding이나 개발을 최소화하는 방향으로 발전하고 있습니다. 특히 Pre-defined AI Scenario가 지속적으로 늘어나고 있는 상황입니다. SAP에서 제공하는 Pre-defined AI Scenario가 어떤 것들이 있는지 확인하고시고 프로젝트에서 적용할만한 내용을 우선적으로 고려하는 것이 가장 쉽고 빠르게 적용하는 방법이라고 말씀 드리고 싶습니다.

10. 클라우드 시스템 전환 시 AI기술 도입을 가장 효과적으로 할 수 있는 SAP의 제안은 무엇인지요?

[SAP Korea] 9번 답변 참고

11. 줄을 통해서 내부데이터 접근 권한을 주고 이를 통해 판생전략 도출이라던지 인사이트를 얻고자 하는데 이게 가능할까요?

[SAP Korea] 7번 답변 참고

12. sap joules은 어떤 환경에서 사용이 가능한가요? s4hana에서만 사용 가능한 건가요? ECC기반에서도 사용가능한지 어떤 환경에서 구동, 사용 가능한지 궁금합니다.

[SAP Korea] Joule은 ECC기반에서는 사용할 수 없습니다. 그리고 S/4HANA Public/Private Cloud를 포함해서 6개의 Cloud Application에서 활용할 수 있습니다.(SFSF, ISBN, CX, BTP, SCM)

13. AI를 적용해서 데이타에 대한 분석을 통해 추론을 할 수 있는데, SAP AI도 데이타 분석 뿐만 아니라 추론/예측도 할 수 있는 것인가요?

[SAP Korea] 당연히 SAP AI는 추론(Inferencing) 및 예측(Prediction) 기능이 제공됩니다.

14. 최근 엔터프라이즈 시스템에 적용되는 AI 모델들은 보안 등의 이유로 외부API 호출 방식을 기피하는 추세입니다. SAP에서는 이와 같은 엔터프라이즈들의 니즈에 부합하기 위해 어떤 보안기능이나 시스템구성 모델 등을 제안하시는지 궁금합니다.

[SAP Korea] 생방송 라이브때 말씀 드린 것처럼, SAP AI서비스들은 BTP기반으로 구성되어 있고 BTP에서 제공하는 모든 보안기능을 활용합니다.

15. SAP 사피이어 2024의 AI 접목과 관련하여 기존 SAP 사용자에 대한 AI 도입에 대한 지원 정책은 어떻게 되는지요? ERP, CRM 등 기존 데이터를 AI 학습 데이터 중심으로 변경하기 위한 주요 사항은 무엇인지요?

[SAP Korea] S/4HANA Public/Private Cloud를 포함하여 기타 SAP Cloud Application을 사용하는 고객은 Joule을 포함해서 필요한 AI기능들을 enable시키면 활용하실 수 있습니다. 그리고 적용하려는 AI시나리오에 따라 CDS View를 생성함으로써 ERP, CRM등의 기존데이터를 AI를 업무에 적용하는데 활용할 수 있습니다.

16. SAP Gen AI Hub를 통하여 대규모 언어 모델을 효율적으로 적용하고 활용할 수 있는 방안에 대해서 설명 부탁드려요

[SAP Korea] SAP Generative AI Hub에는 다양한 LLM이 탑재되어 있습니다. 개발자들은 BTP LLM Access Proxy를 통해서 SAP Gen.AI Hub에 탑재된 LLM을 API형태로 호출하여 쉽게 AI Application을 구현하는데 사용할 수 있습니다.

17. M365와의 통합은 어떤 형태인가요? 통합을 통한 서비스는 무엇인지 궁금하네요

[SAP Korea] SAP Joule과 MS 365 Copilot과의 API를 통한 인터페이스를 지원하는 것입니다. API를 통해서 MS 365 Copilot에서도 Joule과 연동된 SAP정보를 조회할 수 있다는 의미입니다. 

18. 장애 모니터링과 대응을 AI 머신러닝을 통한 자동화대응이 어느정도 가능한지와 시스템을 운영하고 관련 기능을 커스토마이징 하기 위한 기술자의 역량은 어느정도 수준이어야 하는지요?

[SAP Korea] 장애처리에 대해서는 BTP상에서 GUI환경 및 로그를 통해서 확인을 할 수 있습니다. 자동화 관련 처리는 BTP Scheduling기능을 활용하여 지원됩니다. Customizing과 관련한 부분은 BTP Kyma runtime 및 CF Application Runtime의 다양한 Language를 이용하여 구현할 수 있습니다.

19. Llama3가 SAP에 탑재되면 AI사용에 별도 license가 필요할까요? optional 인가요?

[SAP Korea] Llama3는 SAC에 Embedding되어 지원될 예정이고, SAC의 License가 있다면 사용할 수 있습니다. 그리고 BTP Generative AI Hub에 탑재된 Llama3에 대한 License 부분은 아직 발표가 되지 않아서 이후에 답변 드려야 할 것 같습니다.

20. SAP AI(Joule) 적용시 기업내 기밀정보를 통제할 수 있는 방법이 있는지 궁금합니다

[SAP Korea] 기업내 기밀정보에 대한 부분은 BTP의 RAGE(RAG for Enterprise)를 통해서 Joule에 연결되어 집니다.

21. 외부 데이터를 수집하고 내부 데이터와 연계하여 발주예상수량을 예측하는 등 인사이트를 제공하는 영역에도 RPA 가 사용될 수 있는 건지 AI를 통해 시스템으로 구현하는 영역인지 궁금합니다. 사람이 수집하던 외부데이터를 시스템으로 수집을 구현 하려니까 너무 어려움이 있더라구요

[SAP Korea] RPA와 AI가 결합하여 사용되어야 합니다. 자동화 부분은 RPA 부분에서 구현되고, 예측 관련 부분은 AI에서 구현되어 서로 결합하는 형태가 되어야 합니다.

22. Business AI서비스 이용에 타 시스템간 I/F은 어떤 방식으로 추가로 구성을 해야 할까요? 아니면 별도 추가 구성할 내용은 없을까요?

[SAP Korea] 타 시스템간의 Input/output은 기본적으로 API를 이용해서 구현되어야 합니다. SAP S/4HANA의 경우는 oData Interface방식을 사용합니다.

23. AI scm은 GCP cortex data foundation 처럼 pre-define 된 솔루션 인가요?? 기존처럼 Github로 공개 되나요?

[SAP Korea] SAP SCM영역에서 제공되는 AI기능들은 Pre-defined 솔루션으로 제공될 예정입니다. 일반적으로 Customization에 대한 부분이 아니라면 Github를 통해서 소스코드가 제공되지 않을 것으로 생각됩니다.

24. 비지니스 AI 시나리오 샘플 하나만 공유해주세요.

[SAP Korea] S/4HANA에서는 Cash Application 및 BIS(Business Integrity Screening)에서 제공되는 Fraud Management 등의 일반적인 AI 시나리오가 탑재되어 있고, 생성형 AI 시나리오로는 Transportation Management영역에 탑재되어 수기문서를 읽어서 Transaction 처리를 지원하는 Good Receipt Processing등의 시나리오가 있습니다. 

25. 비전프로나 코파일럿등에서 SAP Joule 서비스가 도입되면, Joule을 통해 그 안에서 SAP 업무 처리까지 가능하다는 소리일까요?

[SAP Korea] 네 맞습니다.

26. 지속적인 AI라이브러리 업데이트 관련하여 고객이 원하는 AI라이브러리들의 지속적인 업데이트 제공 및 AI 전문 인력을 통한 신속한 대응이 가능한지 궁금합니다.

[SAP Korea] SAP는 EAC(Early Adaptor Care)라는 프로그램을 통해 사전에 SAP AI 기능에 대한 사용 및 검증을 하는 프로그램을 운영하고 있습니다. EAC 프로그램을 통해 고객이 AI 기능 관련 요청하시는 업데이트가 있었고, 향후에도 지속적으로 진행될 예정입니다.

27. AI기능 적용으로 고성능 AI추론부터 고속 데이터 처리가 예상되는데 솔루션 도입 시 발생했던 기술적인 이슈(실행,기능 등)는 무엇이(사례) 있고, 이 문제를 해결했던 해결방법이 궁금합니다. 그리고 백업 및 장애복구, 시스템 유지보수, 데이터 보호와 같은 기술적인 운용은 어떻게 이루어지도 궁금합니다.

[SAP Korea] 대용량, 고속 데이터 처리 지원을 위해서 SAP는 2022년 BTP AI Core라는 서비스를 출시했습니다. AI Core는 Kubernetes기반 AI 개발 런타임 서비스이고, Kubernetes기반의 orchestration, backup, restore, maintenance기능을 제공하고 있습니다.

28. AI상에 예상된 시나리오에 벗어난 예상치 못한 상황이 발생할 경우에 적절한 처리방안과 학습처리를 통한 재발방지가 가능한가요?

[SAP Korea] 여러 가지 조치방안이 있을 수 있습니다. 생성형 AI의 경우는 Fine-tuning이용한 모델개선 및 Prompt engineering 및 Grounding 프로세스의 개선을 통해 개선할 수 있습니다. 전통적인 Machine Learning의 경우는 Data Preparation 부분의 개선 및 Retraining과정을 통해서 문제에 대한 대처를 할 수 있습니다.

29. SAP ERP 입력 방식을 다양화하여 엑셀 템플릿으로 작성된 데이터를 AI 기술을 활용하여 ERP에 자동으로 입력할 수 있으면, RPA와 연동하여 사용할 수 있는지와 AI 솔루션의 정책을 적용하여 운영하는데 문제점은 없는지 궁금합니다.

[SAP Korea] 해당 기능은 SAP iRPA를 통해서 구현될 수 있습니다.

30. ERP에 입력/도출된 숫자가 어떤 과정을 거쳐 나왔는지는 문서에 있다 보니 문서와 숫자를 함께 분석하고자 하는 니즈가 많습니다. SAP AI가 O365와 연계한다고 하셨는데 O365 팀즈 내 파일과도 연계 계획이 있는지, 연계하여 분석이 가능할지 궁금합니다.

[SAP Korea] SAP Joule과 MS 365 Copilot과의 연계는 API단위의 연계가 될 예정입니다. 해당 데이터를 함께 연계 분석하는 것은 아직 로드맵에 기술되어 있지 않습니다. 데이터를 함께 연계 분석하는 부분은 일부 개발이 필요할 수 있으리라 생각합니다.

31. 기존 레거시 환경과 신규로 도입해서 통합 사용하고 싶은데, 별도의 준비가 필요하나요?

[SAP Korea] 기존 레거시의 경우는 데이터를 RAGE(RAG for Enterprise)에 결합하여 SAP Joule을 통해 답변을 할 수 있도록 구성할 수 있습니다. 기존 레거시시스템에서는 SAP Joule을 사용할 수는 없으며, BTP에서 개발해서 연동하는 방법은 가능합니다.

32. Gen AI를 사용할 경우 오작동 등으로 인한 이상 데이터 발생을 탐지하고 제어할 수 있는 기능이나 방안은 SAP솔루션에 포함되어 있는지 궁금합니다. 악성코드나 랜섬웨어 같은 사이버 위협에 대한 대비책은 무엇이 있고 SAP은 이에 대해 어떤 방안을 제공하는지요? 보안취약점 검출 시 Patch/Update작업은 어떻게 진행도 궁금합니다

[SAP Korea] 이상데이터발생에 대한 부분은 검증 로직에 대한 추가개발이 필요합니다. 그리고 사이버 위협에 대한 대비책은 SAP BTP기반으로 이루어지게 됩니다.

33. SAP는 생성형 AI를 SAP 솔루션 안에 어떤 기능과 서비스로 활용하고 있으며, 해당 AI 기술은 자체 개발 기술인지, 타사 혹은 제휴를 통한 협업으로 제공을 하는지, 향후 AI 기술 도입 및 활용에 대한 로드맵은 무엇인지 궁금합니다

[SAP Korea] 질문이 매우 광범위한 범위에 걸쳐 있어서 글로 답변하기 어렵습니다. 이후 배포되는 SAP Business AI 소개자료를 참고하시면 좋을 것 같습니다.

34. SAP의 경우 AI 기술 접목은 sap Joule을 통해서만 서비스 제공이 가능한가요? ABAP도 해당 서비스를 통해 코파일럿 서비스 이용이 가능할까요? chatgpt상 조회되는 소스는 엉터리가 많습니다.

[SAP Korea] SAP AI기술은 Joule 뿐만 아니라 Fiori UI를 통해서 제공됩니다. ABAP Code Generation은 BTP ABAP Cloud상에서 제공되고, 이후에 이클립스 SDK를 통해서도 제공됩니다. 

35. 사파이어를 사용하는 기업이 적용하게 된 배경이 궁금하고, 세일즈 클라우드등 판매예측이나 발주관리 등의 영역에도 활용이 가능할지요? 

[SAP Korea] 세일즈 클라우드 등 판매예측이나 발주관리 등의 영역에도 활용이 가능합니다.

36. 클린 코어 ERP 시스템이 아닌, 커스터마이징이 가미된 경우에도 SAP 비즈니스 AI를 미션 크리티컬하게 적용할 수 있는지 궁금합니다.

[SAP Korea] 클린코어 ERP가 아닌 경우, SAP Business AI를 적용하는데 많은 제약이 있을 수 있습니다.

37. 보안 관련하여 Gen AI 사용에 민감한 사업장입니다. 보안은 어떻게 안전하게 관리 되는지 문의 드립니다.

[SAP Korea] 14번 답변 참고

38. SAP 비즈니스 AI를 업무에 적용 시, LLM과 SLM의 도입 주요 기준은 무엇인지요? SLM과 LLM를 업무의 종류와 특징에 따라 적용이 가능한지요? SLM으로 인프라를 구축할 경우, LLM 부분 도입도 가능한지요?

[SAP Korea] 현재 BTP Generative AI Hub에는 sLM이 적용되어 있지 않고, 향후 로드맵에도 적용된다는 내용은 없는 상태입니다. 일반적으로 sLM은 on-device AI에 적용이 되는 것으로 알고 있고, SAP AI의 경우 Enterprise AI를 지향하고 있습니다.

39. Gen.AI도 파인튜닝이나 RAG 등의 작업이 필요한지도 궁금합니다. 그리고 Gen.AI 적용 전과 후의 측정 가능한 지표로 어떤 항목들을 선정할 수 있는지와 도입 고객이 만족하는 기능이나 사유는 어떤 것들이 있을지요?

[SAP Korea] Gen.AI Application에는 당연히 fine-tuning 이나 RAG process의 구현이 필요합니다. SAP는 각 AI Scenario에 대한 fine-turning된 LLM을 적용하고 있고, RAG는 BTP기반으로 RAGE(RAG for Enterprise) 모듈을 공급할 예정입니다. 성능 측정지표에 대한 부분은 현재 R&D에서 고려 중이 있으며 구체적인 사항이 발표되면 다시 말씀 드리겠습니다.

40. Generative AI 에 대한 통제 및 정확한 결과 도출을 위해 SAP는 어떠한 노력과 내부의 AI 윤리 및 운영 정책을 가지고 있는지 여부와 전략적 파트너십 체결시 고객의 정보 및 데이터가 파트너사에 노출이나 유출되지 않도록 어떠한 방안을 가지고 있는지도 문의 드립니다

[SAP Korea] 1번 답변 참고

41. 고객사분들에게 줄과 관련된 솔루션을 구축해드린다 가정했을 때, 현재는 줄에 접근할 수 있는 권한이 없어 줄 api 접근이 어려운 상황입니다. 향후 줄과 코파일럿이 통합되며, api를 이용한 개발이 가능해 질 수 있을 지 궁금합니다.

[SAP Korea] 말씀하신 것처럼 Sapphire 2024에서 MS 365 Copilot과의 API연동이 발표되었습니다만 언제, 어떤 내용의 API가 제공될지는 아직 발표되지 않았습니다. 향후 구체적인 사항이 발표되면 다시 말씀드리겠습니다.

42. SAP업무에 AI를 반영한 사례를 중심으로 기업에 AI 서비스를 만들기 위한 가이드를 제공하는지 궁금합니다.

[SAP Korea] 현재는 help.sap.com에 각 모듈별로 도움말이 제공되고 있습니다. 구체적인 가이드는 SAP Korea를 통해 배포하도록 하겠습니다.

43. AI를 도입하기 전에 도입하려는 업무가 AI에 적합한 업무인지, 굳이 AI가 필요한 건지 판단하기가 어려운데요, 혹시 이 업무는 반드시 AI가 필요해는 어떤 방법으로 판단하게 되는지요? 판단을 위한 체크리스트 등이 있는지요?

[SAP Korea] 일반적으로 사람이 판단하거나, 기존의 Rule만으로 결정을 할 수 있는 경우는 AI를 적용할 필요가 없습니다. Data 기반으로 의사결정이 필요한데 해당 데이터량이 매우 많아서 BI툴을 이용한 컨텐츠로는 의사결정이 어려울 경우 AI/ML을 적용합니다. 해당 판단을 위한 체크리스트는 없습니다.

44. Joule에서 평문 질문시 한국어는 별도 설정이 필요한가요?

[SAP Korea] 현재 Joule은 한국어를 지원하지 않고 올해 이후에 지원 예정에 있습니다.

45. Joule이 외부정보에 대해서도 참고 할 수 있나요?

[SAP Korea] Joule은 외부정보를 참고해서 답변하는 기능이 향후 제공될 예정입니다.

46. 표준 프로그램이 아니고 cbo로 만든 프로그램도 적용 가능한가요?

[SAP Korea] CBO에 대한 Standard 지원은 아직 발표 전입니다. BTP에서 RAGE 서비스를 이용하면 지원이 가능합니다.

47. 이번 사파이어에서 MS365 코파일럿 간의 깊이 있는 통합을 발표했는데 어느정도 유기적인 사용자 경험을 제공하는지와 시너지효과가 어느정도일지 궁금합니다

[SAP Korea] 41번 답변 참고

48. Joule이 M/S와 연계하여 개발된다면 SAP 데이터 외에 코파일럿 데이터를 전체 활용할 수 있는건가요? 24년에 완료되는 건가요?

[SAP Korea] 41번 답변 참고. 그리고 해당 기능의 공식 release data는 아직 발표 전입니다.

49. SAP 줄에서도 언어 호환 (다국어)이 가능하게 고려되고 있나요?

[SAP Korea] Joule은 현재 영어를 지원하고 있고, 2024 하반기에 독일어, 스페인어, 프랑스어, 포루투갈어 등을 지원할 예정입니다. 나머지 언어들은 올해 이후 지원될 예정입니다. 언어 호환에 대해서는 관련 팀에 확인 후에 답변 드릴 수 있을 것 같습니다.

50. 대외비 데이터를 Joule이 학습을 할 경우 보안이슈가 걱정이 되는데요. 이에 대한 방안이 마련되어 있는지 궁금합니다.

[SAP Korea] Joule에 외부데이터를 RAG로 연결할 경우, Nvidia NeMo의 강력한 보안기능을 이용하여 데이터 접근제한을 제공할 예정입니다.

이어서 51~90번 질문에 대한 답변 확인하러 가기