MLOps 1_왜 필요한가?

MLOps에 대해 기재한 사이트에 대해서 자세히 읽어보고 리뷰를 하려고 한다.

• 사이트: https://www.samsungsds.com/kr/techreport/kubernetes-mlops.html
• [오픈소스를 활용한 쿠버네티스 기반 MLOps 플랫폼 도입 | 클라우드 기술 백서 | 삼성SDS

오픈소스를 활용한 쿠버네티스 기반 MLOps 플랫폼 도입 | 클라우드 기술 백서 | 삼성SDS

 

---

AI서비스 개발 및 운영 문제점

• 서로의 업무를 모름
  • 모델 개발: 데이터 사이언티스트
  • ML Engineer: AI 모델에 대한 이해가 어려움
    
    • ML 엔지니어(Machine Learning Engineer)의 역할은 데이터 사이언티스트가 개발한 AI/머신러닝 모델을 실제로 운영하고 배포하는 것

• 개념 설명
  • 모델 배포 및 운영: 데이터 사이언티스트가 개발한 모델을 프로덕션 환경에 배포하고, 지속적으로 운영할 수 있도록 자동화된 파이프라인을 구축합니다.
  • 모델 최적화: 모델이 프로덕션에서 효율적으로 동작할 수 있도록 성능을 최적화하고, 필요한 리소스를 최소화할 수 있도록 관리합니다. 여기에는 모델 경량화, 처리 속도 향상 등이 포함됩니다.
  • 데이터 파이프라인 구축: 머신러닝 모델이 실시간 또는 배치 데이터를 받아 학습하고 추론할 수 있도록 안정적인 데이터 파이프라인을 설계하고 구현합니다.
  • 인프라 관리: 클라우드 플랫폼(AWS, GCP, Azure 등)이나 온프레미스 환경에서 머신러닝 모델이 배포될 인프라를 설계하고 유지 관리합니다. 여기에는 컨테이너화(Docker, Kubernetes)와 같은 기술도 포함될 수 있습니다.
  • 모니터링 및 유지보수: 모델이 배포된 후 지속적으로 모니터링하여 성능이 저하되거나 문제가 발생할 때 즉시 대응할 수 있도록 시스템을 설계합니다. 또한 모델의 정확도를 주기적으로 평가하고, 새로운 데이터에 대한 재학습(리트레이닝) 프로세스를 관리합니다.
  • DevOps 및 MLOps: 머신러닝의 지속적 통합 및 배포(CI/CD) 파이프라인을 설계하고 운영하며, 이를 통해 머신러닝 모델을 빠르고 안전하게 업데이트하고 배포할 수 있는 환경을 구축합니다.

• 해결책! : MLOps

 

MLOps?

• DevOps의 원칙을 적용한 것.

 

MLOps가 왜 필요한데!?

• 전문 인력 부족 > 반복적이고 부가적인 업무를 줄여서 본연의 업무에 제공하기 위함.
• ML 엔지니어가 운영 모델에 대한 지속적인 성능 관리 및 재학습을 잘 수행 할 수 있도록 함.

 

MLOps 대표적인 오픈 소스는? 쿠버플로우!(kubeflow)

• 누가 개발? 구글