서비스 Flashcards
AutoML
[리드] AI를 위한 AI
[정의] 머신러닝 모델링 과정의 전체 혹은 일부를 별도의 인공지능을 활용하여 자동화하는 기술
[필요성] 컴퓨팅 자원의 고비용, 반복 작업, 기술력 있는 인재의 부재
* 특징 추출, 하이퍼파라메터 최적화, NAS과정을 자동화하여 최적 알고리즘 생성
[활용영역]
1.학습 데이터 자동 설계 : 데이터 수집, 데이터 클린징
2.피처엔지니어링 자동화 : 기능 선택, 기능 구성, 기능 추출(차원축소)
3.하이퍼파라메터 최적화 : 훈련 제어
4.ML 알고리즘 자동 설계 : 모델 구조 설계, 모델 추정
* 전 과정에 적용 가능하나 초매개 변수 최적화, 모델 탐색 및 선정하는 프로세스에 많이 사용
[사례] Google : Cloud AutoML (전이학습, NAS기술 기반) , - Azuer : Azuer ML (머신러닝 워크플로우 단계별 도구 제공), - AWS : Amazon SageMaker (트래픽에 따른 Auto Scaling)
ModelOps
[리드] 분석 라이프사이클 가속화
[정의] AI 기반 시스템 내에서 모델 개발과 운영 자동화 및 표준화 통해 기업의 분석가치 최대화 제공 프로세스
[특징] 모델링 + 운영(CI/CD + CT)
[프로세스] 모델링(초기데이터 → 추출 → 모델) → 등록 → 운영(배포 → 모니터링 → 재훈련)
[기술요소]
- 모델링 : Prepare Data(ETL, 크롤링), Explore(통계적 분석, 마이닝, 기술/추론 통계), Model(AI 모델 검증-혼동행렬, ROC 커브)
- 운영 : Register(CI/CD), Deploy(SRE), Monitor(실제값/예측값 모니터링, ELK), Retrain(모델 트레이닝, K8S, Openshift)
* 지속적으로 변화하는 AI 서비스 환경,데이터에 맞춘 프로세스 자동화의 MLOps 부각
[차별화] 지속가능한 AI 서비스 운영
- DataOps(데이터 수집,탐색,정리) + ModelOps(모델 학습평가) + DevOps(CI/CD) -> MLOps (모델 지속 통합/배포 작업)
MLOps
[리드] 지속가능한 AI 서비스 운영
[정의] 신속 유연한 ML 개발을 위해 ML Lifecycle에서 CI/CD/CT까지 고려한 ML+DevOps결합한 방법론
[구성요소]
- Data Engineering (데이터 수집, 데이터 분석 및 전달), ML (머신 러닝 학습), DevOps (CI/CD, 모니터링)
* MLOps는 머신러닝, 애플리케이션 개발, IT 운영을 결합한 통합적인 접근법
[MLOps LifeCycle]
1. 계획수립 : 비즈니스 목표설정, 접근방식 스케치
2. 데이터 준비 : Feature Engineering, 데이터 품질
3. 분석/관리 : 테이터 통찰, 증강 데이터 관리
4. 기계학습 : 데이터 라벨링, 모델 학습/튜닝/평가
5. 배포/생산 : 모델 배포, 생산화 적용
6. 풀 스텍 지원 : 클라우드 연동, LifeCycle 관리 (파이프라인 오케스트레이션, 협업 환경)
* MLOps 실행 파이프라인은 데이터과학, 생산화, 비즈니스,기계학습으로 구분 가능
[차별화] MLOps 성숙도 모델
- 0단계 (No MLOps), 1단계(DevOps, No MLOps), 2단계(자동화된 모델 학습), 3단계(자동화된 모델 배포), 4단계(전체 자동화 MLOps)
* MLOps 완성도 모델은 사람/문화,프로세스/구조 및 개체/기술을 정성적으로 평가
AIOps
[리드] 지능적 IT 관리 방법
[정의] AI 기술을 IT 운영에 접합하여 고품질의 원인 분석 및 대응과 업무 자동화를 제공하는 기술
* 데이터 소스를 기반으로 분석하여 적용, 시각화 하는 과정을 진행
[프로세스]
- 데이터 수집 : API 활용 파일,로그,데이터등 실시간 수집 (빅데이터 플랫폼, 데이터 수집기)
- 데이터 분석 : 머신러닝, AI 기술 활용 이상 탐지 (AI 분석 학습 엔진, Rule&패턴 분석)
- 자동 제어 : AI 분석 기반 신속한 자동 대응, 배포 자동화 (API, 트리거, RPA, CI/CD)
- 가시화 : 모니터링 및 보고서 통한 시각화 (Dashboard, Event View, Slack)
* AI 기술을 비즈니스 가치와 Devops에 결합하여 자동화, 고도화 서비스를 제공, 운영비 절감등의 생산성 향상
[비교] AIOps vs MLOps
- 목적 : IT 운영을 위한 AI기술 / 머신 러닝의 개발,배포 자동화
- 기술 : API, NLP, 실시간 분석 / 머신 러닝, CI/CD, 시각화
* 조직에 적용시 비용, 데이터 품질, 내부 갈등 등 문제요소 사전 제거 필요
AIaaS
[정의] AI학습, 모델링, 데이터 가공/분석 등 AI 사용을 위한 AI 엔진, 어플리케이션, 프레임워크를 제공하는 클라우드 서비스
[특징] 봇/NLP 지원, 인지 컴퓨팅 API, AI 모델 구축 프레임워크 제공, AI 투자 비용 절감
* 클라우드로 제공 되므로 별도의 HW/SW의 제약없이 AI 서비스 구축 가능
[구성요소]
1. Services& Solutions : AI모델 기술지원(ASL), 협업툴 제공 (AI모델,서비스,데이터 수집)
2. APIs(학습 불필요) : AI 모델 학습 지원도구 제공(컴퓨터비전,NLP), 자연어처리 도구(STT,TTS)
3. Custom Models(AutoML) : AutoML에서 제공된 데이터 셋 활용
4. AI 플랫폼 : AI구현에 필요한 개발도구 제공(Built-In Tools), Dataflow등 데이터 통합 도구 제공
5. Infrastructure : NPU 하드웨어 제공(TPU, GPU), ML Frameworks(Tensorflow) 제공
[차별화] 확산을 위한 고려사항
- 클라우드 및 AI 보안성 향상 : 내부 학습 및 외부 서비스 VM 격리, XAI 반영
- 데이터 거버넌스 및 법률 준수 : 마스터 데이터 별도 관리, EU-GDPR, 개인정보보호법 준수
Edge Machine Learning as a Service
[리드] 서비스형 엣지 머신러닝
[정의] 클라우드 환경에서 머신러닝 모델을 개발하고 제한된 디바이스에 배포 및 상호 운용성 보장 서비스
[배포과정] ① Device Info(장치에 대한 정보 수집) → ② Downloading (모델 및 컴파일러 다운) → ③ Creating (추론 모델 생성) → ④ Installing (지정 디바이스에 설치)
[주요기술]
- 엣지 ML 프레임워크 : 머신러닝 알고리즘과 라이브러리 제공
- AutoML : 머신러닝 모델링 자동화 (피처엔지니어링 자동화, 하이퍼파라메터 최적화)
- 하드웨어 인지형 모델 압축 : 자원제약 Device 특징 고려 모델 압축 기술 (양자화, 가지치기, NAS)
- 엣지 MLOps : 엣지 디바이스에서 머신러닝 모델 유지관리,개선 및 모니터링
* 초연결 환경의 컴퓨팅 컨티뉴엄 구성을 위한 효과적 서비스 기술로 활용
[차별화] 초연결 컴퓨팅 컨티뉴엄 제시
- GigaMEC, ComputeEdge, EdgeCPS
