AIOps · MLOps 오리엔테이션

학습 목표

AIOps와 MLOps가 각각 운영 신호와 모델 프로덕션에서 무엇을 담당하는지 구분할 수 있다.

signal → detect → respond → train → serve → monitor 운영·ML 루프를 그릴 수 있다.

Observability·Platform·DataAI·Security와 본 시리즈의 역할 분리를 설명할 수 있다.

이상탐지·LLM copilot·MLflow·K8s serving·drift 등 키워드가 로드맵 어느 Part에 있는지 짚을 수 있다.

18편 로드맵을 보고 학습 순서를 잡을 수 있다.

문제 상황

• Prometheus 알람 하루 500건 — on-call 피로, 진짜 장애는 그중 3건
• runbook은 wiki에 있는데 page 때 어디서부터 읽을지 모름 — RAG·LLM 도입 논의만 있고 guardrail 없음
• Jupyter에서 학습한 모델 pickle — 버전·메트릭·승인 없이 prod 배포
• MLflow 없이 실험 100개 — 어떤 하이퍼파라미터가 prod인지 추적 불가
• kubectl apply로 모델 Pod 올렸더니 GPU OOM·HPA 미동작 — serving 패턴·스케줄링 모름
• 추론 latency p99는 Grafana에 있는데 입력 분포 drift는 모름 — model observability 공백
• DataAI에서 학습·추론 패턴은 봤지만 registry·CI·retrain은 별도 축
• Observability SLO·runbook은 익숙한데 ML을 ops에 어떻게 붙일지 막막

앞서 관측성·플랫폼·DataAI를 봤다. 본 시리즈는 AI로 운영을 강화(AIOps) 하고 모델을 프로덕션으로(MLOps) 가져가는 전편이다.

1. AIOps · MLOps 시리즈란?

• AIOps (Artificial Intelligence for IT Operations)
  • 메트릭·로그·알림·incident에 ML·LLM을 적용해 toil·노이즈를 줄임
  • 이상탐지, alert correlation, runbook·copilot
• MLOps (Machine Learning Operations)
  • experiment tracking → registry → CI/CD → serving → monitoring
  • 모델을 앱 배포처럼 승격·롤백·감사
• 한 시리즈인 이유
  • 실무 pain이 alert flood(AIOps)와 model stale(MLOps)로 같이 옴
  • LLM copilot은 ops 신호와 모델 서빙 경계에 서 있음

	Observability	본 시리즈
알람	rule·burn rate	anomaly·correlation
runbook	템플릿·수동	RAG·LLM + guardrail
모델	—	serving·drift·registry
신호	수집·SLO	신호 위 intelligence

Signals (metrics · logs · traces · alerts)
    → AIOps (detect · correlate · reduce noise)
    → Respond (runbook · LLM copilot · human approve)
    → MLOps (track · registry · ML CI/CD)
    → Serve (batch · realtime · K8s · GPU)
    → Monitor (inference SLO · data drift)
    → feedback → retrain · tune alerts

• Human-in-the-loop — LLM·auto-remediation은 승인·감사 전제 (8편, Security 연계)
• DataAI — train·infer 기초; 본 시리즈는 운영·프로덕션

2. 시리즈가 다루는 다섯 축

도구는 바뀌어도 운영 시나리오는 유지된다.

축	담는 문제	대표 도구·개념(본 시리즈)
AIOps	alert 노이즈·incident	anomaly detection, correlation, topology
LLM for SRE	runbook·on-call 가속	copilot, RAG, tool scope, audit
MLOps	실험·승격 거버넌스	MLflow, registry stage, ML CI/CD
Serving	추론 배포	KServe/Seldon, HPA, GPU plugin
Production	drift·비용	PSI, retrain trigger, model card

• Rule vs ML alert — 해석 가능 vs 적응형 (2~3편)
• Batch vs online inference — latency·비용 (13편)
• Training-serving skew — feature store 맥락 (12편)
• LLM vs static runbook — 최신 doc·환각 리스크 (6~8편)

3. 다른 시리즈와의 관계

Observability

Observability에서 본 것	본 시리즈에서 심화
RED·메트릭·PromQL	이상탐지·correlation
구조화 로그·파이프라인	log classification·embedding search
SLO·burn rate·on-call	alert grouping·toil reduction
runbook·postmortem	RAG runbook·LLM copilot
trace·exemplar	model inference observability

• 선행 권장 — Observability 1~11편 (삼각형~신호 연계)
• Observability 신호는 본 시리즈 입력 — 대체 관계 아님

Platform · DevOps · Cloud

Platform에서 본 것	본 시리즈에서 심화
CI/CD·canary	ML CI/CD·model promotion
K8s Deployment·HPA	model Deployment·KServe
GPU·엣지 배포	inference scheduling·fraction
Service mesh	serving traffic·A/B (맥락)

• 선행 권장 — Platform 11~16편 (CI/CD·K8s)

Data · AI

DataAI에서 본 것	본 시리즈에서 심화
train/val/test·metrics	experiment tracking·registry
sklearn·PyTorch loop	ML pipeline·deploy trigger
추론 패턴 개요 (23편)	K8s serving·monitoring·drift
알고리즘·피처	production skew·retrain

• 선행 권장 — DataAI 11~23편 (ML 기초~추론 패턴)
• DataAI 에필로그(25편) 와 본 시리즈 연결 — 학습 후 운영

Security

Security	본 시리즈
LLM prompt injection	ops tool scope·guardrail (8편)
IAM·API key	model endpoint·secret
supply chain	model artifact·registry

4. 다룰 스택 미리보기

영역	핵심 질문	본 시리즈에서
AIOps	rule만으로 충분?	2~5편
이상탐지	baseline·seasonality?	3편
LLM ops	어디까지 자동?	6~8편
실험	어떤 run이 prod?	9~10편
배포	누가 model promote?	11편
피처	train과 serve 일치?	12편
서빙	sync vs async?	13~14편
GPU	OOM·비용?	15편
드리프트	언제 retrain?	16~17편

• 운영 시나리오 우선 — alert flood, stale model, slow incident
• 한 편 한 메커니즘 — isolation forest, PSI, approval gate 등
• 예제는 MLflow config, serving manifest, PromQL·alert rule 위주

5. 시리즈 로드맵

• Part 1. AIOps 기초 (2~5편) — 개요, 이상탐지, metric·log intelligence, incident correlation
• Part 2. LLM for SRE (6~8편) — copilot, RAG runbook, guardrails
• Part 3. MLOps 파이프라인 (9~12편) — tracking, registry, ML CI/CD, feature store
• Part 4. 모델 서빙 (13~16편) — serving 패턴, K8s, GPU, model observability
• Part 5. 프로덕션·마무리 (17~18편) — drift·retrain·governance, 에필로그

다음에 다룰 것

• AIOps 개요
• toil reduction, signal vs noise, rule vs ML

---

해당 내용은 Google SRE Workbook (Alerting), MLflow Documentation, Chip Huyen — Designing Machine Learning Systems 를 기반으로 합니다.