MLOps là gì? Đưa mô hình học máy ra chạy ngoài đời thật
MLOps là cách đưa mô hình học máy từ phòng thí nghiệm ra chạy thật và giữ cho nó chạy tốt. Bài này giải thích vòng đời, các việc chính và khi nào cần tới.
Trả lời nhanh: MLOps là gì? Là tập hợp cách làm để đưa mô hình học máy từ chỗ chạy được trên máy của một người ra chỗ chạy thật, phục vụ người dùng, và tiếp tục chạy tốt theo thời gian. Nó lo cả vòng đời: chuẩn bị dữ liệu → huấn luyện → triển khai → theo dõi → huấn luyện lại. Chữ “Ops” mượn từ DevOps, nhưng MLOps có một chỗ khó mà phần mềm thường không có: mô hình tự kém đi theo thời gian dù không ai đụng vào nó.
Vì sao cần MLOps?
Một mô hình học máy chạy tốt trong notebook rất khác một mô hình chạy tốt trong thực tế. Bốn chỗ hay vỡ:
Dữ liệu ngoài đời khác dữ liệu lúc huấn luyện. Mô hình học trên dữ liệu năm ngoái, đem chạy với dữ liệu năm nay, kết quả kém dần. Hiện tượng này gọi là trôi dữ liệu — và nó xảy ra âm thầm, không có thông báo lỗi nào.
Không tái tạo lại được. Sáu tháng sau cần biết mô hình đang chạy được huấn luyện từ dữ liệu nào, tham số gì, mã nguồn phiên bản nào. Không ghi lại thì chịu.
Triển khai thủ công. Mỗi lần cập nhật mô hình là một lần làm tay, dễ sai và không ai dám đụng vào.
Không biết mô hình đang tốt hay tệ. Phần mềm hỏng thì báo lỗi. Mô hình kém đi thì vẫn trả về kết quả — chỉ là kết quả sai nhiều hơn.
MLOps sinh ra để xử lý bốn chỗ này.
MLOps gồm những việc gì?
| Giai đoạn | Việc chính |
|---|---|
| Dữ liệu | Thu thập, làm sạch, gắn nhãn, quản phiên bản dữ liệu |
| Huấn luyện | Chạy thí nghiệm, ghi lại tham số và kết quả để so sánh |
| Đóng gói | Lưu mô hình kèm phiên bản, kèm điều kiện chạy |
| Triển khai | Đưa lên chạy thật, tự động, có đường lùi khi hỏng |
| Theo dõi | Canh chất lượng đầu ra, canh trôi dữ liệu, canh tốc độ |
| Huấn luyện lại | Khi chất lượng tụt tới ngưỡng thì làm mới mô hình |
Chú ý mũi tên cuối quay ngược về đầu: MLOps là một vòng lặp, không phải một đường thẳng có đích.
Quản phiên bản trong MLOps khó hơn phần mềm thường
Với phần mềm, quản phiên bản mã nguồn là đủ. Với học máy phải quản ba thứ cùng lúc:
- Mã nguồn — thuật toán, cách xử lý dữ liệu.
- Dữ liệu — tập dùng để huấn luyện.
- Mô hình — kết quả sinh ra từ hai thứ trên.
Đổi bất kỳ cái nào trong ba cũng ra một mô hình khác. Muốn tái tạo lại một kết quả thì phải có đủ cả ba, khớp phiên bản với nhau. Đây là lý do MLOps cần công cụ riêng chứ không dùng lại nguyên bộ của DevOps được.
MLOps khác AIOps và GenAIOps thế nào?
Ba cái tên này hay bị nhầm vì cùng đuôi “Ops”, nhưng lo ba chuyện khác hẳn:
| Lo cái gì | |
|---|---|
| MLOps | Vòng đời mô hình học máy |
| GenAIOps / LLMOps | Chạy ứng dụng AI sinh tạo: prompt, chấm chất lượng đầu ra, truy vết, an toàn |
| AIOps | Dùng AI để vận hành hệ thống công nghệ: log, sự cố, hạ tầng |
Cách nhớ gọn: MLOps và GenAIOps là “vận hành AI”, còn AIOps là “AI để vận hành”. Chiều ngược nhau.
Ba cái này đi cùng nhau chứ không thay thế nhau. Bảng so sánh đầy đủ ở MLOps, GenAIOps, AIOps khác nhau thế nào, và AIOps là gì nếu bạn cần đi sâu nhánh còn lại.
GenAIOps có làm MLOps lỗi thời không?
Không. Khi phần lớn ứng dụng chuyển sang dùng mô hình ngôn ngữ lớn có sẵn, nhiều đội không còn tự huấn luyện mô hình nữa — nên có cảm giác MLOps hết cần.
Nhưng thực tế: GenAIOps đứng trên nền MLOps. Vẫn phải quản phiên bản, vẫn phải theo dõi chất lượng, vẫn phải triển khai có đường lùi. Chỉ là trọng tâm dời từ huấn luyện mô hình sang viết prompt, chấm chất lượng đầu ra, kiểm soát an toàn.
Và nhiều bài toán vẫn cần mô hình riêng: dự báo nhu cầu, chấm điểm rủi ro, phát hiện gian lận. Những chỗ đó MLOps vẫn là việc chính.
Bắt đầu từ đâu?
Đừng mua công cụ trước. Đây là lỗi phổ biến nhất — mua nền tảng MLOps rồi phát hiện dữ liệu chưa sẵn sàng.
Thứ tự hợp lý:
- Ghi lại thí nghiệm. Mỗi lần huấn luyện, ghi tham số và kết quả vào một chỗ chung. Bảng tính cũng được, miễn là có.
- Quản phiên bản dữ liệu. Ít nhất phải biết mô hình đang chạy học từ tập dữ liệu nào.
- Tự động hóa việc triển khai. Từ “một người biết cách làm” thành “chạy một lệnh là xong”.
- Theo dõi chất lượng đầu ra. Đặt một chỉ số và một ngưỡng cảnh báo.
- Rồi mới tính tới nền tảng chuyên dụng.
Bốn bước đầu làm được bằng công cụ đơn giản. Chúng giải quyết phần lớn nỗi đau, và làm rõ bạn thật sự cần gì trước khi chi tiền.
Ai cần MLOps?
Cần: tổ chức có mô hình đang chạy thật và quyết định của nó ảnh hưởng tới tiền hoặc tới khách hàng. Càng nhiều mô hình càng cần.
Chưa cần: đang thử nghiệm, mô hình chưa ai dùng, hoặc chỉ gọi API của một mô hình có sẵn mà không tự huấn luyện gì. Ở giai đoạn đó, dựng MLOps đầy đủ là tốn công vô ích.