تحولی در توسعه و دیپلوی هوش مصنوعی: مزیت‌های MLOps نسبت به روش‌های سنتی مبتنی بر کلاد

mlops ai devops kubernetes

نگاه کلی

شیوه‌ای که سازمان‌ها مدل‌های هوش مصنوعی رو می‌سازن و دیپلوی می‌کنن داره از پایه عوض می‌شه. عملیات یادگیری ماشین (MLOps) اصول DevOps، یعنی خودکارسازی، مانیتورینگ و همکاری، رو به چرخه‌ی عمر یادگیری ماشین میاره و مسیری رو که مدل‌ها از آزمایش تا پروداکشن طی می‌کنن متحول می‌کنه.

مزیت‌های اصلی MLOps

تکامل پیوسته‌ی مدل

با MLOps می‌شه مدل‌ها رو پیوسته آموزش داد و ارزیابی کرد، تا هر وقت داده‌ی تازه رسید به‌روز بشن و بهتر بشن. این رویکرد تکرارشونده، در مقایسه با الگوی سنتی «یه بار آموزش بده، دیپلوی کن، فراموشش کن»، راه‌حل‌هایی دقیق‌تر و منعطف‌تر می‌سازه.

استفاده‌ی دوباره از دیتاست‌ها

سازمان‌ها می‌تونن یه دیتاست باکیفیت رو توی چند اپلیکیشن مختلف به کار ببرن. این‌طوری کار تکراری کم می‌شه و می‌شه مدل‌ها رو روی مجموعه‌داده‌های بزرگ‌تر و متنوع‌تری آموزش داد. وقتی یه فیچر استور درست و حسابی مدیریت بشه، سرمایه‌ای که روی داده می‌ذاری با گذشت زمان مثل سود مرکب رشد می‌کنه.

دیپلوی روان‌تر

MLOps فرایند دیپلوی رو ساده و خودکار می‌کنه، و مدل‌ها سریع‌تر و کارآمدتر به پروداکشن می‌رسن. این هم زمان رو کم می‌کنه هم هزینه‌ی پیاده‌سازی رو؛ کاری که قبلاً چند هفته طول می‌کشید حالا می‌تونه چند ساعته تموم بشه.

همکاری بهتر

MLOps تیم‌هایی با تخصص‌های مختلف رو کنار هم میاره: دیتا ساینتیست‌ها، مهندس‌های یادگیری ماشین، تیم DevOps و تیم‌های محصول. این‌طوری دیوارهایی برداشته می‌شه که معمولاً جلوی ارتباط رو می‌گیرن و چرخه‌ی توسعه رو کند می‌کنن.

مزیت‌های دیگه

  • بهره‌وری عملیاتی بالاتر و تخصیص بهتر منابع
  • تشخیص و واکنش خودکار به تهدیدهای امنیتی
  • رسیدن سریع‌تر راه‌حل‌های هوش مصنوعی به بازار
  • هزینه‌ی کمتر برای توسعه و دیپلوی
  • دقت بالاتر مدل به لطف مانیتورینگ پیوسته

ابزارهای متن‌باز محبوب MLOps

۱. Kubeflow

پلتفرمی که از پایه برای Kubernetes ساخته شده و گردش‌کارهای یادگیری ماشین رو اجرا می‌کنه. از TensorFlow، PyTorch و فریم‌ورک‌های دیگه پشتیبانی می‌کنه. اگه از قبل همچین کلاستری راه انداختی، بهترین گزینه‌ست.

۲. MLflow

مدیریت کل چرخه‌ی عمر یادگیری ماشین از اول تا آخر: ثبت و پیگیری آزمایش‌ها، رجیستری مدل و دیپلوی. به هیچ فریم‌ورکی وابسته نیست و شروع کار باهاش راحته.

۳. PyTorch Lightning

فریم‌ورکی سبک برای آموزش توزیع‌شده که کدهای تکراری و قالبی رو کم می‌کنه، بدون این‌که از انعطاف کار کم کنه.

۴. Apache Airflow

هماهنگ‌سازی و زمان‌بندی گردش‌کارها. مخصوص یادگیری ماشین نیست، ولی برای هماهنگ‌کردن پایپ‌لاین‌های یادگیری ماشین زیاد ازش استفاده می‌شه.

۵. Polyaxon

پلتفرمی برای مدیریت آزمایش‌ها و بزرگ‌کردن مقیاس کارهای یادگیری ماشین، که از تنظیم هایپرپارامترها و آموزش توزیع‌شده به‌صورت داخلی پشتیبانی می‌کنه.

۶. Feast

فیچر استوری برای مدیریت متمرکز داده. تضمین می‌کنه فیچرها موقع آموزش و موقع سرویس‌دهی مدل دقیقاً یه‌جور محاسبه بشن.

۷. Seldon Core

دیپلوی و مانیتورینگ مدل‌ها در پروداکشن، روی Kubernetes. تست A/B، دیپلوی کاناری و توضیح‌پذیری مدل رو هم پوشش می‌ده.

جمع‌بندی

MLOps فقط یه اصطلاح پرسروصدای مد روز نیست؛ ادامه‌ی طبیعی آوردن انضباط مهندسی به یادگیری ماشینه. هر چی مدل‌ها نقش محوری‌تری توی عملیات کسب‌وکار پیدا کنن، این‌که بتونی با اطمینان آموزششون بدی، دیپلوی‌شون کنی، زیر نظر داشته باشیشون و دوباره آموزششون بدی، بیشتر به یه مزیت رقابتی تبدیل می‌شه. ابزارها جاافتاده‌ان، الگوها امتحانشون رو پس دادن، و الان وقت به‌کار گرفتنشونه.

$ cat KUBERNETES .md
· 12 دقیقه مطالعه

پروژه‌ی اصلی آرشیوشده. باگ امنیتی‌اش هنوز زنده‌ست.

یه‌شبه دو تا باگ امنیتی تو پیاده‌سازی HTTP/2 وب‌سرور NGINX منتشر شد که بدون احراز هویت اجازه‌ی اجرای کد از راه دور می‌دادن، و کنترلرهای اینگرس ما هم در معرضشون بودن. راه‌حل همیشگی، یعنی آپدیت به آخرین نسخه، هیچ دردی رو دوا نمی‌کرد: پروژه‌ی ingress-nginx از مارس آرشیو شده و آخرین نسخه‌اش یه NGINX داره که دیگه هیچ‌وقت پچ نمی‌شه. تو این پست می‌گم چطور ثابت کردم چی واقعاً قابل‌حمله بود، HTTP/2 رو موقتاً خاموش کردم، پچ‌ها رو روی بیلد خودمون بک‌پورت کردم و بدون قطعی رول‌اوتش کردم.

kubernetes security devops helm nginx
$ cat KUBERNETES .md
· 7 دقیقه مطالعه

کلاستر ۱۶۰ میلی‌کور مصرف می‌کرد. ریکوئست‌هاش شش تا نود لازم داشتن.

قبل از اولین مشتری‌مون پرسیدم آیا سه تا نود متوسط می‌تونن پروداکشن رو نگه دارن. کلاستر حدود ۱۶۰ میلی‌کور CPU مصرف می‌کرد، ولی ریکوئست‌های منابعش شش تا نود رو مشغول نگه داشته بودن. این‌جا می‌گم چرا ریکوئست‌ها، نه مصرف، تعداد نودها رو تعیین می‌کنن، چرا اتواسکیلرها هم ریکوئست‌ها رو می‌خونن، و چرا وقتی کار گرون پیش یه ارائه‌دهنده‌ی بیرونی اجرا می‌شه، ظرفیت کلاستر ظرفیت محصول نیست.

kubernetes eks finops devops mechanism
$ cat OBSERVABILITY .md
· 9 دقیقه مطالعه

۵۰ میلیون اسپن از دست دادیم و هیچی لاگش نکرد.

یه دیپلوی تریس‌های همه‌ی سرویس‌ها رو فرستاد سمت یه کالکتور جدید که برای یه جریان باریک سایز شده بود. کالکتور بلاک شد، SDK سرویس‌ها سرریز رو دور ریخت، و حدود ۵۰ میلیون اسپن توی دو ساعت غیب شدن، بی‌هیچ شمارنده و بی‌هیچ خط لاگی در هیچ جا. تنها هشداری که اومد، درباره‌ی یه چیز دیگه بود. این‌جا می‌گم این از دست رفتن چطور نامرئی موند، چطور چیزی رو اندازه گرفتم که هیچ‌چیز نشمرده بودش، و چرا گلوگاه واقعی اونی نبود که اول سراغش رفتم.

observability opentelemetry kubernetes devops mechanism