کنترل‌پلین ایجنت‌ها: Omnigent روی Kubernetes

kubernetes devops platform-engineering ai-agents

مهندس‌های زیرساخت سال‌هاست که سرویس‌ها رو ارکستریت می‌کنن. لودبالانسر جلوی سرورهای اپلیکیشن. سایدکار برای تله‌متری. اعمال سیاست روی اینگرس. این الگو اون‌قدر آشناست که دیگه به ملال‌آور بودن پهلو می‌زنه.

حالا همین سؤال داره به لایه‌ی ایجنت می‌رسه.

شرکت Databricks به‌تازگی Omnigent رو متن‌باز کرده و اسمش رو گذاشته «متاهارنس»: لایه‌ای که هارنس‌های مختلف ایجنت‌های هوش مصنوعی، از جمله Claude Code، Codex و پیاده‌سازی‌های سفارشی، رو پشت یه API مشترک می‌پیچه. سشن‌ها، سیاست‌ها و مهارت‌ها همراهت میان، فرقی نمی‌کنه زیرش کدوم مدل یا هارنس داره اجرا می‌شه. یه لایه‌ی انتزاعه روی واقعیت سروکله زدن هم‌زمان با چند تا ابزار ایجنتی و کپی کردن دستی کانتکست بینشون.

اگه تا حالا یه ایجنت هوش مصنوعی رو خودت میزبانی کرده باشی، این مفهوم برات تازه نیست. وقتی یه ایجنت تحقیقاتی رو روی EKS راه انداختم، همین سؤال‌ها پیش اومد: وضعیت کجا نگه داشته می‌شه، کی مرزهای شبکه رو کنترل می‌کنه، و چطور ایجنت رو در اختیار فراخواننده‌ها بذاری بدون این‌که کل ماشین رو در معرض بذاری؟ Omnigent این سؤال‌ها رو تو قالب یه محصول منسجم رسمی کرده.

متاهارنس دقیقاً چیه

قبل از فکر کردن به دیپلوی، سه تا جزء هست که ارزش داره بشناسیشون.

رانر ایجنت زیرین رو تو یه سشن ایزوله می‌پیچه. درخواست‌های شبکه رو رهگیری می‌کنه، سیاست‌ها رو اعمال می‌کنه، و واسطه‌ی دسترسی ایجنت به دنیای بیرونه. کار امنیتی جالب همین‌جا اتفاق می‌افته.

سرور سشن‌ها، سیاست‌ها و اشتراک‌گذاری رو مدیریت می‌کنه. همینه که بهت اجازه می‌ده قاعده‌ای مثل «قبل از هر git push که بعد از نصب یه پکیج انجام می‌شه، تأیید انسانی لازمه» تعریف کنی، بدون این‌که خود ایجنت رو وصله کنی. سیاست‌ها این‌جا وضعیت‌دار و وابسته به زمینه‌ان، نه فهرست‌های ساده‌ی مجاز و ممنوع.

دیتابیس جاییه که وضعیت سشن‌ها، لاگ‌های ممیزی و تنظیمات سیاست‌ها ماندگار می‌شن. باید عمرش از تک‌تک پروسه‌ها یا پادهای رانر بیشتر باشه.

اگه قبلاً هر نوع سرویس وب وضعیت‌داری رو روی Kubernetes دیپلوی کرده باشی، این مسئله رو تو یه حوزه‌ی دیگه حل کردی. توپولوژی همونه.

مسئله از دید Kubernetes چه شکلیه

اجرای Omnigent روی یه کلاستر مسئله‌ی زیرساختی تازه‌ای نیست. همون شکل سرویس‌هایی رو داره که احتمالاً قبلاً دیپلوی کردی: یه جزء سرور که باید افقی اسکیل بشه، یعنی باید بی‌وضعیت باشه؛ یه جزء رانر که یه زیرپروسه رو می‌پیچه و ذاتاً تک‌سشنه؛ و یه دیتابیس مشترک که هر دو بهش دسترسی دارن.

مانیفست‌های دیپلوی، تعریف سرویس‌ها، قواعد اینگرس، هیچ‌کدوم بخش جالب ماجرا نیستن. سؤالی که ارزش فکر جدی داره، مرز رهگیری شبکه‌ست. رانر باید بین ایجنت و ترافیک خروجی بشینه تا سیاست‌ها رو اعمال کنه. این‌که این مرز کجای توپولوژی فعلی کلاسترت قرار می‌گیره، و چطور با نتورک‌پالیسی‌ها و کنترل‌های ترافیک خروجیت تعامل می‌کنه، سؤالیه که ارزش داره قبل از نوشتن حتی یه خط YAML طرحش رو بکشی.

تنظیم دیتابیس اولین دوراهی واقعیه:

# Single-instance local or demo
DATABASE_URL=sqlite:////data/artifacts/chat.db

# Production: any managed Postgres will do
DATABASE_URL=postgresql://user:pass@postgres-host:5432/omnigent

دیتابیس SQLite برای یه راه‌اندازی محلی تک‌نمونه‌ای جواب می‌ده، ولی داده رو روی دیسک محلی پاد ذخیره می‌کنه. روی Kubernetes یعنی داده با پاد زنده‌ست و با پاد می‌میره، مگه این‌که صریحاً یه فضای ذخیره‌سازی ماندگار مانت کرده باشی. فقط وقتی با SQLite شروع کن که دقیقاً بدونی چی رو از دست می‌دی.

دیتابیس Postgres از همون لحظه‌ای که ماندگاری برات مهم بشه یا بیشتر از یه رپلیکای سرور بخوای، انتخاب درسته. هر نمونه‌ی Postgres مدیریت‌شده‌ای، چه داخل کلاستر چه بیرونش، جواب می‌ده. قید اصلی اینه که از بازه‌ی CIDR پادهات بهش دسترسی شبکه‌ای باشه. مایگریشن اولیه روی یه Postgres تازه حدود یه دقیقه طول می‌کشه؛ به پراب startup زمان کافی بده، وگرنه اولین دیپلویت سر چک سلامتی شکست می‌خوره که باید پاسش می‌کرد.

بقیه‌ی سؤال‌های Kubernetes همون‌هایی‌ان که برای هر سرویس وضعیت‌داری جواب می‌دی: سکرت‌ها کجا نگه داشته می‌شن، رانر چطور اعتبارنامه‌ی ایجنت‌هایی رو که می‌پیچه می‌گیره، و کی می‌تونه از بیرون کلاستر به سرور برسه.

شروع سریع بدون هزینه‌ی نگهداری

اگه می‌خوای قبل از گرفتن تصمیم زیرساختی بفهمی Omnigent چطور رفتار می‌کنه، یه HuggingFace Docker Space سریع‌ترین راه رسیدن به رابط کاربریشه. تو چند دقیقه بالا میاد. چیز مهمی که باید از اول بدونی: اسپیس‌های HuggingFace به‌طور پیش‌فرض از دیسک موقت استفاده می‌کنن. اگه SQLite تنظیم کنی، تاریخچه‌ی سشن‌ها و سیاست‌هات با ری‌استارت بعدی کانتینر از بین می‌رن. باهاش مثل یه محیط کاوش برخورد کن، نه جایی برای ساختن چیزی که می‌خوای نگهش داری.

برای تیم‌هایی که از قبل روی پلتفرم Databricks هستن، نسخه‌ی مدیریت‌شده‌ی Omnigent روی Databricks اون سر طیفه. متاهارنس رو بدون این‌که خودت اداره‌ش کنی می‌گیری، با مدل امنیت و حاکمیت Databricks که از قبل سر جاشه. اگه ایجنت‌ها و داده‌های سازمانت از قبل تو همون اکوسیستمن، این نقطه‌ی شروع بدیهیه.

فضای جالب اون وسطه: میزبانی روی زیرساختی که خودت کنترلش می‌کنی، با سیاست‌هایی که برای مدل ریسک واقعی تیمت تنظیم شدن، نه پیش‌فرض‌های یه فروشنده.

بخشی که واقعاً مهمه

سؤال دیپلوی یه جواب دست‌یافتنی داره. سؤال سیاست‌ها سخت‌تر و جالب‌تره.

سیستم سیاست Omnigent وضعیت‌داره. یه قاعده می‌تونه بگه: بعد از این‌که این ایجنت یه پکیج دانلود کرد، قبل از این‌که بتونه روی یه ریپوی ریموت پوش کنه، تأیید انسانی لازمه. این یه فهرست ثابت مجاز و ممنوع نیست؛ یه ماشین حالته که روی کارهای ایجنت سوار شده. سیاست‌هات مدل تهدید سازمانت رو برای رفتار ایجنت‌ها کدگذاری می‌کنن.

مال تو چه شکلی می‌شه؟ سقف هزینه‌ای که ایجنت رو قبل از یه فراخوانی گرون API متوقف می‌کنه. دروازه‌های تأیید قبل از هر نوشتنی که به یه محیط مشترک دست بزنه. ردهای ممیزی که از روی تعویض مدل‌ها رد می‌شن، تا وسط یه حادثه بدونی کدوم مدل کدوم تصمیم رو گرفته.

اپراتورهای Kubernetes سال‌هاست که سیستم‌های وضعیت‌دار رو به‌شکل اعلانی مدیریت می‌کنن. این‌جا هم همون غریزه صدق می‌کنه: تعریف کن رفتار درست ایجنت چه شکلیه، بعد بذار سیستم اعمالش کنه، نه این‌که دستی بالای سر تک‌تک سشن‌ها وایسی.

لایه‌ی ایجنت داره همون رسیدگی زیرساختی‌ای رو می‌گیره که همیشه بهش نیاز داشت. تنها سؤال اینه که خودت تعریف می‌کنی این برای تیمت چه شکلیه، یا می‌ذاری یکی دیگه تصمیم بگیره.

خودم هنوز فرصت نکردم Omnigent رو روی یه کلاستر واقعی اجرا کنم؛ پروژه‌های دیگه حواسم رو گرفته بودن. از قبل تو فهرستمه و وقتی با یه دیپلوی واقعی دستم گرم شد، یه پست تکمیلی می‌ذارم.

$ cat KUBERNETES .md
· 8 دقیقه مطالعه

خطای ۴۰۱ توی EKS که ربطی به اعتبارنامه نداشت

پایپ‌لاین CI ما یه توکن معتبر EKS می‌ساخت، درست و تمیز ارائه‌ش می‌داد، و رد می‌شد. مشکل از اعتبارنامه‌های AWS نبود. مشکل کنترل دسترسی خودِ EKS بود، و خطا جلوی چشم همه بود: کلاستر برای نقشی که درخواست می‌داد هیچ ورودی دسترسی نداشت.

kubernetes eks aws devops platform-engineering troubleshooting
$ cat KUBERNETES .md
· 11 دقیقه مطالعه

اپراتورهای StackGres و Strimzi: درس‌های روز دوم از بازسازی واقعی یه پلتفرم

هر اپراتوری قول راه‌اندازی ساده‌تر می‌ده. سود واقعیش بعداً معلوم می‌شه، وقتی یه رپلیکا فایل کنترلش رو گم می‌کنه یا سه هفته به منقضی شدن یه سرتیفیکیت مونده. این‌جا می‌گم StackGres و Strimzi واقعاً چه چیزی رو توی اجرای PostgreSQL و Kafka روی Kubernetes عوض کردن.

kubernetes operators postgresql kafka devops platform-engineering
$ cat KUBERNETES .md
· 6 دقیقه مطالعه

دیپلوی Helm موفق بود. کانفیگ هیچ‌وقت اعمال نشد.

پایپ‌لاین CI سبز در حالی که گیت‌وی لایو ۴۰۴ برمی‌گردونه، شکست تست نیست. یه شکاف بی‌صدا توی ری‌لود شدنه. این‌جا الگوی چک‌سام بین‌ریلیزی رو می‌گم که این شکاف رو توی helmfile می‌بنده.

kubernetes helm helmfile devops platform-engineering