۲۳ خرداد ۲۵۸۵ · 9 دقیقه مطالعه
بیستوپنج مدل وزنباز در یه هفته. تحلیل از نگاه کسی که باهاشون کار میکنه.
این هفته یه جمله تو محافل هوش مصنوعی دستبهدست میشه: «open AI, notice the space»، یعنی «open AI، به فاصلهی وسطش دقت کن». یه کنایهی عمدی به رویکرد هر روز بستهتر شرکت OpenAI، و اشارهای به اینکه جذابترین اتفاقهای هوش مصنوعی الان تو دنیای مدلهای وزنباز داره میافته.
هفتهی پیش بیشتر از ۲۵ مدل وزنباز قابلتوجه منتشر شد، برای تولید متن، تصویر، صدا، ویدیو و سهبعدی. این یه هفتهی عادی نیست. قبل از اینکه بریم سراغ جزئیات، نسخهی کوتاهش رو برای کسایی آوردم که میخوان اول نتیجه رو بدونن.
انتخابهای سریع
| کاربرد | مدل | چرا |
|---|---|---|
| اجرا روی دستگاه / Apple Silicon | Liquid AI LFM2.5-8B | ۱٫۵ میلیارد پارامتر فعال، آماده برای MLX |
| مولتیمودال قابل دیپلوی | Google Gemma 4 12B | یه چکپوینت، ONNX + MLX، بیش از ۱۴۰ زبان |
| استدلال در سطح پیشرفتهترین مدلها (ابری) | NVIDIA Nemotron 3 Ultra | ۸۹٫۱ در MMLU، کانتکست ۱ میلیون توکنی، ۵۵ میلیارد پارامتر فعال |
| ایجنتهای کدنویسی | JetBrains Mellum2-12B | ساختهشده برای کار داخل IDE، ۲٫۵ میلیارد پارامتر فعال |
| متن داخل تصویر / طراحی | Ideogram 4 | رتبهی ۱ بین مدلهای وزنباز در Design Arena |
| TTS بلادرنگ | Higgs Boson Health Audio v3 | اولین صدا در کمتر از یه ثانیه، ۲۱ حالت احساسی |
| TTS بدون آرتیفکت | rednote dots.tts | بدون کدک، شکلموج پیوسته |
| تبدیل گفتار به متن در مقیاس بالا | NVIDIA Nemotron-3.5 ASR | ۱۷ برابر همزمانی نسبت به Parakeet RNNT |
| تجزیهی اسناد | PaddleOCR-VL-1.6 | بهترین سطح فعلی با ۱ میلیارد پارامتر |
| تولید صوتی-تصویری | Baidu NAVA | بهترین هماهنگی صدا و تصویر بین مدلهای وزنباز |
| ویدیوی طولانی | JD JoyAI-Echo | تا ۵ دقیقه، چندشاتی |
| تصویر به سهبعدی | VAST TripoSplat | لایسنس MIT، روش Gaussian splatting |
| شبیهسازی رباتیک | NVIDIA Cosmos3-Super | هوش مصنوعی فیزیکی، ویدیوی شرطیشده روی کنش |
مدلهای زبانی
NVIDIA Nemotron 3 Ultra (550B)
عددی که تو تیترها میاد ۵۵۰ میلیارد پارامتره، ولی عدد جالبتر ۵۵ میلیارده: تعداد پارامترهایی که موقع استنتاج فعالن. مدل Nemotron Ultra یه معماری ترکیبی Mamba-MoE داره که مدلهای فضای حالت بازگشتی (Mamba) رو با مسیریابی Mixture-of-Experts ترکیب میکنه. بهجای اینکه برای هر توکن همهی پارامترها فعال بشن، MoE هر توکن رو از یه زیرمجموعهی کوچیک از زیرشبکههای متخصص رد میکنه. اینطوری هزینهی استنتاج متناسب با پارامترهای فعال میمونه، نه کل پارامترها.
پنجرهی کانتکست ۱ میلیون توکنی، برای کار با اسناد طولانی، این مدل رو همردهی Gemini 1.5 Pro میکنه. با ۸۹٫۱ در MMLU راحت جزو پیشرفتهترین مدلها قرار میگیره. نسخهی NVFP4 از یه فرمت ممیز شناور ۴ بیتی استفاده میکنه که توش عددها توی بلوکهایی با یه ضریب مقیاس مشترک گروهبندی میشن؛ اینطوری بازهی دینامیکی برمیگرده و حافظهی مصرفی هم کم میمونه. شرکت NVIDIA ادعا میکنه توان عملیاتیش روی Blackwell پنج برابر FP16 معمولیه. برای تیمهایی که همین الان کلاستر Blackwell دارن، ارزش یه ارزیابی جدی رو داره. برای بقیه، اندازهی ۵۵۰ میلیارد پارامتری وزنها در هر صورت یعنی یه راهاندازی چندنودی.
Google Gemma 4 12B
مدل Gemma 4 از نظر عملی دیپلویپذیرترین مدل این هفتهست. متن، تصویر، صدا و ویدیو رو توی یه معماری واحد بدون انکودر پردازش میکنه، کانتکست ۲۵۶ هزار توکنی رو پشتیبانی میکنه و بیش از ۱۴۰ زبان رو پوشش میده. نمرهی ۷۷٫۵ در AIME سال ۲۰۲۶ توی استدلال ریاضی اون رو بالاتر از بیشتر مدلهایی میذاره که دو برابر خودش اندازه دارن.
وجه تمایز عملیاتیش یه موج ۲۳ تایی از چکپوینتهای QAT بود. اصطلاح Quantization-Aware Training یعنی مدل از همون اول با در نظر گرفتن کوانتیزهشدن آموزش دیده، نه اینکه بعداً کوچیکش کرده باشن. گوگل نسخههای ONNX و MLX رو همزمان منتشر کرد؛ یعنی میتونی بدون یه مرحلهی کوانتیزهسازی جدا، روی موبایل یا Apple Silicon اجراش کنی. اگه یه مدل واحد میخوای که روی وب، موبایل و سرور کار کنه و لازم نباشه چند تا چکپوینت رو نگهداری کنی، انتخاب بدیهی این هفته همینه.
Liquid AI LFM2.5-8B
مدلهای Liquid Foundation بهجای ترنسفورمر استاندارد از یه معماری بازگشتی استفاده میکنن. مدل LFM2.5-8B در کل ۸ میلیارد پارامتر داره ولی موقع استنتاج فقط ۱٫۵ میلیاردش فعاله، با کانتکست ۱۲۸ هزار توکنی. نمرهی ۸۸٫۸ در MATH500 برای مدلی که روی خود دستگاه اجرا میشه قویه. از همون اول برای MLX آمادهست، یعنی با فریمورک یادگیری ماشین خود اپل، بهصورت بومی روی Apple Silicon اجرا میشه.
برای هر چیزی که باید محلی اجرا بشه و نباید هر بار تا ابر بره و برگرده، انتخاب همینه. تعداد پارامترهای فعالش راحت توی حافظهی یکپارچهی یه تراشهی سری M جا میشه.
JetBrains Mellum2-12B
اولین مدل MoE باز شرکت JetBrains. در کل ۱۲ میلیارد پارامتر و ۲٫۵ میلیارد پارامتر فعال، با یه حالت استدلال («Thinking») که فاصلهاش رو با Qwen3-14B توی بنچمارکهای کدنویسی پر میکنه. لایسنس Apache 2.0. با توجه به اینکه JetBrains این مدل رو مخصوص یکپارچگی با IDE و تکمیل کد ساخته، ارزش داره توی گردشکار ایجنتهای کدنویسی امتحانش کنی؛ جاهایی که تأخیر از بالاترین نمرهی بنچمارک مهمتره.
تولید تصویر
Ideogram 4 (9.3B)
اینکه Ideogram وزنهاش رو باز منتشر کرد، غافلگیری این هفته بود. این مدل یه Diffusion Transformer با روش flow-matching و ۹٫۳ میلیارد پارامتره که از صفر آموزش دیده، نه فاینتیونِ یه چکپوینت موجود. معماری Diffusion Transformer یا DiT، ستون فقرات UNet رو در مدلهای دیفیوژنی کلاسیک با یه ترنسفورمر عوض میکنه و همین باعث میشه موقع بزرگتر شدن بهتر رفتار کنه. روش flow-matching هدف آموزشه، یه جایگزین پایدارتر برای denoising score matching که مدلهای دیفیوژنی قدیمیتر ازش استفاده میکردن.
توی بنچمارکهای طراحی در کل دومه، بعد از GPT Image 2، و بین مدلهای وزنباز هم توی Design Arena و هم توی LMArena اوله. نقطهی قوت خاصش رندر متن داخل تصویره: لوگو، تایپوگرافی، پوستر، هر جایی که متن باید خوانا و بدون غلط املایی باشه. این همیشه سختترین مسئله برای مدلهای دیفیوژنی بوده. دسترسی به وزنها، دامنهی کارهایی رو که از تیمهای سازندهی ابزار طراحی برمیاد عوض میکنه.
صدا و گفتار
این هفته چهار تا آزمایشگاه مدل صوتی منتشر کردن، که غیرعادیه.
Higgs Boson Health Audio v3 (4B): ۱۰۲ زبان، ۲۱ سبک احساسی متمایز از جمله آواز، پچپچ و فریاد. زمان رسیدن به اولین صدا زیر یه ثانیهست و همین برای کاربردهای بلادرنگ قابل استفادهاش میکنه. دامنهی احساسی این مدل خیلی فراتر از چیزیه که بیشتر مدلهای TTS باز ارائه میدن.
rednote dots.tts: از نظر معماری، جالبترینشون. بیشتر سیستمهای TTS متن رو با یه کدک عصبی به توکنهای صوتی گسسته تبدیل میکنن و بعد از روی اون توکنها صدا میسازن. مدل dots.tts کدک رو کلاً حذف میکنه و شکلموج رو توی یه فضای کاملاً پیوسته تولید میکنه. لایسنس Apache 2.0. فایدهی عملیش آرتیفکت کمتر و آهنگ گفتار بهتر توی حالتهای مرزیه، جاهایی که سیستمهای مبتنی بر کدک گیج میشن؛ مخصوصاً تلفظهای غیرمعمول و جابهجایی بین حالتهای احساسی.
Google Magenta RealTime 2: تولید موسیقی با تأخیر کمتر از ۲۰۰ میلیثانیه، که متن، صدا و MIDI رو بهعنوان ورودی میگیره. این عدد تأخیر باعث میشه برای ابزارهای اجرای زنده، که یه نوازندهی واقعی توی چرخه حضور داره، کاربردی باشه. چند ساعت بعد از انتشار، به PyTorch پورت شده بود و روی دموهای ZeroGPU اجرا میشد.
NVIDIA Nemotron-3.5 ASR (600M): یه مدل ASR استریمینگ که با دقتی در همون حدود، ۱۷ برابر مدل Parakeet RNNT با ۱٫۱ میلیارد پارامتر استریم همزمان رو پردازش میکنه. معماری RNNT (Recurrent Neural Network Transducer) یه انکودر، یه شبکهی پیشبینی و یه شبکهی مشترک رو کنار هم میذاره تا رونویسی استریمینگ ممکن بشه، بدون اینکه از اول به کل دنبالهی صوتی نیاز باشه. برای تیمهایی که تشخیص گفتار رو در مقیاس بالا اجرا میکنن، این ضریب ۱۷ برابری همزمانی مستقیم توی هزینهی زیرساخت به ازای هر ساعت صدای پردازششده خودش رو نشون میده.
بینایی و مولتیمودال
StepFun Step-3.7-Flash: یه مدل VLM اسپارس با معماری MoE، با ۱۹۸ میلیارد پارامتر که حدود ۱۱ میلیاردش فعاله. نمرهی ۵۶٫۳ در SWE-Bench PRO برای مدلی که هم تصویر میفهمه هم متن قابلتوجهه؛ بنچمارکهای مهندسی نرمافزار معمولاً دست مدلهای فقطمتنیه. لایسنس Apache 2.0.
PaddleOCR-VL-1.6: تجزیهی اسناد با ۱ میلیارد پارامتر. بیشتر مدلهای درک سند برای اینکه چیدمانهای پیچیده، جدولها و محتوای ترکیبی متن و تصویر رو قابلاعتماد پردازش کنن، به چکپوینتهای خیلی بزرگتری نیاز دارن. این مدل با ۱ میلیارد پارامتر روی سختافزاری قابل دیپلویه که مدلهای VLM سنگینتر روش به زحمت میافتن، و این برای محیطهای سازمانی با محدودیتهای سختافزاری سفتوسخت مهمه.
Baidu NAVA (6.3B): تولید توأمان صدا و ویدیو، با بهترین هماهنگی صدا و تصویر در ردهی خودش. ساختن ویدیویی که حرکت لبها با صدا جور باشه، یا صدای محیط با محتوای صحنه بخونه، همیشه نقطهضعف مدلهای ویدیویی وزنباز بوده. مدل NAVA مشکل همزمانی رو در سطح خود مدل هدف میگیره، نه بهعنوان یه مرحلهی پسپردازش. لایسنس Apache 2.0.
ویدیو، سهبعدی و مدلهای جهان
NVIDIA Cosmos3-Super (64B): یه مدل جهانِ همهمدالیته برای هوش مصنوعی فیزیکی (Physical AI). کاربردش رباتیک و سیستمهای خودرانه، نه تولید محتوا. مسیر کنشها رو به تولید ویدیو و صدا گره میزنه، تا بتونی خروجی رو مشروط کنی به اینکه «اگه بازوی ربات اینطوری حرکت کنه چی میشه». مخاطب اصلیش محیطهای شبیهسازی برای آموزش رباته، جایی که باید پیامد کنشهای فرضی رو در مقیاس بالا و با کیفیت واقعنما ببینی.
JD JoyAI-Echo: تبدیل متن به ویدیو تا ۵ دقیقه، ساختهشده روی LTX-2.3. پنج دقیقه ویدیوی منسجم چندشاتی از روی متن یه جهش واقعی در تواناییهاست؛ بیشتر مدلهای باز حداکثر به ۱۰ تا ۱۵ ثانیه میرسن. چندشاتی یعنی مدل بین کاتها پیوستگی صحنه و شخصیتها رو حفظ میکنه، که مسئلهی سختتره.
ByteDance Bernini-R + VAST TripoSplat: ساخت مدل سهبعدی از یه تصویر تکی با روش Gaussian splatting، تحت لایسنس MIT. روش Gaussian splatting یه صحنهی سهبعدی رو، بهجای مش سنتی یا شبکهی وکسل، به شکل مجموعهای از بیضیگونهای نیمهشفاف نشون میده که هر کدوم یه رنگ و یه میزان کدری دارن. رندرش سریعه و از هر زاویهای نماهای تازه و واقعنما میسازه. لایسنس MIT یعنی میشه بدون محدودیت توی محصولات تجاری ازش استفاده کرد.
این هفته واقعاً چه معنایی داره
الگوی مشترک همهی این انتشارها فشردهسازیه. مدلهایی که شش ماه پیش به زیرساختی در مقیاس پیشرفتهترین مدلها نیاز داشتن، حالا روی لپتاپ اجرا میشن. فاصلهی بین کاری که با یه API بسته میشه کرد و کاری که با وزنهای محلی میشه کرد، داره سریعتر از انتظار بیشتر آدمها کم میشه.
سؤال جالبتر اینه که چه بلایی سر لایهی دیپلوی میاد. اجرای اندپوینت یه مدل واحد سرراسته. ولی اجرای یه ناوگان ناهمگن، که درخواستهای مختلف به مدلهای تخصصی مختلف فرستاده بشن (LFM2.5 برای اجرا روی دستگاه، Nemotron Ultra برای استدلال پیچیده، Ideogram 4 برای کارهای طراحی)، واقعاً فکر زیرساختی میخواد: منطق مسیریابی، مسیرهای جایگزین، پایش هزینه، و SLO تأخیر جدا برای هر نوع مدل.
این همون بخشیه که توی یه پست لینکدین پیداش نمیکنی. و همون بخشیه که توی دوازده ماه آینده از همه مهمتر میشه.