۲۳ خرداد ۲۵۸۵ · 6 دقیقه مطالعه
شرکت Anthropic سه روز بعد از عرضه خاموش شد. معنیش رو اینجا میگم.
سه روز بعد از اینکه Anthropic مدلهای Fable 5 و Mythos 5 رو عرضه کرد، دولت ترامپ نامهی هاوارد لوتنیک، وزیر بازرگانی، رو برای داریو آمودی فرستاد و مدلها برای همهی مشتریها، همهجا، خاموش شدن. نه فقط برای دولتهای خارجی. برای همه.
دلیل اعلامشده: یه شرکت دیگه ادعا کرده بود میتونه Mythos 5 رو جیلبریک کنه؛ یعنی مدل محدود و متمرکز بر امنیت سایبری که فقط از طریق برنامهای به اسم Project Glasswing در اختیار کاربرهای دولتی آمریکا قرار داره که بررسی و تأیید شدن. همین ادعا برای وزارت بازرگانی کافی بود که کنترل صادرات وضع کنه و از Anthropic بخواد جلوی دسترسی هر شهروند خارجی به هر دو مدل رو بگیره. از اونجایی که Anthropic هیچ راه فنیای برای تأیید لحظهای ملیت تکتک کاربرهاش نداره، «اجرای دستور» یعنی «خاموش کردن برای همه».
وضعیت اینه. حالا میگم به نظرم واقعاً یعنی چی.
این قبلاً هم اتفاق افتاده
تو دههی ۱۹۹۰، دولت آمریکا رمزنگاری قوی رو جزو مهمات جنگی طبقهبندی کرد و سعی کرد صادراتش رو با همون چارچوب حقوقیای کنترل کنه که برای سلاحها به کار میرفت. فیل زیمرمن به خاطر اینکه PGP رو آزادانه روی اینترنت گذاشته بود تحت تحقیق قرار گرفت. پژوهشگرها به خاطر انتشار مقالههای رمزنگاری تهدید شدن. NSA تراشهی Clipper رو جلو انداخت؛ یه در پشتی سختافزاری که توی تلفنها جاسازی میشد.
دولت اون دعوا رو باخت. نه چون کوتاه اومد، بلکه چون ریاضیات مرز نمیشناسه. وقتی الگوریتمها منتشر شدن، همهجا پخش شدن. کنترل صادرات رمزنگاری نه با یه حکم دادگاه، بلکه به خاطر غیرممکن بودن محض اجراش تو دنیایی با اتصال جهانی اینترنت فرو ریخت.
این مقایسه با هوش مصنوعی کامل نیست، ولی شکلش آشناست. چیزی که دولت داره سعی میکنه کنترلش کنه اطلاعاته، نه سختافزار. و فقط هفتهی پیش، بیستوپنج مدل وزنباز تو همهی مدالیتهها منتشر شدن. در حالی که Fable 5 و Mythos 5 پشت مجوز وزارت بازرگانی قفل شدن، مدل LFM2.5-8B از Liquid AI روی لپتاپت اجرا میشه و وزنهای Ideogram 4 رو هر کسی روی کرهی زمین میتونه دانلود کنه. تواناییای که دولت ازش میترسه در دسترسه؛ فقط برچسب Anthropic روش نیست.
تلهی ایمنی
یه طنز مشخص تو وضعیت Anthropic هست که ارزش داره اسمش رو ببریم. Anthropic همون آزمایشگاه هوش مصنوعیه که ایمنی رو هویت بنیادینش کرد. برای تست قبل از عرضه با مرکز استانداردها و نوآوری هوش مصنوعی وزارت بازرگانی همکاری کرد. Mythos 5 رو مشخصاً برای مدافعان سایبری دولت آمریکا ساخت، تحت یه برنامهی دسترسی محدود، با حفاظهای ایمنیای که برای جلوگیری از آسیب طراحی شده بودن.
نتیجه: Anthropic حالا همزمان هم تو لیست سیاه پنتاگونه، که اون رو برای استفادهی خود دولت زیادی خطرناک میدونه، هم مشمول کنترل صادراتیه که اون رو برای هر کسی بیرون از آمریکا زیادی خطرناک میدونه. آزمایشگاهی که بیشتر از همه تلاش کرد با دولت کار کنه، همونیه که خاموش شد.
این به این معنی نیست که کار ایمنی بیفایدهست. ولی باید بقیهی آزمایشگاهها رو وادار کنه با دقت به این فرض فکر کنن که همکاری با نهادهای نظارتی ازشون محافظت میکنه. به همون راحتی میتونه در معرض خطرشون بذاره. اگه سر میز بشینی و بذاری دولت تحت یه توافق پیش از عرضه مدلهات رو تست کنه، ابزاری رو هم دستشون میدی که هر وقت چیزی پیدا کردن که خوششون نیومد، باهاش اقدام کنن.
«جیلبریک» اینجا دقیقاً یعنی چی
کلمهی جیلبریک تو این داستان بار زیادی رو به دوش میکشه و ارزش داره دقیق باشیم. جیلبریک تو این زمینه یعنی یه نفر راهی پیدا کرده که مدل خروجیای تولید کنه که طراحی شده بود ردش کنه. این یه نگرانی امنیتی واقعیه. ولی مدل تهدید خیلی مهمه.
به نظر میرسه استدلال دولت اینه که یه Mythos 5 جیلبریکشده میتونه به دشمنها کمک قابلتوجهی بکنه. این ادعا قابل آزمودنه، و بیانیهی خود Anthropic میگه اون نمایش «تعداد کمی آسیبپذیری جزئی که از قبل شناختهشده بودن» رو نشون داده. یه جیلبریک محدود روی مدلی که از قبل فقط در اختیار کاربرهای تأییدشدهی آمریکایی بوده، از یه ردهی ریسک کاملاً متفاوته تا مثلاً یه مسیر سنتز سلاح بیولوژیک که آزادانه از طریق یه API در دسترس باشه.
به نظر میرسه وزارت بازرگانی با یه رخداد ایمنی تجاری همونطوری برخورد کرده که با آسیبپذیری یه سیستم تسلیحاتی برخورد میکرد. اینها دو چیز متفاوتن. قاطی کردنشون سیاستی تولید میکنه که به کاربرهای واقعی آسیب واقعی میزنه، بدون اینکه ریسک واقعی رو بهطور معناداری کم کنه، چون توانایی زیرین از راههای دیگه در دسترسه.
اگه روی API مدلهای هوش مصنوعی چیزی میسازی، این برات چه معنایی داره
درس عملیش رُکه: زمین زیر پات میتونه یهشبه جابهجا بشه. هفتاد و دو ساعت بعد از عرضه، بدون هیچ هشداری، همهی مشتریها همزمان دسترسی به دو تا مدل رو از دست دادن. اگه محصولت به یه مدل خاص از یه ارائهدهندهی واحد وابستهست، یه نقطهی شکست واحد داری که رانبوکهای زیرساختت پوششش نمیدن.
این مختص Anthropic نیست. با منطقی که دولت اینجا به کار برد، هر مدل بستهای که به اندازهی کافی پیشرفته باشه نامزد کنترل صادراته. هرچی مدل تواناتر باشه، بیشتر شبیه یه دارایی امنیت ملی میشه.
برای تیمهایی که روی API مدلهای هوش مصنوعی میسازن، سؤال معماری دیگه فقط «کدوم مدل بهترینه؟» نیست. اینه که «اگه این مدل از دسترس خارج شد، جایگزینمون چیه؟». جواب روزبهروز بیشتر به اینها اشاره میکنه: لایههای انتزاعی مستقل از مدل، مسیریابی بین چند ارائهدهنده، و دستکم یه مقدار ظرفیت برای اینکه وقتی API خاموش شد، مدلهای وزنباز رو محلی اجرا کنی.
طنز ماجرا اینه که اقدام دولت دقیقاً همون رفتاری رو سرعت داد که میخواست جلوش رو بگیره: هل دادن کاربرهای حرفهای به سمت جایگزینهای وزنبازی که هیچکس نمیتونه صادراتشون رو کنترل کنه.
این ماجرا به کجا میرسه
دولت میگه این قفل ممکنه «تو چند هفتهی آینده» برداشته بشه، وقتی دستگاه امنیت ملی مقاومسازی شد. Anthropic میگه این یه سوءتفاهمه و داره برای برگردوندن دسترسی کار میکنه. ممکنه هر دوی این حرفها درست باشن.
ولی سابقهش ساخته شده. دولت آمریکا نشون داده که با مدلهای پیشرفتهی هوش مصنوعی مثل فناوری مشمول کنترل صادرات برخورد میکنه، که فقط یه ادعای جیلبریک برای شروع اقدام کافیه، و که اثر تجاری روی میلیونها کاربر ملاحظهای نیست که جلوی کار رو بگیره.
اگه فکر میکنی این سابقه به Anthropic محدود میمونه، یا به دولت فعلی محدود میمونه، من روش شرط نمیبندم.
منبع: Axios، خبر اختصاصی: دولت ترامپ دسترسی خارجی به قویترین هوش مصنوعی Anthropic رو مسدود کرد