چه چیزی معرفی شد؟
طبق وبلاگ Hugging Face، Beam نخستین مدل آزمایشگاه آمریکایی Reflection است و با مجوز Apache 2.0 منتشر شده. این مدل از نوع mixture-of-experts با ۵۰۱ میلیارد پارامتر است که برای هر توکن حدود ۲۳ میلیارد پارامتر فعال میشود. ورودی و خروجی آن فقط متن است و پنجره زمینه ۱ میلیون توکنی دارد.
به گفته منبع، تمرکز Beam روی کدنویسی و کاربردهای عاملمحور است و برای تیمهایی در نظر گرفته شده که میخواهند مدلی در مقیاس مرزی را روی سختافزار یا ابر خودشان اجرا و سفارشی کنند. چکپوینتها در قالب BF16، FP8 و NVFP4 عرضه شدهاند و مدل از پنج سطح استدلال (از low تا max)، فراخوانی ابزار و حفظ استدلال میان نوبتها پشتیبانی میکند.
سختافزار و روشهای دسترسی
اجرای Beam حافظهی یک مدل ۵۰۱ میلیاردی را میخواهد، هرچند سرعت محاسبهاش نزدیک به مدل ۲۳ میلیاردی است. چکپوینت BF16 حدود ۱ ترابایت است و NVFP4 آن را به حدود ۲۸۰ گیگابایت میرساند. NVFP4 بهصورت بومی روی GPUهای Blackwell اجرا میشود و روی کارتهای قدیمیتر مانند H200 نه؛ برای آنها نسخه FP8 توصیه شده است. منبع چهار کارت B200، یا دو B300، یا هشت RTX Pro 6000 را مثال میزند.
پشتیبانی روز اول در transformers (نسخه ۵.۲۰.۱ یا بالاتر)، vLLM و SGLang وجود دارد. کسانی که سختافزار Blackwell ندارند میتوانند از Inference Providers (با Baseten، Fireworks و Together) یا Inference Endpoints استفاده کنند. منبع درباره دسترسی در ایران چیزی نگفته است.
نتایج بنچمارک و آزمونها
جدول بنچمارک را تیم Reflection ارائه کرده است. برای نمونه در نسخه BF16 نتیجه SWEBench Verified برابر ۸۱٫۶٪، Terminal Bench v2.1 برابر ۸۰٫۱٪ و GPQA Diamond برابر ۹۰٫۶٪ گزارش شده و نسخههای FP8 و NVFP4 اختلافهای کوچکی دارند. در این منبع آزمون مستقل ارائه نشده است.
Hugging Face خودش پنج «vibe eval» را در سطوح استدلال low و high اجرا کرده و تأکید میکند اینها بنچمارک نیستند. در حالت low، پاسخ بازیابی در کد طولانی با پارسر همخوان نبود و پاسخ مسئله ریاضی بدون توجیه خواستهشده آمد؛ حالت high هر پنج کار را با موفقیت گزارش کرده است.
پسآموزش و محدودیتها
برای SFT با TRL، منبع از LoRA استفاده کرده و میگوید روی یک نود با ۸ GPU مدل B300 اجرا میشود. پس از یک epoch روی Multilingual-Thinking، مدل در ۱۶ از ۱۶ پرامپت کنار گذاشتهشده به زبان درخواستی استدلال کرد، در برابر ۳ از ۱۶ برای مدل پایه؛ این فقط پایبندی به زبان را میسنجد، نه درستی استدلال. دستور GRPO با Miles برای آموزش کامل، پیکربندی مرجع ۹۶ کارت H200 را فهرست میکند و نسخه LoRA به ۳۲ کارت H200 نیاز دارد.
نظر یک کاربر در بخش نظرات نیز یادآوری میکند که اجرای این مدل برای افراد عادی گران است؛ این برآورد قیمت از منبع رسمی نیست. Reflection همچنین وعده داده برای بهترین پروژههای ساختهشده با Beam اعتبار ۱۰٬۰۰۰ دلاری Hub بدهد.
پشت این نوشته
منابع و جزئیات
این خبر با کمک هوش مصنوعی نوشته شده و با بررسی خودکار منابع و متن منتشر شده است. تصویر، تصویرسازی مفهومی است.
این منابع را میتوانی برای بررسی ادعاها و جزئیات بیشتر بخوانی. تاریخ کنار هر منبع، زمان بررسی آن برای این نوشته است.
- Welcome Beam: a 501B open model you can own, customize, and scalehuggingface.coبررسی:
نخستین انتشار:
روش تهیه و بازبینی نوشتهها