چه چیزی اعلام شده است

تیم PyTorch در Hugging Face در مطلبی منتشرشده در ۲۰ اکتبر ۲۰۲۶ از پشتیبانی PyTorch 2.15 برای بک‌اند MPS خبر داده است. مهم‌ترین مورد، آوردن تانسورهای float8_e4m3fn به مک است که با F.scaled_mm ضرب می‌شوند. همچنین کرنل‌های جدید Metal برای لایه‌های خطی تک‌ردیفه، لایه‌های MoE و softmax معرفی شده‌اند.

طبق اندازه‌گیری گزارش‌شده در منبع، مدل Qwen3.6-35B-A3B روی M3 Ultra و با torch.compile در نسخهٔ ۲٫۱۵ به ۶۱٫۳ توکن بر ثانیه رسیده، در برابر ۹٫۴ توکن بر ثانیه در نسخهٔ ۲٫۱۴. منبع آزمون مستقلی از این اعداد ارائه نمی‌کند. برای دیکودینگ کاشی‌بندی‌شدهٔ VAE در Wan2.2 نیز اوج حافظهٔ درایور، با جایگزینی padding مبتنی بر MPSGraph با Metal، از حدود ۲۷۰ GiB به ۸ GiB کاهش یافته است؛ این عدد مربوط به همان بار کاری است.

برای بررسی:MPS in PyTorch 2.15

پیامد برای کاربران مک

اگر با transformers، diffusers یا ابزارهایی مثل ComfyUI روی مک مدل اجرا می‌کنید، مهم‌ترین تغییر احتمالاً سرعت دیکودینگ مدل‌های زبانی محلی و کاهش مصرف حافظه در برخی کارهای ویدیویی است. منبع همچنین می‌گوید خطای خراب‌شدن تصویر در VAE انکودر مدل Qwen-Image-2.1 روی MPS در نسخه 2.14 با این تغییرات برطرف شده و معیار PSNR از ۱۰.۰۶ به ۲۹.۹۵ دسی‌بل رسیده است.

تانسور FP8 برای هر مقدار یک بایت ذخیره می‌کند، یعنی نصف فضای FP16 یا BF16. طبق منبع، F.scaled_mm هم مقیاس‌بندی tensorwise و هم rowwise را پشتیبانی می‌کند؛ مثال مقاله از یک مقیاس برای هر تانسور استفاده می‌کند. کیفیت نتیجه باید برای مدل و کاربرد موردنظر بررسی شود.

برای بررسی:MPS in PyTorch 2.15

محدودیت‌ها و نکات احتیاطی

این مطلب چند محدودیت روشن دارد. راهنمای شروع به مک مجهز به Apple silicon، macOS 15 یا بالاتر و Python 3.11 یا بالاتر نیاز دارد. همچنین نسخه 2.15 در زمان این مطلب نسخه release candidate معرفی شده است و جزئیات ممکن است تغییر کند.

بسیاری از اعداد سرعت مربوط به مدل‌ها، سخت‌افزار و شکل‌های خاصی هستند؛ برای مثال معیار دیکودینگ MoE روی M3 Ultra با torch.compile گزارش شده است. بخش‌های مربوط به 2.16 هم صراحتاً وضعیت آزمایشی دارند و برخی از آن‌ها هنوز در بررسی هستند. مطلب برای عملکرد در ایران، دسترسی به سخت‌افزار مشابه یا یکپارچگی با سرویس‌های محلی هیچ ادعایی ندارد.

برای بررسی:MPS in PyTorch 2.15

پشت این نوشته

منابع و جزئیات

این خبر با کمک هوش مصنوعی نوشته شده و با بررسی خودکار منابع و متن منتشر شده است. تصویر، تصویرسازی مفهومی است.

این منابع را می‌توانی برای بررسی ادعاها و جزئیات بیشتر بخوانی. تاریخ کنار هر منبع، زمان بررسی آن برای این نوشته است.

  1. MPS in PyTorch 2.15
    huggingface.coبررسی:

نخستین انتشار:

روش تهیه و بازبینی نوشته‌ها