چه چیزی معرفی شد

بر اساس پست وبلاگ AWS، قابلیت «سفارشی‌سازی بدون سرور مدل» در Amazon SageMaker AI با APIهای training session گسترش یافته است. به گفته AWS، این APIها به جای پنهان کردن الگوریتم، محاسبه را انتزاع می‌کنند. عملیاتی مانند forward_backward() و optim_step() و sample() به فراخوانی‌های API تبدیل می‌شوند و شما آن‌ها را در یک حلقه آموزش پایتونی ترکیب می‌کنید؛ از SFT و بهینه‌سازی ترجیحات تا یادگیری تقویتی.

طبق توضیح AWS، جلسه‌ای زنده و stateful روی GPUهای مدیریت‌شده اجرا می‌شود و مدل پایه همراه آداپتور LoRA شما بین گام‌ها بارگذاری می‌ماند. سرویس راه‌اندازی runtime، اجرای توزیع‌شده، همگام‌سازی گرادیان، بازیابی از خطا و ایزوله‌سازی tenant را بر عهده دارد. همچنین یک cookbook با دستورکارهای آماده SFT و RL منتشر شده است.

برای بررسی:Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

مدل برنامه‌نویسی و صورت‌حساب

در SDK پایتون سه کلاینت وجود دارد: ServiceClient برای تنظیمات سطح پلتفرم مانند نقش اجرا، گروه model package و مسیر خروجی S3، سپس TrainingClient برای آموزش و ذخیره checkpoint و SamplingClient برای تولید و امتیازدهی. جلسه فعال یک endpoint سازگار با OpenAI chat completions هم ارائه می‌کند.

در حلقه RL، نمونه‌برداری و گرادیان روی GPU مدیریت‌شده انجام می‌شود، اما منطق پاداش و کنترل حلقه روی دستگاه شماست. AWS می‌گوید هزینه بر اساس توکن پردازش‌شده محاسبه می‌شود؛ پس زمانی که پاداش را محلی حساب می‌کنید، زمان GPU صورت‌حساب نمی‌شود. این ادعای فروشنده است و در متن منبع آزمون مستقلی برای آن ارائه نشده است.

برای بررسی:Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

نمونه‌ها و نتایج گزارش‌شده

در نمونه GSM8K، یک آداپتور LoRA برای GPT-OSS 20B با GRPO آموزش داده شد. AWS می‌گوید در اجرای نمونه، ۱۰ گام آموزش روی ۴۰ مسئله دقت روی داده کنارگذاشته را از ۵۶ به ۷۵ درصد رساند.

در دستور Code RL، مدل روی مسائل برنامه‌نویسی رقابتی آموزش دید و کد تولیدی در یک کانتینر SandboxFusion روی دستگاه کاربر با آزمون‌های واحد ارزیابی شد. با ۵۰ گام، ۱۲۸ مسئله در هر گام و ۸ پاسخ برای هر مسئله، پاداش آموزش از ۰٫۴۶ به ۰٫۶۰ و دقت روی ۲۰۰ مسئله آزمون از ۴۰ به ۵۰٫۵ درصد رسید. این اعداد نتایج گزارش‌شده توسط AWS برای همین دو اجرا هستند، نه تضمینی برای وظایف دیگر.

برای بررسی:Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

پیامدها و محدودیت‌ها

این رویکرد برای پژوهشگران و مهندسانی مناسب است که تابع زیان، برنامه داده یا پاداش سفارشی می‌خواهند اما نمی‌خواهند GPU را مدیریت کنند. با این حال، آموزش به آداپتور LoRA روی مدل‌های پایه پشتیبانی‌شده محدود توصیف شده و فهرست مدل‌ها و Regionهای AWS در مستندات آمده است. پیش‌نیازها، سهمیه‌ها و سقف جلسه‌های همزمان هم در مستندات هستند؛ جلسه تا stop() یا انقضا در سهمیه می‌ماند.

منبع درباره دسترس‌پذیری در ایران یا یکپارچگی با نخود چیزی نمی‌گوید و آزمون مستقل نیز در این منبع ارائه نشده است.

برای بررسی:Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

پشت این نوشته

منابع و جزئیات

این خبر با کمک هوش مصنوعی نوشته شده و با بررسی خودکار منابع و متن منتشر شده است. تصویر، تصویرسازی مفهومی است.

این منابع را می‌توانی برای بررسی ادعاها و جزئیات بیشتر بخوانی. تاریخ کنار هر منبع، زمان بررسی آن برای این نوشته است.

  1. Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs
    aws.amazon.comبررسی:

نخستین انتشار:

روش تهیه و بازبینی نوشته‌ها