فناوری · GPU و هوش مصنوعی
Kueue در دزکوب
صفبندی و سهم منصفانه
- نسخهٔ پینشده
- ⟦V_KUEUE⟧
- لایسنس
- Apache 2.0
- گروه در استک
- GPU و هوش مصنوعی
Kueue چیست
سامانهٔ صفبندی برای بار کاری دستهای: کارها بهجای اینکه فوراً جدولبندی شوند، در صف قرار میگیرند و بر اساس سهمیه و سهم منصفانه اجرا میشوند.
چرا این را انتخاب کردیم
| گزینهای که رد شد | چرا نه |
|---|---|
| جدولبندی مستقیم | اولآمده کل ظرفیت را میگیرد؛ تیم دوم بینهایت صبر میکند |
| سهمیهٔ ساده | سهمیه جلوی مصرف بیشازحد را میگیرد ولی نوبتدهی عادلانه نمیدهد |
ما دقیقاً چطور استفادهاش میکنیم
- سهمیهٔ GPU بهازای سازمان، تیم و پروژه.
- سهم منصفانه: نوبت بر اساس سهم، نه ترتیب رسیدن.
- اجرای گروهی (gang): کارِ چندکارتی یا کاملاً اجرا میشود یا اصلاً.
- اولویت: کار تولیدی بر کار آزمایشی مقدم است.
چرا اجرای گروهی حیاتی است
کارِ آموزشی که به ۸ کارت نیاز دارد و ۵ تا میگیرد، نه کار میکند نه کارتها را آزاد میکند. این بنبست در هر کلاستر GPU مشترکی که اجرای گروهی ندارد اتفاق میافتد، و معمولاً با یک ریست دستی حل میشود. با اجرای گروهی، کار تا رسیدن ظرفیت کامل در صف میماند و کارتها آزادند.
مرزها و محدودیتها
این سکشن در هر صفحهٔ فناوری اجباری است. هر ابزاری مرزی دارد؛ صفحهای که مرزش را نگوید، بقیهاش هم قابل اتکا نیست.
- Kueue برای بار کاری دستهای طراحی شده. سرویس همیشه-روشن از مسیر معمول جدولبندی میرود، نه از صف.
- سهم منصفانه بر پایهٔ پیکربندی سهمیه است. اگر سهمیهها بد تنظیم شوند، «عادلانه» معنای درستی پیدا نمیکند.
اینها را هم ببینید
این را روی زیرساخت خودتان ببینید.
همین مؤلفه را در کلاستر شما پیکربندی میکنیم و نشان میدهیم.