هل يشغّل جهازك Qwen 2.5 32B محلياً؟ حاسبة VRAM والسرعة

Qwen 2.5 32B نموذج لغوي من Qwen بحجم 32 مليار معامل. اختر كرتك والتكميم لتعرف إن كان سيعمل وبأي سرعة.

النتيجة بالقيم الافتراضية

يعمل النموذج بالكامل على كرت الشاشة.

حجم الأوزان ≈ عدد المعاملات × بتات التكميم ÷ 8. لـQwen 2.5 32B بتكميم Q4 نحو 19.2 GB قبل ذاكرة السياق.

سرعة التوليد محدودة بعرض نطاق الذاكرة: كل رمز يتطلب قراءة الأوزان كاملة تقريباً، لذا كرت بذاكرة أسرع يولّد أسرع.

إن لم تتسع الذاكرة، ينقل البرنامج جزءاً إلى ذاكرة النظام وتنخفض السرعة كثيراً. التكميم Q4–Q5 أفضل توازن للأجهزة المنزلية.

كم VRAM يحتاج Qwen 2.5 32B؟

بتكميم Q4 نحو 20.2 GB تقريباً شاملاً هامشاً بسيطاً، وFP16 نحو 65.0 GB.

ما أفضل تكميم؟

Q4_K_M أو Q5 يحافظان على جودة قريبة من الأصل بنصف الذاكرة تقريباً مقارنة بـ Q8.

هل الأرقام الافتراضية أسعار رسمية؟

لا. القيم الافتراضية نقطة بداية استرشادية قابلة للتعديل، وليست عرض سعر أو وعداً بنتيجة. راجع عقدك أو مزوّدك للأرقام النهائية.

هل الحاسبة مجانية وتعمل على جهازي؟

نعم. كل الحسابات تجري داخل متصفحك دون إرسال الأرقام التي تدخلها إلى أي خادم، وتبقى متاحة مجاناً.

Qwen 2.5 32B is a 32B-parameter llm model from Qwen. Pick your GPU and quantization.

Weights ≈ parameters × bits ÷ 8; Qwen 2.5 32B at Q4 needs about 19.2 GB before context.

Generation speed is bound by memory bandwidth; offloading to system RAM slows it sharply.