هل يشغّل جهازك Gemma 2 27B محلياً؟ حاسبة VRAM والسرعة

Gemma 2 27B نموذج لغوي من Google Gemma بحجم 27 مليار معامل. اختر كرتك والتكميم لتعرف إن كان سيعمل وبأي سرعة.

النتيجة بالقيم الافتراضية

يعمل مع نقل جزء للمعالج؛ ستنخفض السرعة بوضوح.

حجم الأوزان ≈ عدد المعاملات × بتات التكميم ÷ 8. لـGemma 2 27B بتكميم Q4 نحو 16.2 GB قبل ذاكرة السياق.

سرعة التوليد محدودة بعرض نطاق الذاكرة: كل رمز يتطلب قراءة الأوزان كاملة تقريباً، لذا كرت بذاكرة أسرع يولّد أسرع.

إن لم تتسع الذاكرة، ينقل البرنامج جزءاً إلى ذاكرة النظام وتنخفض السرعة كثيراً. التكميم Q4–Q5 أفضل توازن للأجهزة المنزلية.

كم VRAM يحتاج Gemma 2 27B؟

بتكميم Q4 نحو 17.2 GB تقريباً شاملاً هامشاً بسيطاً، وFP16 نحو 55.0 GB.

ما أفضل تكميم؟

Q4_K_M أو Q5 يحافظان على جودة قريبة من الأصل بنصف الذاكرة تقريباً مقارنة بـ Q8.

هل الأرقام الافتراضية أسعار رسمية؟

لا. القيم الافتراضية نقطة بداية استرشادية قابلة للتعديل، وليست عرض سعر أو وعداً بنتيجة. راجع عقدك أو مزوّدك للأرقام النهائية.

هل الحاسبة مجانية وتعمل على جهازي؟

نعم. كل الحسابات تجري داخل متصفحك دون إرسال الأرقام التي تدخلها إلى أي خادم، وتبقى متاحة مجاناً.

Gemma 2 27B is a 27B-parameter llm model from Google Gemma. Pick your GPU and quantization.

Weights ≈ parameters × bits ÷ 8; Gemma 2 27B at Q4 needs about 16.2 GB before context.

Generation speed is bound by memory bandwidth; offloading to system RAM slows it sharply.