هل يشغّل جهازك Phi-3 Mini 3.8B محلياً؟ حاسبة VRAM والسرعة

Phi-3 Mini 3.8B نموذج لغوي من Microsoft Phi بحجم 3.8 مليار معامل. اختر كرتك والتكميم لتعرف إن كان سيعمل وبأي سرعة.

النتيجة بالقيم الافتراضية

يعمل النموذج بالكامل على كرت الشاشة.

حجم الأوزان ≈ عدد المعاملات × بتات التكميم ÷ 8. لـPhi-3 Mini 3.8B بتكميم Q4 نحو 2.3 GB قبل ذاكرة السياق.

سرعة التوليد محدودة بعرض نطاق الذاكرة: كل رمز يتطلب قراءة الأوزان كاملة تقريباً، لذا كرت بذاكرة أسرع يولّد أسرع.

إن لم تتسع الذاكرة، ينقل البرنامج جزءاً إلى ذاكرة النظام وتنخفض السرعة كثيراً. التكميم Q4–Q5 أفضل توازن للأجهزة المنزلية.

كم VRAM يحتاج Phi-3 Mini 3.8B؟

بتكميم Q4 نحو 3.3 GB تقريباً شاملاً هامشاً بسيطاً، وFP16 نحو 8.6 GB.

ما أفضل تكميم؟

Q4_K_M أو Q5 يحافظان على جودة قريبة من الأصل بنصف الذاكرة تقريباً مقارنة بـ Q8.

هل الأرقام الافتراضية أسعار رسمية؟

لا. القيم الافتراضية نقطة بداية استرشادية قابلة للتعديل، وليست عرض سعر أو وعداً بنتيجة. راجع عقدك أو مزوّدك للأرقام النهائية.

هل الحاسبة مجانية وتعمل على جهازي؟

نعم. كل الحسابات تجري داخل متصفحك دون إرسال الأرقام التي تدخلها إلى أي خادم، وتبقى متاحة مجاناً.

Phi-3 Mini 3.8B is a 3.8B-parameter llm model from Microsoft Phi. Pick your GPU and quantization.

Weights ≈ parameters × bits ÷ 8; Phi-3 Mini 3.8B at Q4 needs about 2.3 GB before context.

Generation speed is bound by memory bandwidth; offloading to system RAM slows it sharply.