نماذج لغوية مستضافة ذاتيًا
نماذج مفتوحة الأوزان مثل LLaMA وQwen وMistral، تُشغَّل عبر vLLM أو Ollama خلف واجهة متوافقة مع OpenAI، فتنتقل التطبيقات الداخلية من الخدمة السحابية بأقل تعديل في الكود.
الخدمات · الذكاء الاصطناعي المحلي
نشر النماذج اللغوية الكبيرة محليًا في السعودية
لا تستطيع جهات كثيرة في المملكة إرسال المستندات أو التسجيلات أو بيانات العملاء إلى خدمة ذكاء اصطناعي خارجية. فالجهات الحكومية والبنوك ومقدمو الرعاية الصحية والمؤسسات الكبرى تحتاج غالبًا إلى بقاء البيانات داخل المملكة وداخل شبكتها. أنشر نماذج لغوية مفتوحة الأوزان على بنية تحتية تتحكم بها، لتستفيد فرقك من الذكاء الاصطناعي التوليدي دون أن تغادرها البيانات.
قدت عمليات نشر محلية لنماذج LLaMA وQwen على Kubernetes بوحدات GPU لمؤسسات سعودية كبرى، مع مساعدات RAG وتحويل الكلام إلى نص باستخدام Whisper على المنصة نفسها.
ما الذي أنشره
RAG خاص
استرجاع عبر FAISS أو Chroma داخل شبكتك، مرتبط بالمستندات والأنظمة الداخلية، مع صلاحيات لكل مستخدم.
تحويل الكلام إلى نص
تفريغ المكالمات والاجتماعات والتسجيلات باستخدام Whisper large-v3 على وحدات GPU لديك، لتغذية استخراج المعلومات والبحث والتحليلات.
ضبط دقيق خاص
ضبط دقيق بتقنيات LoRA وQLoRA على بياناتك وعتادك، حين يحتاج النموذج الأساسي إلى مصطلحاتك أو صيغك أو مهامك.
كيف يسير النشر
المتطلبات وتقدير الموارد
حالات الاستخدام وعدد المستخدمين وأهداف زمن الاستجابة وتصنيف البيانات. ومنها أحدد أحجام النماذج وعدد وحدات GPU، وما إذا كان خادم واحد يكفي أم يلزم عنقود Kubernetes.
اختيار النموذج
تُختبر النماذج المرشحة على بياناتك، بما فيها العربية إن احتاجها مستخدموك، ويُضبط التكميم (quantization) والمعالجة على دفعات ليناسب النموذج المختار عتادك وميزانيتك.
النشر
حاويات على Kubernetes أو خادم GPU، وتشغيل عبر vLLM، ومصادقة وسجلات وربط بأنظمة الهوية والمستندات لديك. ويمكن التثبيت دون اتصال للشبكات المعزولة عن الإنترنت.
التشغيل والتسليم
مراقبة زمن الاستجابة واستخدام وحدات GPU وجودة الإجابات، وتحديث النماذج عبر CI/CD باستخدام GitHub Actions وMLflow، مع توثيق وتدريب ليتولى فريقك التشغيل.
أعمال بُنيت عليها هذه الخدمة
منصة النماذج اللغوية والكلام المحلية
مساعدات RAG للمؤسسات ومحادثات بالنماذج اللغوية وتفريغ صوتي باستخدام Whisper large-v3، على نماذج LLaMA وQwen مستضافة ذاتيًا على Kubernetes بوحدات GPU، لحالات استخدام واسعة في مؤسسات سعودية. يجري الاسترجاع عبر FAISS وChroma، وتغذي النصوص المفرّغة استخراج المعلومات والتحليلات، دون أن تغادر البيانات بنية العميل التحتية.
الأثر: ذكاء اصطناعي توليدي يحافظ على سيادة البيانات في البيئات الحساسة.
MLOps لتسليم النماذج
خطوط متكاملة باستخدام MLflow وWeights & Biases وCI/CD عبر GitHub Actions لتتبع التجارب وموثوقية النشر وتسريع إطلاق النماذج.
مساعد ذكي للاجتماعات
تفريغ بـ Whisper وملخصات بالنماذج اللغوية ووكلاء LangChain يستخرجون المهام ويكتبون مسودات المتابعة لفرق المؤسسات.
الأثر: توثيق ما بعد الاجتماع في دقائق بدل ساعات.
محليًا أم في سحابة داخل المملكة أم عبر واجهة خارجية؟
يضع نظام حماية البيانات الشخصية في المملكة والجهات التنظيمية القطاعية قواعد لمكان تخزين البيانات الشخصية ومعالجتها. فرقك القانونية وفرق الامتثال هي من تحدد ما ينطبق عليك، وأنا أبني النظام ليلبي ذلك.
محليًا
الأنسب حين لا يجوز أن تغادر البيانات شبكتك، أو حين يكون الاستخدام كثيفًا ومستمرًا، أو حين تحتاج تحكمًا كاملًا في النماذج وتحديثاتها. توفّر أنت خوادم GPU أو تشتريها.
منطقة سحابية داخل المملكة
تبقى البيانات داخل المملكة دون تشغيل عتادك الخاص. مناسب للتجارب والأحمال المتغيرة، إن كانت سياساتك تسمح بمزود سحابي.
واجهة برمجية خارجية
أسرع بداية وأقوى النماذج المتقدمة، للبيانات المسموح بخروجها. وغالبًا ما تكون طريقة جيدة لبناء نموذج أولي قبل الانتقال إلى النشر المحلي.
الأدوات التي أستخدمها
أسئلة شائعة
ما العتاد الذي نحتاجه؟
يعتمد على حجم النموذج وعدد المستخدمين وزمن الاستجابة المطلوب. يمكن تشغيل تجربة أولى على خادم GPU واحد، أما الإنتاج فيعمل عادةً على عنقود GPU صغير. أقدّر الاحتياج من متطلباتك قبل أن تشتري أي شيء.
هل النماذج مفتوحة الأوزان جيدة بما يكفي؟
لمعظم المساعدات وأنظمة البحث في المؤسسات نعم، خاصة مع RAG على مستنداتك. أختبرها على مهامك إلى جانب نموذج عبر واجهة برمجية، لترى الفرق قبل أن تقرر.
هل تدعم العربية؟
نعم. النماذج متعددة اللغات مفتوحة الأوزان تتعامل مع العربية، وأقيّمها على مجموعات اختبار عربية من مجالك.
كيف نبدأ؟
عادةً باستشارة قصيرة لمراجعة حالة الاستخدام والبنية التحتية، ثم تجربة على خادم GPU واحد ببياناتك.
تحتاج ذكاءً اصطناعيًا يبقى داخل شبكتك؟
أخبرني بحالة الاستخدام ومستخدميك والبنية التحتية لديك. أرد بالعربية أو الإنجليزية.