مختصر كتابي: The Inference Pipeline

Summary: The Inference Pipeline

ماذا يحدث بين لحظة الضغط على Send وظهور الإجابة؟

يبدأ فهم أنظمة الذكاء الاصطناعي من خط سير واحد: الخطوات التي تمرّ بها رسالتك منذ إرسال الطلب (Request) حتى وصول الرد (Response). هذه هي الصورة التي ستُركَّب داخلها بقية المفاهيم في السلسلة.

إنفوجرافيك: مخطط يوضح مراحل الاستدلال من تجهيز السياق وتقسيم النص إلى رموز، إلى معالجة المدخلات وتوليد الرد خطوة بخطوة، ثم التحقق من المخرجات.
ملخص الدرس في صورة واحدة. اضغط على الصورة لتكبيرها.

تخيّل أن عميلًا يشتكي من تأخّر طلبه، وأنك كتبت للتطبيق:

اكتب رد مختصر، اعتذر فيه عن التأخير، ومتحددش ميعاد تسليم إلا لو عندك ميعاد مؤكد

هنا تستخدم نموذجًا مدرَّبًا ليُخرج مخرجات (Output) من المدخلات (Input) التي أعطيته إياها، وهذا ما يُسمّى الاستدلال (Inference). التدريب (Training) هو وقت التجهيز، والاستدلال هو لحظة التعامل مع الحالة بما تعلّمه النموذج، لكنه لا يعمل كموظف، بل بحسابات على تمثيلات عددية.

أولًا يجهّز التطبيق السياق (Context)، وهو كل المعلومات التي أمام النموذج وهو يكتب الرد: رسالة العميل، وتعليمات الأسلوب، وجزء من سجل المحادثة (Chat History)، وحالة الطلب إن جلبها التطبيق من نظام الشركة. وجود المعلومة في قاعدة بياناتك لا يعني أنها وصلت إلى النموذج.

بعد ذلك يقسّم المُجزِّئ (Tokenizer) النص إلى وحدات تُسمّى الرموز (Tokens)، وقد يكون الرمز كلمة أو جزءًا من كلمة أو علامة ترقيم. لكل رمز معرّف (ID) يحدّد أي رمز نقصد، ثم يتحول إلى التضمين (Embedding)، وهو التمثيل العددي الذي يدخل حسابات النموذج.

تمرّ هذه التمثيلات عبر طبقات النموذج وتتغير بحسب السياق. وفي نماذج Transformer تربط آلية الانتباه (Attention) أجزاء السياق بعضها ببعض. تُسمّى معالجة المدخلات Prefill، وفي نهايتها يصبح النموذج جاهزًا لاختيار أول رمز في الرد.

ثم تبدأ مرحلة Decode: يحسب النموذج احتمالات الرمز التالي، ويختاره، ثم يبني عليه حساب الرمز الذي بعده، وهكذا حتى يظهر رمز النهاية أو يبلغ الرد الحد الأقصى للطول. وتُسمّى هذه الطريقة التوليد الانحداري الذاتي (Autoregressive Generation). وإذا فُعِّل Streaming ظهرت الإجابة تدريجيًا.

أما الأوزان (Weights) فهي ما حفظه النموذج في التدريب، وتبقى ثابتة أثناء الاستدلال المعتاد. فإذا طلبت «رد أقل رسمية» فقد أضفت تعليمات إلى السياق، ولم تُحدِّث الأوزان.

  • الاستدلال هو استخدام نموذج مدرَّب لإنتاج مخرجات من مدخلات، وليس تدريبًا جديدًا مع كل رسالة.
  • السياق هو ما يراه النموذج فقط، فلا تفترض أنه يعرف معلومة لم يرسلها التطبيق ولا توجد أداة (Tool) تجلبها.
  • عدد الرموز لا يساوي بالضرورة عدد الكلمات، والمعرّف (ID) يختلف عن التضمين (Embedding).
  • Prefill يعالج المدخلات، وDecode يولّد المخرجات رمزًا بعد رمز، وطول المدخلات وطول المخرجات يؤثران في وقت الانتظار بطريقتين مختلفتين.
  • الوقت يتأثر أيضًا بضغط الخدمة والشبكة وأي أدوات يستعين بها النظام.
  • الرد المقنع لا يعني معلومة صحيحة، فاحتمال الرمز ليس مقياسًا مباشرًا للصحة.

إذا وعد المساعد عميلك بميعاد من عنده، فابدأ بأسئلة محددة: هل وصلت حالة الطلب إلى النموذج؟ هل التعليمات واضحة؟ هل توجد أداة تجلب الميعاد؟ وكيف نختبر التزامه بالمعلومات المتاحة له؟

الخلاصة: رسالتك تتحول إلى سياق، ثم إلى رموز وتضمينات، ثم يعالجها النموذج في Prefill ويولّد الرد في Decode خطوة بخطوة بأوزان ثابتة، وجودة النتيجة تعتمد على النموذج وعلى المعلومات التي وصلته وعلى طريقة التحقق من المخرجات.

هذا درس مجاني من «نماذج اللغة الكبيرة من الداخل». اشترك للوصول إلى كل الدروس والاختبارات والشهادة.

اعرف تفاصيل الاشتراك ←