نُشر في الأصل لدى PwC في 25 فبراير 2026

لماذا تنشأ الهلوسة في نماذج اللغة الكبيرة، ولماذا تُعدّ إدارتها أساسية لتبنّي الذكاء الاصطناعي بأمان؟

من المصطلحات المحورية في النقاش حول الذكاء الاصطناعي التوليدي (GenAI) مفهوم الهلوسة. وتُعرَّف الهلوسة رسمياً بأنها توليد معلومات خاطئة من حيث الوقائع أو غير متّسقة أو منفصلة عن السياق، تُقدَّم بطريقة معقولة وبثقة ظاهرة. وهي أمر شائع في حياة الأشخاص والأنظمة التي تعمل مع نماذج اللغة الكبيرة (LLMs).

كمان وقوس ونوتة موسيقية وأوراق تبدو معلّقة على باب خشبي أخضر داكن.
ويليام مايكل هارنيت، الكمان القديم، 1886. · National Gallery of Art, Washington

لماذا تحدث الهلوسة في نماذج اللغة الكبيرة؟

السبب الجوهري أن نماذج اللغة الكبيرة خوارزميات إحصائية، لا محرّكات للحقيقة. فهدفها التنبؤ بالكلمة التالية الأرجح في تسلسل ما، استناداً إلى أنماط إحصائية واسعة النطاق. ولم تُصمَّم للتحقق من الوقائع مقابل مرجع خارجي وديناميكي للحقيقة. ومن المفارقة أن معقولية الهلوسة هي في الواقع نجاح النموذج في هدفه: توليد نص سلس.

«ليست الهلوسة في الذكاء الاصطناعي التوليدي إخفاقات عرضية، بل هي في الحقيقة نتيجة حتمية لنماذج اللغة الكبيرة. ولم يعد التحدي هو القضاء عليها، بل إدارة المخاطر وترسيخ كل إجابة في وقائع قابلة للتحقق.»

Ricardo Pacheco Almeida، قائد تقنيات الذكاء الاصطناعي في PwC Portugal

بوصفها إحدى أبرز قيود هذه التكنولوجيا، تُعدّ الهلوسة موضوع دراسة رائجاً في الأوساط الأكاديمية. ويرى الإجماع الحالي أن نموذج لغة كبيراً مثالياً، خالياً من الهلوسة، أمر بعيد المنال. ويعود ذلك إلى عوامل متعددة: منها مثلاً الحدود النظرية، وثغرات المعرفة التي لا يستطيع نموذج محدود أن يتعلّمها بحدّ ذاته؛ وكون بنية النموذج مصمَّمة للاتساق لا للتحقق؛ وكون أنظمة التقييم تكافئ «التخمين» من دون أن تعاقب على عدم اليقين.

أنواع الهلوسة في الذكاء الاصطناعي التوليدي (الداخلية مقابل الخارجية)

ثمة نوعان رئيسيان من الهلوسة: الداخلية والخارجية. وفهم هذين النوعين أساسي لتقييم موثوقية الإجابات التي تولّدها نماذج الذكاء الاصطناعي تقييماً صحيحاً.

الهلوسة الداخلية

تحدث الهلوسة الداخلية حين تناقض الإجابة مباشرةً المعلومات المقدَّمة في السياق. فمثلاً، إذا أشار مستند إلى ميزانية قدرها 5 ملايين يورو، فإن قول النموذج إن «الميزانية بلغت 8 ملايين يورو» هلوسة داخلية.

الهلوسة الخارجية

تحدث الهلوسة الخارجية حين يُدخل النموذج معلومات جديدة لا يمكن التحقق منها من خلال السياق. وبالاستعانة بالمثال نفسه، سيكون ذلك قول النموذج إن «الميزانية بلغت 5 ملايين يورو، ووافقت عليها الإدارة في 10 يوليو». فالتاريخ هنا اختلاق معقول، لكنه بلا أساس.

أثر الهلوسة في الشركات والقطاعات الحساسة

يُعدّ تآكل الثقة من أبرز العوائق أمام تبنّي الشركات للذكاء الاصطناعي التوليدي، ويشتدّ ذلك خصوصاً حين تصطدم التوقعات بشأن إمكانات نماذج الذكاء الاصطناعي التوليدي بتحدّي الهلوسة. فإذا كان كل ملخّص أو تحليل أو مسوّدة يولّدها الذكاء الاصطناعي يحتاج إلى تدقيق متأنٍّ من خبير بشري، فإن أبرز مزايا استخدام نظام آلي وديناميكي تتلاشى. ويتضاعف هذا الأثر في القطاعات عالية المخاطر، مثل الصحة والعدالة والمالية. فقد تُنشئ هلوسةٌ في تقرير تحليل قانوني، مثلاً، سابقةً قضائية لا وجود لها.

كيف نخفّف الهلوسة في الذكاء الاصطناعي التوليدي؟ (RAG والترسيخ)

انطلاقاً من فكرة أن الهلوسة حتمية لكن يمكن تخفيفها، انتقل النقاش من القضاء عليها إلى إدارتها، وأصبح التحدي العملي هو تقليل احتمال توليد الأخطاء.

التقنية الأكثر رواجاً لتخفيف الهلوسة في الذكاء الاصطناعي التوليدي هي التوليد المعزّز بالاسترجاع (Retrieval-Augmented Generation أو RAG). وتقوم على تزويد النموذج بمستندات واقعية وذات صلة بوصفها سياقاً، مع تعليمات محدّدة بأن يجيب استناداً إلى تلك المعلومات وحدها.

وهذا أيضاً المثال الأبرز على الترسيخ السياقي (Grounding). فمن خلال تقديم سياق خارجي قابل للتحقق لحظة الاستدلال، يرسّخ النظام الإجابة في مجموعة محدودة من الوقائع، وبذلك يدير الأخطاء الحتمية الناجمة عن التعميم الخاطئ.

حلول متقدّمة للحدّ من الهلوسة في نماذج اللغة الكبيرة

تنطلق أكثر الحلول تقدّماً للحدّ من الهلوسة في الذكاء الاصطناعي التوليدي ونماذج اللغة الكبيرة من مقاربة قائمة على عدم الثقة: فهي تفترض أن النموذج المولِّد قابل للخطأ، وسيظل كذلك دائماً.

وتقوم الاستراتيجية على بناء أنظمة معيارية ذات تحقّق خارجي، بما يضمن دقة وأماناً أكبر. وتشمل هذه الأنظمة:

  • مولِّد (LLM) + مدقِّق: نموذج آخر أو قواعد حتمية تتحقق من كل إجابة.
  • نماذج مكافأة العمليات (Process Reward Models أو PRMs): تحقّق خطوةً بخطوة، جملةً بجملة.
  • المناظرات متعددة الوكلاء: يتبنّى وكلاء متعدّدون مواقف متناقضة ويتناقشون حتى يصلوا إلى الإجابة الأكثر موثوقية، في محاكاة لعملية ديمقراطية.

هذه المقاربات أساسية للتطبيقات الحساسة، مثل الصحة والعدالة والمالية، حيث تكون موثوقية الذكاء الاصطناعي حاسمة في الحدّ من المخاطر.

تمثّل الهلوسة في الذكاء الاصطناعي التوليدي أحد أكبر التحديات أمام تبنّي هذه التكنولوجيا بأمان وكفاءة. ورغم أنها حتمية بحكم طبيعة نماذج اللغة الكبيرة، فإن هناك استراتيجيات فعّالة للحدّ من المخاطر. ومن الضروري أن تفهم الشركات هذه القيود وأن تعتمد آليات للتخفيف منها. ومع تطوّر الذكاء الاصطناعي، ستكون إدارة الهلوسة عاملاً حاسماً في تحويل الإمكانات إلى قيمة استراتيجية.