مرجع مكتوب بتنسيق أكاديمي متقن، فيه اسم المؤلف وسنة النشر واسم المجلة ورقم الصفحة، ثم تكتشف أن الدراسة كلها غير موجودة أصلًا. هذا هو الوجه الأخطر لظاهرة هلوسة الذكاء الاصطناعي (AI Hallucination): خطأ يأتيك بثقة كاملة ومظهر احترافي يصعب الشك فيه. في يونيو 2023 فرضت محكمة فيدرالية في نيويورك غرامة قدرها 5,000 دولار على محاميين ومكتبهما في قضية Mata v. Avianca، بعدما قدّموا مذكرة استشهدت بقضايا سابقة اخترعها ChatGPT ولم تُنظر أمام أي محكمة.
المحاميان لم يقصدا الخداع، لكنهما صدّقا أداة تكتب بطلاقة ولم يفتحا مرجعًا واحدًا للتأكد. القصة لا تخص المحامين وحدهم، فالطالب الذي يكتب بحثًا والموظف الذي يجهّز تقريرًا يقعان في الفخ نفسه. الخبر الجيد أن هذه الأخطاء لها أنماط معروفة يمكن تمييزها. وستجد هنا تصنيفًا عمليًا لأنواعها، ثم بروتوكولًا من ست خطوات للتحقق قبل أن تعتمد على أي إجابة.
ما هي هلوسة الذكاء الاصطناعي
المصطلح مستعار من الطب النفسي، لكنه في عالم التقنية يعني شيئًا محددًا: أن يقدّم النموذج اللغوي معلومة خاطئة أو مختلقة بالكامل، ويصوغها بأسلوب واثق ومقنع كأنها حقيقة ثابتة. النموذج هنا لا "يكذب" بالمعنى البشري، لأنه لا يملك نية ولا يعرف أنه أخطأ. هو ببساطة أنتج نصًا يبدو صحيحًا من حيث الشكل، دون أي ضمان أن مضمونه مطابق للواقع.
الفرق بين هذا الخطأ وأخطاء البشر العادية مهم جدًا. حين يجهل خبير بشري إجابة سؤال ما، تظهر عليه علامات التردد: يقول "لست متأكدًا" أو "أظن" أو يطلب وقتًا للمراجعة. أما النموذج اللغوي فقد يكتب الإجابة الخاطئة بنفس النبرة والتنسيق الذي يكتب به الإجابة الصحيحة تمامًا، وهنا تكمن الخطورة. غياب إشارات الشك يجعل المعلومات المختلقة تمر بسهولة على القارئ المستعجل.
ولا تعني الظاهرة أن الأدوات عديمة الفائدة. النماذج الحديثة دقيقة في نسبة كبيرة من المهام اليومية، مثل تلخيص نص أعطيته لها، أو إعادة صياغة فقرة، أو شرح مفهوم شائع. تظهر هلوسة الذكاء الاصطناعي بوضوح حين تطلب منها معلومة محددة لا يمكنها استنتاجها من النص الذي أمامها: رقم دقيق، أو تاريخ، أو اسم مرجع، أو اقتباس حرفي. في هذه المناطق تصبح دقة المعلومات غير مضمونة، ويصبح التحقق واجبًا لا ترفًا.
أفضل طريقة للتعامل مع الأمر هي تغيير نظرتك للأداة. اعتبرها زميلًا سريعًا وواسع الاطلاع لكنه أحيانًا يملأ الفراغات من ذاكرته دون أن يخبرك، فتستفيد من سرعته وتراجع ما يقوله في الأمور الحساسة. هذه العقلية هي أساس التفكير النقدي في التعامل مع أي أداة توليدية. فالتحقق من إجابات الذكاء الاصطناعي ليس علامة عدم ثقة، بل عادة مهنية تشبه مراجعة أي مسودة قبل إرسالها.
أسباب أخطاء الذكاء الاصطناعي
السبب الجوهري بسيط في فكرته: النموذج اللغوي مُدرَّب على توقع الكلمة التالية الأكثر احتمالًا بناءً على كميات هائلة من النصوص. هو يتعلم الأنماط، أي كيف تبدو الجملة الصحيحة لغويًا والمرجع الأكاديمي النموذجي والإجابة المقنعة، لكنه لا يحمل قاعدة بيانات للحقائق يرجع إليها قبل كل جملة. لذلك حين يُسأل عن دراسة حول موضوع معين، قد يركّب اسم باحث معقول مع عنوان مقنع وسنة منطقية، لأن هذا التركيب "يشبه" المراجع الحقيقية التي رآها.
فجوات في بيانات التدريب
السبب الثاني يتعلق بما تعلّمه النموذج أصلًا. بيانات التدريب تتوقف عند تاريخ معين، فلا يعرف النموذج الأحداث التي جاءت بعده إلا إذا كان متصلًا بالبحث على الويب. كما أن بعض المواضيع ممثلة بقوة في هذه البيانات، كالتاريخ العالمي الشائع والبرمجة باللغات المعروفة، بينما مواضيع أخرى نادرة الحضور، كالقوانين المحلية في بلد عربي صغير أو تاريخ شركة ناشئة. في المناطق الضعيفة يميل النموذج إلى سد الفراغ بتخمين معقول الشكل.
غياب آلية تحقق داخلية
السبب الثالث أن النموذج لا يملك بطبيعته خطوة منفصلة تقول له "توقف، هل هذا صحيح؟". هو يولّد النص كلمة بعد كلمة، وكل كلمة تبني على ما قبلها، فإذا بدأ في مسار خاطئ قد يستمر فيه ويضيف تفاصيل تدعمه. يشبه ذلك شخصًا يحكي قصة من ذاكرته، فيضيف تفاصيل صغيرة ليجعلها متماسكة دون أن يدرك أنه يؤلف.
الضغط نحو تقديم إجابة
العامل الأخير سلوكي. أبحاث نشرتها OpenAI في 2025 أشارت إلى أن طرق التدريب والتقييم الشائعة تكافئ النموذج على التخمين أكثر من الاعتراف بعدم المعرفة، تمامًا كطالب في اختبار اختيار من متعدد يفضّل التخمين على ترك السؤال فارغًا. والنتيجة نموذج يميل إلى إعطائك إجابة ما بدل أن يقول "لا أعرف"، وهذا بالضبط ما يصنع أخطاء الذكاء الاصطناعي الأكثر إقناعًا.
أنواع هلوسة الذكاء الاصطناعي
معرفة شكل الخطأ تسهّل اصطياده. أخطاء الذكاء الاصطناعي ليست نوعًا واحدًا، ولكل نوع علامات تميزه وطريقة مختلفة لكشفه. هذا تصنيف عملي يغطي أغلب ما ستواجهه في الاستخدام اليومي:
- المصادر المختلقة: تطلب قائمة من المصادر والمراجع لدعم فكرة، فتحصل على قائمة أنيقة من الكتب والدراسات، بعضها حقيقي وبعضها لا وجود له، أو له عنوان حقيقي منسوب لمؤلف خاطئ. الروابط المرفقة قد تقود إلى صفحة غير موجودة أو إلى موضوع آخر تمامًا.
- الأرقام والتواريخ الخاطئة: تسأل عن عدد سكان مدينة أو سنة تأسيس مؤسسة، فتأتي الإجابة برقم قريب من الصحيح لكنه ليس دقيقًا، أو بسنة تختلف بعامين أو ثلاثة. هذا النوع خطير لأن الرقم الخاطئ يبدو معقولًا تمامًا ولا يثير أي شك.
- حقائق زائفة عن أشخاص: تسأل عن سيرة شخصية عامة، فيُنسب إليها منصب لم تشغله، أو جائزة لم تنلها، أو كتاب كتبه شخص آخر. وأحيانًا يخلط النموذج بين شخصين يحملان الاسم نفسه ويدمج سيرتيهما في سيرة واحدة.
- المعلومات القديمة: تسأل عن أحدث إصدار من برنامج أو عن سعر خدمة، فتحصل على معلومة كانت صحيحة قبل عام أو أكثر وتقدَّم لك كأنها الوضع الحالي. النموذج لا يعرف بالضرورة أن معرفته توقفت عند نقطة زمنية.
- سوء فهم السياق: تعطيه مستندًا وتطلب تلخيصه، فيضيف استنتاجًا غير موجود في النص، أو يعكس معنى جملة منفية. ويحدث هذا كثيرًا مع النصوص الطويلة التي تحتوي استثناءات وشروطًا متداخلة.
- أخطاء الاستدلال والحساب: تطلب حساب نسبة مئوية أو حل مسألة منطقية متعددة الخطوات، فيكتب خطوات مرتبة وواضحة لكن إحداها خاطئة، فتأتي النتيجة النهائية خاطئة بثقة. الشرح المنظم يوهمك بأن الحل سليم.
- الاقتباسات المفبركة: تطلب قولًا لمفكر أو مسؤول حول موضوع ما، فتحصل على جملة بليغة تناسب أسلوبه وأفكاره لكنه لم يقلها حرفيًا قط. هذا النوع ينتشر بسرعة على وسائل التواصل لأنه يبدو موثوقًا ومناسبًا للمشاركة.
متى تكون المعلومات المختلقة أخطر
ليست كل أخطاء الذكاء الاصطناعي متساوية في عواقبها. خطأ في اقتراح اسم لمشروعك الجانبي لا يضر أحدًا، أما خطأ في جرعة دواء أو موعد قانوني فقد تكون كلفته كبيرة. لذلك يفيدك أن تعرف المناطق التي ترتفع فيها احتمالية الخطأ أو خطورته، فترفع مستوى الحذر فيها تلقائيًا.
المجالات الطبية والقانونية والمالية تأتي في المقدمة. في الطب قد تكون المعلومة صحيحة بشكل عام لكنها لا تنطبق على حالتك تحديدًا، أو قد تختلط أسماء أدوية متشابهة. وفي القانون تختلف الأنظمة من دولة لأخرى، وقد يقدم لك النموذج قاعدة من القانون الأمريكي على أنها قاعدة عامة. أما في المال، فالأرقام والنسب الضريبية والأسعار تتغير باستمرار، والخطأ فيها يتحول مباشرة إلى خسارة. هنا يصبح التفكير النقدي ضرورة لا خيارًا، فاستخدم الأداة لفهم المصطلحات وتجهيز الأسئلة، ثم ارجع إلى المختص.
الأحداث الحديثة والمواضيع المتخصصة
الأحداث الأخيرة منطقة خطرة لأن النموذج قد لا يعرف عنها شيئًا، فيكمل الصورة بتخمين يعتمد على ما قبلها. وكذلك المواضيع المتخصصة جدًا، كبحث علمي محدد أو منتج صناعي نادر، لأن البيانات المتاحة عنها قليلة.
المعلومات العربية والمحلية
هنا نقطة تخص القارئ العربي مباشرة. المحتوى العربي على الإنترنت أقل حجمًا بكثير من المحتوى الإنجليزي، والمحتوى المحلي عن الأنظمة الحكومية وإجراءات المعاملات والجامعات والشركات المحلية أقل من ذلك. حين تسأل عن رسوم تجديد إقامة في بلد عربي، أو شروط قبول في جامعة محلية، أو أسماء مسؤولين في جهة حكومية، فاحتمال الخطأ أعلى من المتوسط. والأفضل في هذه الحالات أن تجعل الموقع الرسمي للجهة هو المرجع الأول، وتستخدم الأداة فقط لمساعدتك على فهم ما تقرأه هناك. الحفاظ على دقة المعلومات المحلية يحتاج مصدرًا محليًا موثوقًا.
كيف تتحقق من إجابات الذكاء الاصطناعي
التحقق لا يعني أن تراجع كل كلمة، بل أن تمتلك روتينًا ثابتًا تطبقه كلما كانت المعلومة ستُستخدم في قرار أو تُنشر أو تُرسل لغيرك. الخطوات التالية تشكل بروتوكولًا بسيطًا يمكنك تطبيقه في دقائق، وكلما ارتفعت أهمية المعلومة طبّقته بصرامة أكبر:
- اطلب المصادر صراحة: اسأل النموذج من أين جاءت المعلومة، واطلب روابط أو أسماء مراجع محددة. غياب أي مصدر قابل للفحص إشارة تحذير أولى، وتعني أن المعلومة تحتاج تحققًا مستقلًا بالكامل.
- افتح المصادر بنفسك: لا تكتفِ بوجود رابط أو اسم كتاب، بل افتحه واقرأ الفقرة المعنية. تأكد أن المصدر موجود فعلًا، وأنه يقول ما نُسب إليه، لا شيئًا قريبًا منه أو عكسه.
- قاطع مع مصدرين مستقلين: ابحث عن المعلومة في مصدرين لا ينقل أحدهما عن الآخر، كموقع رسمي ومؤسسة إخبارية معروفة. إذا اتفقا ارتفعت الثقة، وإذا اختلفا فهذا يستحق بحثًا أعمق.
- افحص التواريخ: انظر إلى تاريخ نشر المصدر وتاريخ آخر تحديث. معلومة صحيحة من 2022 قد تكون خاطئة اليوم، خصوصًا في الأسعار والإصدارات والأنظمة واللوائح.
- أعد حساب الأرقام: إذا تضمنت الإجابة حسابات أو نسبًا، أعد حسابها بالآلة الحاسبة أو بجدول بيانات. خطوة واحدة خاطئة في منتصف الحل تكفي لإفساد النتيجة كلها.
- اطلب من النموذج نقد نفسه: بعد الإجابة، اكتب له: راجع إجابتك السابقة وحدد أي معلومة لست متأكدًا منها أو قد تكون خاطئة. هذه الخطوة تكشف أحيانًا مواضع الضعف، لكنها لا تغني عن الخطوات السابقة.
أوامر تقلل الأخطاء من البداية
طريقة صياغة السؤال تؤثر في جودة الإجابة. أعطِ النموذج النص أو المستند الذي تريد العمل عليه بدل أن تعتمد على ذاكرته، واطلب منه الالتزام به. وصرّح بأنك تقبل "لا أعرف" كإجابة، فهذا يخفف ميله إلى التخمين، كما في هذا المثال:
أجب اعتمادًا على المستند المرفق فقط. إذا لم تجد المعلومة فيه فقل ذلك صراحة ولا تكملها من عندك، وضع بجانب كل معلومة رقم الفقرة التي أخذتها منها.
وتساعد أيضًا تجزئة المهام الكبيرة، ففي المسائل الحسابية اطلب عرض كل خطوة منفصلة حتى يسهل عليك اكتشاف الخطوة الخاطئة.
هل البحث على الويب يمنع الهلوسة
الأدوات التي تجمع بين النموذج اللغوي والبحث على الويب خطوة مهمة نحو إجابات أدق. الفكرة تُعرف تقنيًا بالتوليد المعزز بالاسترجاع (Retrieval-Augmented Generation)، حيث تبحث الأداة أولًا عن صفحات ذات صلة، ثم يكتب النموذج إجابته اعتمادًا عليها ويرفق روابطها. أدوات مثل Perplexity وخاصية البحث في ChatGPT وGemini تعمل بهذا الأسلوب، فتقل المعلومات المختلقة ويصبح التحقق أسهل لأن المصادر أمامك.
لكن الإجابة المختصرة عن سؤال العنوان هي: يقلل البحث من هلوسة الذكاء الاصطناعي ولا يلغيها. قد تستند الأداة إلى صفحة ضعيفة أو قديمة، وقد تفهم الصفحة فهمًا خاطئًا، وقد تضع رابطًا حقيقيًا بجانب جملة لا يدعمها ذلك الرابط فعلًا. أي أن المصادر والمراجع المرفقة تمنحك فرصة للتحقق، لا ضمانًا للصحة. القاعدة تبقى كما هي: الرابط الذي لم تفتحه لا يُعد دليلًا.
استخدام مسؤول في بيئة العمل
في العمل تتضاعف أهمية هذه القواعد لأن الخطأ لا يمسك وحدك، بل يمس سمعة فريقك ومؤسستك. هذه ممارسات تحمي جودة عملك:
- أنت المسؤول عن الناتج النهائي: أي نص يخرج باسمك هو مسؤوليتك، سواء كتبته بيدك أو ساعدتك فيه أداة. لا يصح أن يكون "الذكاء الاصطناعي قال ذلك" مبررًا لخطأ في تقرير أو عرض.
- حدّد مستوى المراجعة حسب الأثر: مسودة بريد داخلي تحتاج قراءة سريعة، أما تقرير لعميل أو رقم في عرض للإدارة فيحتاج تطبيق بروتوكول التحقق كاملًا. هذا التدرج يوفر وقتك دون أن يضحي بالجودة.
- وثّق مصادرك الحقيقية: احتفظ بروابط المصادر التي تحققت منها بنفسك، لا التي اقترحتها الأداة فقط. هكذا يستطيع زميلك أو مديرك مراجعة عملك بسرعة، ويبقى التفكير النقدي جزءًا من ثقافة الفريق.
الأسئلة الشائعة
هل يمكن أن تختفي هلوسة الذكاء الاصطناعي تمامًا
على الأرجح لا، على الأقل بالتقنيات الحالية، لأنها مرتبطة بطريقة عمل النماذج القائمة على توقع النص المحتمل. لكن النسبة تنخفض مع كل جيل جديد، وتنخفض أكثر عند ربط النموذج بالبحث أو بمستنداتك. الهدف الواقعي هو تقليل الأخطاء واكتشافها بسرعة، لا انتظار أداة معصومة.
كيف أعرف أن المرجع الذي أعطاني إياه النموذج حقيقي
ابحث عن عنوان المرجع كاملًا بين علامتي تنصيص في محرك بحث أو في Google Scholar. إذا لم يظهر في أي قاعدة بيانات معروفة، أو ظهر بمؤلف أو سنة مختلفة، فاعتبره مشكوكًا فيه، وهذا ينطبق على كل المصادر والمراجع التي يقترحها النموذج دون رابط قابل للفحص. وحتى إن وُجد، اقرأ الملخص على الأقل لتتأكد أنه يناقش ما نُسب إليه.
هل الإجابات باللغة العربية أقل دقة من الإنجليزية
غالبًا نعم في المواضيع التي يقل عنها المحتوى العربي، خصوصًا المعلومات المحلية والمتخصصة. بعض المستخدمين يطرحون السؤال بالإنجليزية ثم يطلبون الترجمة للعربية، وقد يحسّن ذلك النتيجة في المواضيع العلمية العامة. أما المعلومات المحلية فمرجعها الأفضل يبقى المواقع الرسمية.
هل سؤال النموذج "هل أنت متأكد" كافٍ للتحقق
لا، فهذا السؤال قد يدفع النموذج أحيانًا إلى تغيير إجابة صحيحة لمجرد أنك أبديت شكًا، وقد يجعله يؤكد إجابة خاطئة. المراجعة الذاتية مفيدة كخطوة إضافية، لكن التحقق الحقيقي يأتي من مصدر خارجي مستقل تفتحه بنفسك.
ما أفضل استخدام للذكاء الاصطناعي إذا كان يخطئ أحيانًا
استخدمه فيما يجيده مع مخاطرة منخفضة: التلخيص والصياغة وتوليد الأفكار وشرح المفاهيم وتنظيم المعلومات التي تعطيها له. وحين تحتاج حقيقة محددة أو رقمًا أو مرجعًا، اجعل التحقق من إجابات الذكاء الاصطناعي جزءًا ثابتًا من عملك. بهذا تحصل على سرعة الأداة مع الحفاظ على دقة المعلومات.
0 تعليقات