الشبكات العصبية تكذب - وتفعل ذلك بإقناع. لماذا هذا طبيعي

مقدمة

تخيّل أنك تطرح سؤالاً على شبكة عصبية، فتجيبك بسرعة وبأسلوب جذاب وبثقة تامة، ثقة تجعلك لا تفكر حتى في التشكيك بما قالته. لكن المشكلة تكمن في نقطة واحدة: أن الإجابة في بعض الحالات تكون خاطئة. والأغرب من ذلك أن الشبكة العصبية تبدو "واثقة" بالقدر نفسه، سواء كانت إجابتها صحيحة أم خاطئة.

كيف تعمل الشبكات العصبية ولماذا تحدث الأخطاء

جميعنا نستخدم شبكات عصبية مختلفة، ويخيّل إلينا أن الشبكة العصبية "تعرف كل شيء"، لكنها في الواقع لا "تعرف" شيئاً. فالشبكة العصبية، أو الذكاء الاصطناعي كما بات متعارفاً عليه اليوم، لا تتحقق من الحقائق، ولا "تتذكر"، ولا تشكّ. الذكاء الاصطناعي الذي يفهمه معظم الناس على أنه ما يُسمى بنماذج LLM يقوم ببساطة بالتنبؤ بالكلمة التالية، أو بالأحرى الرمز Token (جزء من الكلمة). وهكذا، خطوة بخطوة، يتشكّل نص الإجابة. من الناحية الرياضية، يمكن وصف هذا السلوك لنموذج LLM بأنه اختيار الاستمرار الأكثر احتمالاً لنص الإجابة. ومن لديه ولو معرفة بسيطة بنظرية الاحتمالات سيفهم الفكرة التالية: كلما "رأى" النموذج نصوصاً مشابهة بشكل أكثر تكراراً، كان من الأسهل عليه إعادة إنتاج بنيتها وسياقها. وهنا يظهر تأثير يتجلى في أن الإجابة النمطية تُقدَّم على أنها الإجابة الصحيحة. لكن الأخطر هو الطريقة التي تخطئ بها الشبكة العصبية. لاحظ أنها لا تقول "لا أعرف"، بل تولّد إجابة تبدو منطقية ومتماسكة وتُسمع كرأي خبير. ويعود ذلك إلى أن هذه النماذج تستخدم آلية انتباه تقلل في جوهرها من "السخافة"، لكنها لا تضمن "الحقيقة".

التجليات العملية

يتضح ذلك جلياً في أمثلة واقعية. قد يطلب طالب من الشبكة العصبية أن تزوده بمقالات علمية حول موضوع معين، فيحصل في النهاية على قائمة مراجع مثالية، حتى وفق المعايير الأكاديمية. ستبدو القائمة مثالية: أسماء المؤلفين، أسماء المجلات، سنوات النشر، وحتى أرقام الصفحات، لكن المشكلة ستكون في أن بعض المقالات الواردة في القائمة غير موجودة فعلياً. الشبكة العصبية لم "تخطئ" - بل أعادت ببساطة إنتاج الشكل الأكثر احتمالاً لقائمة المراجع، مجمّعةً نتيجة معقولة لكنها خيالية جزئياً.

ينطبق المنطق نفسه على البرمجة. يطلب مطوّر كتابة دالة برمجية فيحصل على كود مرتب ومفهوم، بل ينجح حتى في اجتياز الاختبارات. لكن عند تطبيق سيناريو "نادر" في الخدمة من قبل أي مستخدم، يتوقف هذا الكود عن العمل. لم تأخذ الشبكة العصبية هذه الحالة بعين الاعتبار لأنها نادرة الحدوث، أي "غير محتملة". بمعنى آخر، لم يكتب الذكاء الاصطناعي كوداً "موثوقاً"، بل كوداً نمطياً، وهذا لم يكن كافياً.

في المجال الطبي يظهر التأثير نفسه. عند وصف الأعراض، يحصل المستخدم على إجابة هادئة ومنطقية تتضمن أسباباً محتملة وتوصيات، لكن الشبكة العصبية "تخفف" من حدة المخاطر، معتبرةً أن المرض النادر لكن الخطير ذا الأعراض المشابهة يصبح مجرد أحد الخيارات غير المحتملة.

تخيّل عمل الذكاء الاصطناعي كرحلة على طريق. ففي مجالات المعرفة التي تمتلك فيها الشبكة العصبية تدريباً على آلاف الأمثلة من الحياة الواقعية وخبرة واسعة، يكون الأمر أشبه بطريق سريع يقدم إجابات دقيقة. أما حين تقل البيانات الواقعية، فيصبح الطريق ريفياً يعتمد على "التخمين". وعندما تكاد الخبرة تنعدم، يتحول المسار إلى درب ضيق تختار فيه الشبكة العصبية "الاتجاه الأقرب شبهاً".

النقطة الجوهرية هنا أن الشبكة العصبية تختار دائماً الطريق الأكثر سهولة من بين الخيارات المتاحة وتمضي قدماً.

خاصية النظام والاستنتاج

لهذا السبب بالتحديد، وبلغة التقنيين، لا يُعد هذا خللاً في الذكاء الاصطناعي بل خاصية من خصائصه. فالشبكة العصبية لا تعرف أين تكمن الحقيقة، ولا تميّز بين الحقيقة والخطأ، ولا تدرك أنها أخطأت. إنها تؤدي بالضبط ما علّمها إياه المبرمجون والعلماء الذين ابتكروا آلية الانتباه: تتحرك على المسار "الأكثر سلاسة" في فضاء الاحتمالات وتبني إجابة تبدو طبيعية قدر الإمكان. وهذا ما يجعلها أداة قوية ومصدراً لمخاطر جديدة في الوقت ذاته.

في نماذج الذكاء الاصطناعي الحديثة، تُبذل محاولات لتصحيح ذلك عبر ربط قواعد معرفية جديدة باستمرار، وإضافة آليات للتحقق من الحقائق، واستخدام عدة نماذج في آن واحد، لكن لا يمكن القضاء على هذه المشكلة تماماً، لأنها متأصلة في طبيعة هذه الأنظمة ذاتها.

وهنا يبرز الاستنتاج الرئيسي: الشبكة العصبية لا تكذب، ولا تحاول الخداع، بل تبني ببساطة الإجابة الأكثر احتمالاً، والتي ليست دائماً الإجابة الصحيحة. وفي هذا بالتحديد يكمن الفارق الجوهري بين الذكاء الاصطناعي والتفكير البشري.