الشبكات العصبية تكذب - وتفعل ذلك بإقناع. لماذا هذا طبيعي

مقدمة

تخيّل أنك تطرح سؤالاً على شبكة عصبية، فتجيبك بسرعة وبأسلوب جذاب وبثقة تامة، ثقة تجعلك لا تفكر حتى في التشكيك بما قالته. لكن المشكلة تكمن في نقطة واحدة: أن الإجابة في بعض الحالات تكون خاطئة. والأغرب من ذلك أن الشبكة العصبية تبدو "واثقة" بالقدر نفسه، سواء كانت إجابتها صحيحة أم خاطئة.

كيف تعمل الشبكات العصبية ولماذا تحدث الأخطاء

جميعنا نستخدم شبكات عصبية مختلفة، ويخيّل إلينا أن الشبكة العصبية "تعرف كل شيء"، لكنها في الواقع لا "تعرف" شيئاً. فالشبكة العصبية، أو الذكاء الاصطناعي كما بات متعارفاً عليه اليوم، لا تتحقق من الحقائق، ولا "تتذكر"، ولا تشكّ. الذكاء الاصطناعي الذي يفهمه معظم الناس على أنه ما يُسمى بنماذج LLM يقوم ببساطة بالتنبؤ بالكلمة التالية، أو بالأحرى الرمز Token (جزء من الكلمة). وهكذا، خطوة بخطوة، يتشكّل نص الإجابة. من الناحية الرياضية، يمكن وصف هذا السلوك لنموذج LLM بأنه اختيار الاستمرار الأكثر احتمالاً لنص الإجابة. ومن لديه ولو معرفة بسيطة بنظرية الاحتمالات سيفهم الفكرة التالية: كلما "رأى" النموذج نصوصاً مشابهة بشكل أكثر تكراراً، كان من الأسهل عليه إعادة إنتاج بنيتها وسياقها. وهنا يظهر تأثير يتجلى في أن الإجابة النمطية تُقدَّم على أنها الإجابة الصحيحة. لكن الأخطر هو الطريقة التي تخطئ بها الشبكة العصبية. لاحظ أنها لا تقول "لا أعرف"، بل تولّد إجابة تبدو منطقية ومتماسكة وتُسمع كرأي خبير. ويعود ذلك إلى أن هذه النماذج تستخدم آلية انتباه تقلل في جوهرها من "السخافة"، لكنها لا تضمن "الحقيقة".

التجليات العملية

يتضح ذلك جلياً في أمثلة واقعية. قد يطلب طالب من الشبكة العصبية أن تزوده بمقالات علمية حول موضوع معين، فيحصل في النهاية على قائمة مراجع مثالية، حتى وفق المعايير الأكاديمية. ستبدو القائمة مثالية: أسماء المؤلفين، أسماء المجلات، سنوات النشر، وحتى أرقام الصفحات، لكن المشكلة ستكون في أن بعض المقالات الواردة في القائمة غير موجودة فعلياً. الشبكة العصبية لم "تخطئ" - بل أعادت ببساطة إنتاج الشكل الأكثر احتمالاً لقائمة المراجع، مجمّعةً نتيجة معقولة لكنها خيالية جزئياً.