نماذج اللغة الاصطناعية الأكبر والأكثر استجابة للتعليمات تصبح أقل موثوقية

أصبح الذكاء الاصطناعي ونماذج اللغة الكبيرة (Large Language Models، LLM)، وفي مقدمتها ChatGPT، جزءًا متزايدًا من حياتنا. تُستخدم هذه النماذج على نطاق واسع من التعليم إلى الصحة ومن العلوم إلى الإدارة، وتتطور سريعًا في الحجم والتعقيد. لكن مع نموها وزيادة استجابتها للتعليمات، بدأت التساؤلات حول موثوقيتها.

زيادة القابلية لاتباع التعليماتتعني قدرة نماذج الذكاء الاصطناعي على الاستجابة بصورة أفضل لأوامر أو تعليمات محددة من المستخدم. وتشمل تحسينها بالتغذية الراجعة البشرية أثناء التدريب وإجراء تعديلات لفهم التعليمات بدقة أكبر وتوليد إجابات أنسب لاحتياجات المستخدم. تستطيع هذه النماذج الرد بمرونة ووضوح أكبر على الأوامر والأسئلة المباشرة، لكن هذه العملية قد تؤدي أحيانًا إلى إجابات خاطئة أو مضللة. هل هذا أمر سيئ إذًا؟

قد تقدم النماذج الأكثر استجابة للتعليمات أحيانًا إجابات تبدو «ذات معنى» كما يريد المستخدم، لكنها خاطئة في الواقع . يحدث ذلك بسبب ميل النموذج إلى «تقديم إجابة دائمًا»، ما يصعب ملاحظة الخطأ على المستخدم. وخصوصًا في المجالات الحساسة مثل الطب أو العلوم، قد تؤدي هذه الإجابات المضللة إلى أخطاء جسيمة وقرارات غير صحيحة.

دراسة Lexin Zhou وفريقه المنشورة بتاريخ 25 سبتمبر 2024 في مجلة Nature تضع هذه المخاوف في إطار علمي، وتكشف أن أنظمة الذكاء الاصطناعي قد تشهد انخفاضًا غير متوقع في الموثوقية مع زيادة قوتها .

سنبحث في هذا المقال كيف تؤدي الاستراتيجيات الحالية لتوسيع نماذج اللغة الكبيرة وتدريبها إلى مشكلات الموثوقية. وسنتناول سبب إمكان إنتاج النماذج الأكبر والأكثر اتباعًا للتعليمات نتائج مضللة للمستخدمين، والمخاطر التي يحملها ذلك خصوصًا في المجالات الحساسة.

لماذا تصبح نماذج اللغة الكبيرة أقل موثوقية؟

إن تدريب النماذج على مجموعات بيانات أكبر، وزيادة معلماتها، وتشكيلها بتقنيات مثل التغذية الراجعة البشرية يجعل هذه الأنظمة أقوى. لكن نتائج Zhou وزملائه تشير، خلافًا للتوقعات، إلى أن هذه التحسينات لا تضمن الموثوقية. ويمكن تلخيص أبرز النتائج تحت العناوين التالية:

1. التوافق مع الصعوبة والميل إلى الخطأ: المهام السهلة للبشر سهلة عادة لنماذج اللغة الكبيرة أيضًا. لكن مع نمو النموذج قد تظهر أخطاء غير متوقعة حتى عند مستويات صعوبة منخفضة. كثيرًا ما تخطئ النماذج في مهام يستطيع البشر حلها بسهولة، كالعمليات الحسابية البسيطة أو ألعاب الكلمات، ما يضعف ثقة المستخدم بموثوقيتها. وخصوصًا في تحليلات نماذج مثل GPT وLLaMA، لوحظ ارتفاع معدلات الخطأ حتى في الأمثلة منخفضة الصعوبة .

2. تجنب المهمة والإجابات المضللة: كانت نماذج اللغة المبكرة تميل إلى ترك الأسئلة بلا جواب أو اتخاذ موقف آمن مثل «لا أستطيع الإجابة عن ذلك». لكن النماذج الأكثر اتباعًا للتعليمات أصبحت بدل الامتناع أكثر ميلًا إلى تقديم إجابات تبدو منطقية حتى إن كانت خاطئة . وقد تؤدي هذه الإجابات المضللة إلى عواقب خطيرة، خصوصًا في المواضيع المعقدة والحساسة. أظهر البحث أن نماذج متقدمة مثل GPT-4 وLLaMA-2 تقدم إجابات خاطئة بدل الامتناع عندما تصعب عليها الإجابة.

3. ثبات الإجابات والثقة المضللة: رغم تحسن ثبات إجابات النماذج تجاه الصياغات المختلفة للأسئلة، يشير Zhou وفريقه إلى أن هذه التحسينات تولد شعورًا مضللًا بالثقة. فعند طرح السؤال نفسه بصيغ مختلفة قد يقدم النموذج إجابة صحيحة أحيانًا وخاطئة أحيانًا أخرى . وقد يسبب ذلك وهمًا خطيرًا، خصوصًا لمن يعتقدون بموثوقية النموذج. مثلًا قد يجيب صحيحًا عن عملية حسابية بسيطة مرة ويخطئ فيها مرة أخرى.

تراجع موثوقية النماذج: الأسباب والنتائج

يزيد تدريب النماذج اللغوية الكبيرة ببيانات ومعلمات أكثر عادة قدرتها على حل المشكلات المعقدة. لكن زيادة احتمال الإجابات الخاطئة حتى عن مسائل بسيطة تسبب مشكلات كبيرة للمستخدمين. يرى Zhou وفريقه أن توسيع النماذج يجعل مزيدًا من الأخطاء غير مرئي بدل القضاء عليها تمامًا . وقد يؤدي ذلك إلى حصول المستخدمين على نتائج خاطئة بسبب أخطاء لا يلاحظونها، ثم اتخاذ قرارات غير صحيحة استنادًا إليها.

الرقابة البشرية: هل تكفي؟

تُعد مراقبة أنظمة الذكاء الاصطناعي استراتيجية مهمة لتحسين موثوقية هذه النماذج. لكن الدراسة تُظهر أن الرقابة البشرية لا تكفي دائمًا، وأن البشر، خصوصًا في المهام المعقدة، لا يلاحظون أخطاء النموذج . يشكل عدم اكتشاف الأخطاء عند مستويات الصعوبة العالية خطرًا كبيرًا على مستخدمي المجالات الحساسة. وتزداد أهمية ذلك في مجالات عالية المخاطر كالصحة والعلوم. فقد يسبب تشخيص خاطئ أو بيانات علمية خاطئة عواقب لا رجعة فيها.

الخلاصة وآفاق المستقبل

موثوقية نماذج اللغة الكبيرة مهمة جدًا في عالم يتزايد فيه استخدام الذكاء الاصطناعي. تؤكد دراسة Zhou وفريقه أن الاستراتيجيات الحالية غير كافية لزيادة الموثوقية وأن هناك حاجة إلى تغيير أكثر جوهرية في التصميم . يتطلب استخدام هذه النماذج، خصوصًا في المجالات عالية المخاطر، مزيدًا من الحذر من المستخدمين والمطورين معًا.

ستكون هذه النتائج دليلًا بالغ الأهمية للجهود المستقبلية لتحسين موثوقية أنظمة الذكاء الاصطناعي. ومن الواضح ضرورة إجراء تغييرات جذرية في استراتيجيات التوسيع والتدريب معًا حتى تبلغ نماذج اللغة الكبيرة معيارًا محددًا للموثوقية.