لماذا يفرط بعض الأطباء في الثقة بالذكاء الاصطناعي دون أن يدركوا ذلك حتى؟

الذكاء الاصطناعي والديناميكيات المتغيرة في الطب

تمتلك تقنيات الذكاء الاصطناعي إمكانية إحداث ثورة في مجالات الطب المختلفة. لكن هذه الابتكارات تنطوي أيضًا على خطر إفراط الأطباء والمرضى وذويهم في الثقة بهذه التقنيات.

قد يؤثر خصوصًا سلوك يُسمى «الانحياز للأتمتة» (automation bias)، يدفع الأطباء إلى قبول قرارات أنظمة الذكاء الاصطناعي دون مساءلة، في عمليات التعلم وسلامة المرضى معًا. سيقدم هذا المقال نظرة إلى فوائد استخدام الذكاء الاصطناعي في اتخاذ القرارات الطبية ومخاطره، وكيفية دمج هذه التقنيات بفعالية أكبر.

فوائد اتخاذ القرارات بالاعتماد على الذكاء الاصطناعي ومخاطره

تُظهر تجربة الدكتور ستيفن بلموستاكوف بصورة لافتة كيف يمكن للذكاء الاصطناعي أن يصبح «وسادة أمان» في الطب. ويذكر بلموستاكوف، الذي كان يعمل بأنظمة الأشعة المدعومة بالذكاء الاصطناعي في مستشفى بنيويورك، أنه شعر في عمله الجديد عند غياب هذه التقنية بأنه «غير آمن». وفي حين تقدم أنظمة الذكاء الاصطناعي للأطباء عينًا ثانية من نوع ما، فإنها تحمل أيضًا خطر الإفراط في الثقة بها.

الانحياز للأتمتة: المخاطر المرصودة

قد يدفع الانحياز للأتمتة الأطباء إلى قبول اقتراحات الذكاء الاصطناعي دون مساءلة. بحث أجراه الدكتور بول يييدرس كيفية استجابة الأطباء لقرارات الذكاء الاصطناعي. وقد قيّم 220 من اختصاصيي الأشعة والاختصاصيين من خارج الأشعة المشاركين في البحث فائدة النتائج التي يقدمها الذكاء الاصطناعي بطرق مختلفة. وعندما قُدمت نتائج خاطئة، لم يجد اختصاصيو الأشعة الذكاء الاصطناعي مفيدًا، بينما مال الأطباء غير الاختصاصيين إلى الثقة بهذه الأنظمة أكثر. وهذا يُظهر أن الثقة بالذكاء الاصطناعي قد تختلف باختلاف مستوى الخبرة .

دور الذكاء الاصطناعي في التعليم الطبي والممارسة السريرية

قد يؤدي تزايد أنظمة الذكاء الاصطناعي إلى تحول في التعليم الطبي أيضًا. ففي عمليات التدريب السريري، قد يؤثر ما يقدمه الذكاء الاصطناعي من «رأي ثانٍ فوري» في ديناميكيات التعلم. ويلفت الدكتور بلموستاكوف إلى أن تحديد الذكاء الاصطناعي للنتائج الشعاعية مسبقًا يقلل إنتاجية التعلم . ويقول: «حين تخبرك أداة على الفور بنتيجة إيجابية، فإن ذلك يغير الطريقة التي تنظر بها،».

التأثيرات المحتملة للقرارات الخاطئة

قد يعرض اتخاذ الذكاء الاصطناعي قرارات خاطئة سلامة المرضى لخطر جدي. ويمكن لهذه الأنظمة زيادة الكفاءة حين تقدم اقتراحات صحيحة. لكن عندما يكون الأطباء متعبين أو تحت الضغط، قد يؤدي خطأ هذه الاقتراحات إلى أخطاء لا رجعة فيها. وفي أحد السيناريوهات المذكورة في دراسة بول يي، قد يميل اختصاصي الأشعة إلى «المتابعة بمجرد قول نعم»، مما قد يسبب أخطاء طبية.

إدارة التفاعل مع الذكاء الاصطناعي: حلول مقترحة

تصميم الذكاء الاصطناعي وفق المستخدم

تُعد كيفية تواصل أنظمة الذكاء الاصطناعي مع الأطباء مسألة حاسمة جدًا. فبينما تحدد بعض الأنظمة النتائج بمربعات بسيطة، يقدم بعضها شروحًا أكثر تفصيلًا بمقارنة الحالات المتشابهة. وقد تؤثر هاتان المقاربتان المختلفتان بدرجة كبيرة في ثقة الأطباء بالذكاء الاصطناعي. وفي حين يتيح الشرح الأبسط اتخاذ قرار سريع، فقد يؤدي ذلك إلى تقييم غير كافٍ.

التدريب ومنح الشهادات

يمكن تطوير برامج تدريب ومنح شهادات لاستخدام أنظمة الذكاء الاصطناعي بفعالية. ويرى الدكتور بول يي أن اختصاصيي الأشعة الذين سيستخدمون الأنظمة القائمة عليه ينبغي أن يبلغوا مستوى معينًا من الكفاءة. وقد يزيد ذلك سلامة المرضى، ويجعل ثقة الأطباء بالأنظمة أكثر وعيًا.

بإيجاز

لماذا نفرط في الثقة بالذكاء الاصطناعي؟

1. الانحياز للأتمتة
   تُقدَّم أدوات الذكاء الاصطناعي عادةً بادعاءات ارتفاع معدلات دقتها. وقد يدفع ذلك الأطباء إلى قبول القرارات الآلية دون مساءلة. وقد يميل الدماغ البشري إلى الثقة المفرطة بالتقنية.

2. عامل الوقت والضغط
   قد يرى الأطباء الذين يعانون عبء عمل كثيفًا وضغط اتخاذ القرارات في البيئة السريرية أن أدوات الذكاء الاصطناعي توفر الوقت ورأيًا ثانيًا سريعًا. وتنطوي هذه السهولة على خطر نسيان مساءلة النتائج الخاطئة للنظام.

3. الحياد المتصور
   قد يخلق تصور أن خوارزميات الذكاء الاصطناعي خالية من الأخطاء البشرية افتراضًا خاطئًا بأن هذه الأنظمة محايدة وموثوقة. لكن الخوارزميات قد تحمل أيضًا انحيازات البيانات التي تدربت عليها.

4. نقص التدريب والوعي
   قد يواجه الأطباء الذين لم يتلقوا تدريبًا كافيًا على الاستخدام الصحيح لأدوات الذكاء الاصطناعي والتحليل النقدي صعوبة في فهم حدود هذه الأنظمة. وقد يؤدي ذلك إلى الثقة المفرطة دون وعي.

الفخاخ التي تنتظر الأطباء عند استخدام الذكاء الاصطناعي

1. النتائج الإيجابية والسلبية الكاذبة
   قد تعطي أنظمة الذكاء الاصطناعي نتائج إيجابية أو سلبية كاذبة. وقد تؤدي الإيجابيات الكاذبة إلى تدخلات غير ضرورية، والسلبيات الكاذبة إلى إغفال مشكلات حاسمة.

2. غموض المسؤولية
   عند حدوث خطأ، قد يؤدي الإفراط في الثقة بقرارات أنظمة الذكاء الاصطناعي إلى تعذر توزيع مسؤولية الخطأ بين الطبيب والنظام. وقد ينشئ ذلك مشكلات أخلاقية وقانونية.

3. الاعتماد المفرط على التقنية
   قد يؤدي اعتماد الطبيب الكامل على الذكاء الاصطناعي في القرار السريري بدلًا من معرفته وخبرته إلى ضعف الحكم البشري مع الزمن. وقد يكون ذلك خطرًا خصوصًا عندما يكون هامش خطأ الأنظمة مرتفعًا.

4. الانحيازات الخوارزمية
   قد تعكس أدوات الذكاء الاصطناعي انحيازات مجموعات البيانات التي تدربت عليها. وقد ينتج عن ذلك نتائج غير متكافئة لفئات معينة من المرضى أو الحالات، ويعرض سلامة المرضى للخطر.

حلول مقترحة لمنع الثقة المفرطة عند استخدام الذكاء الاصطناعي

1. برامج تدريب شاملة
   ينبغي إنشاء برامج لتدريب الأطباء على فهم كيفية عمل تقنيات الذكاء الاصطناعي وحدودها وانحيازاتها المحتملة. وينبغي أن تُعلّم هذه البرامج كيفية عمل الخوارزميات وتقييمها بصورة صحيحة واكتشاف القرارات الخاطئة.

2. الشفافية وقابلية التفسير
   ينبغي أن تتمكن أدوات الذكاء الاصطناعي من شرح المعايير المستخدمة في اتخاذ القرار. وينبغي جعل الأنظمة أكثر شفافية وقابلية للتفسير ليتمكن الأطباء من فهم سبب وصول الخوارزمية إلى نتيجة معينة.

3. تعاون متوازن بين الإنسان والتقنية
   ينبغي استخدام الذكاء الاصطناعي أداة دعم لاتخاذ القرار السريري، وأن يُترك القرار النهائي دائمًا للحكم المهني للطبيب. وينبغي أن تؤدي أدواته دورًا مكملًا لقدرات الأطباء بدلًا من أن تحل محلهم.

4. المعايير التنظيمية وإجراءات الموافقة
   ينبغي تحديد ضوابط ومعايير صارمة لاستخدام أدوات الذكاء الاصطناعي في المجال الطبي. وينبغي أن تشمل هذه المعايير إخضاع الخوارزميات لاختبارات صارمة وتحديثها بانتظام لضمان موثوقيتها وحيادها ودقتها.

النتيجة: توازن التقنية والعامل البشري

بينما يقدم الذكاء الاصطناعي فرصًا كبيرة في الطب، ينبغي عدم إغفال المخاطر التي قد يجلبها إفراط الأطباء في الثقة بهذه الأنظمة. ولتقليل الانحياز للأتمتة، ثمة حاجة إلى أنظمة ذكاء اصطناعي أفضل تصميمًا وبرامج تدريب شاملة وأطر تنظيمية موضوعة بعناية. وفي النهاية، سيكون لهذه التقنيات تأثير إيجابي في الممارسة الطبية حين تُستخدم بتوازن مع العنصر البشري.