الجولة الأولى للأطباء ضد الآلات – توصيات IBM Watson العلاجية غير صحيحة وغير آمنة

أتى من IBM وخبرائها الطبيين العاملين مع الحاسوب الفائق Watson تصريح جعلنا نقول: «لحسن الحظ ما زالت صحة مرضانا أمانة عندنا نحن الأطباء» . ووفق خبر 25 يوليو 2018، قدم IBM Watson «مرات عديدة توصيات علاجية خاطئة وغير آمنة».

رغم قلة صداها لعدم إثارتها، ليست كل أخبار الذكاء الاصطناعي أو الحواسيب الفائقة إيجابية. فالعلم والتكنولوجيا يتقدمان بهذا الصعود والهبوط، لكن المهندسين والعلماء لا يستسلمون، وينتهي الأمر بتقدم دائم للأمام.

فسر الخبر وثائق منها عرضان في يونيو ويوليو 2017 نشرهما Andrew Norden، نائب رئيس الصحة السابق لـIBM Watson، وشاركتها الإدارة الصحية للشركة.

بعد فوز Watson بفارق كبير بمسابقة معرفة عام2011 وتطويره لقرارات الأورام، أصبح يواجه نقدًا قويًا. أثارت تجربته بالأورام حماسنا جميعًا، وشاركنا مقالًا بموقعنا عن عملية تطوير IBM Watsonيشرحها.

لكن لم تأت الأخبار الإيجابية المنتظرة؛ بل في فبراير2017 أعلن MD Anderson انتهاء مشروعه مبكرًا لفشله بعد كلفة62 مليون دولار. وما زال بحث أسباب قراراته الخاطئة المتكررة وتطويره جاريًا. O

ومن أمثلة الوثائق مريض رئة بعمر65 مع نزف شديد؛ أوصى Watson بالكيميائي وBevacizumab، وهو دواء مضاد لتكون الأوعية . لكنه قد يسبب نزفًا مهمًا ولا يُعطى خصوصًا للنازفين. ووفق متحدث Memorial Sloan Kettering (MSKKM)، لم تُطبق التوصية على مريض حقيقي بل كانت لاختبار النظام فقط.

هل Watson وحده المخطئ؟

تلوم IBM مهندسيها وأطباء MSKKM الذين صمموا Watson عام2012 ليفكر كالطبيب. وتقول الوثائق إنهم قدموا حالات افتراضية أو«صناعية» بدل تغذيته ببيانات حقيقية.

قوبلت هذه النتائج التي قدمتها IBM بانزعاج لدى بعض الأطباء. وبكلمات طبيب من MSKKM، فإن «هذا المنتج مشكلة حقيقية. اشتريناه للدعاية، ولا أظن أننا نستطيع استخدامه لمعظم خيارات علاجنا».

وأُفيد بأن هذا الطبيب واحد من كثيرين ضُمنت شكاواهم في الوثائق.

لكن توجد مستشفيات يستخدم فيها Watson رأيًا إضافيًا عند اختلاف الأطباء بشأن العلاج.

رد متحدث IBM على خبر موقع STAT بأن Watson للأورام دُرب لمساعدة الأطباء بعلاج13 سرطانًا، لاستخدام230 مستشفى عالميًا، ودعم حتى الآن أكثر من84 ألف مريض. وأضاف أنهم ما زالوا يطورونه لوظائف أفضل.

وقالت Caitlin Hool متحدثة Memorial Sloan Kettering إن النقد «مسار طبيعي» للبرامج المتطورة، وأضافت: «يقدم Watson خيارات للسرطان، لكن القرار النهائي يتطلب مشاركة الطبيب المعالج وحكمه السريري» وتقول وتضيف: «لا تقنية تحل محل الطبيب».

تعليقنا عن الذكاء الاصطناعي وWatson بالأورام

تقدمت تطبيقات الذكاء الاصطناعي، وإن لم يكن في اختيار العلاج، في التشخيص في هذا المجال قطعت شوطًا كبيرًا؛ وبهذا المعنى ستتولى في المستقبل القريب معظم أعمال اختصاصيي الأشعة والجلدية وعلم الأمراض (في تشخيص سرطان الجلد الميلانوما).

لكن القرار السريري أصعب وأعقد بكثير من إجابة أسئلة موسوعية بمسابقة. فالأطباء يحتسبون عوامل «ديناميكية» كثيرة، منها نفسية المريض وكلفة العلاج...

ربما كان بدء تدريب Watson بالأورام، أصعب مجالات الطب، خطأ؛ أو لم يعرف الأطباء تدريبه أو لم يتطوعوا أو لم يتعاونوا تمامًا مع المهندسين... لكننا نظن أن فهم الآلات للواقع لن يطول، وأنها ستتحدى الأطباء بل وتهزمهم في جولات اختيار العلاج المقبلة.