دور نخست در برابر ماشین‌ها از آن پزشکان است – پیشنهادهای درمانی IBM Watson درست و ایمن نیستند

از IBM و متخصصان پزشکی همکار با ابررایانه Watson این شرکت، بیانیه‌ای رسید که باعث می‌شود بگوییم «خوشبختانه سلامت بیمارانمان هنوز به ما پزشکان سپرده شده است» . بر اساس خبر منتشرشده در 25 ژوئیه 2018، IBM Watson «بارها پیشنهادهای درمانی ناایمن و نادرست داده است».

اگرچه چون جنجالی نیست بازتاب رسانه‌ای زیادی ندارد، درباره هوش مصنوعی یا ابررایانه‌ها همه خبرها مثبت نیستند. در واقع پیشرفت علم و فناوری دقیقاً چنین فرازونشیبی دارد، اما نه فعالان فناوری و نه دانشمندان تسلیم می‌شوند و سرانجام همواره پیشرفتی رو به جلو حاصل می‌شود.

در خبر، اسنادی از جمله دو ارائه منتشرشده در ژوئن و ژوئیه 2017 توسط اندرو نوردن، سرپرست پیشین بخش سلامت IBM Watson، تفسیر شد. این اسناد را مدیریت سلامت IBM Watson به اشتراک گذاشته بود.

اکنون انتقادهای بسیار جدی از رایانه Watson وجود دارد که در سال 2011 با فاصله زیاد در مسابقه اطلاعات عمومی اول شد و سپس برای تصمیم‌گیری درمانی در سرطان‌شناسی توسعه یافت. آزمایش رایانه Watson شرکت IBM در سرطان‌شناسی در واقع همه ما را هیجان‌زده کرده بود؛ حتی در وب‌سایت خود درباره روند توسعه IBM Watsonنوشته‌ای به اشتراک گذاشته بودیم.

اما در سال‌های بعد خبرهای مثبت مورد انتظار درباره Watson نیامد؛ برعکس در فوریه 2017 مرکز سرطان MD Anderson اعلام کرد پروژه IBM Watson با هزینه 62 میلیون دلار به‌دلیل شکست زودتر پایان یافته است. پژوهش درباره دلایل تصمیم‌های غلط مکرر Watson و توسعه سامانه همچنان ادامه دارد. از

اسناد منتشرشده می‌توان نمونه بیمار سرطان ریه 65 ساله با مشکل خونریزی شدید را آورد. Watson برای او شیمی‌درمانی و دارویی به نام «بواسیزوماب» از نوع ضدرگ‌زایی پیشنهاد کرد. اما چون این دارو می‌تواند مشکلات مهم خونریزی ایجاد کند، به‌ویژه نباید به بیماران دارای خونریزی داده شود. به گفته سخنگوی مرکز سرطان Memorial Sloan Kettering (MSKKM)، این پیشنهاد روی بیمار واقعی اجرا نشد و فقط برای آزمون سامانه استفاده شد.

آیا فقط Watson اشتباه کرده است؟

IBM این خطاها را به پزشکان MSKKM و مهندسان IBM نسبت می‌دهد که در سال 2012 Watson را برای فکر کردن مانند پزشک طراحی کردند. اسناد می‌گویند به‌جای تغذیه نرم‌افزار با داده واقعی بیماران، پزشکان داده بیماران فرضی یا موارد «مصنوعی» ارائه کرده‌اند.

این نتایج ارائه‌شده از سوی IBM برخی پزشکان را ناراحت کرده است. به گفته یکی از پزشکان MSKKM، «این محصول واقعاً دردسر است. ما آن را برای تبلیغات خریدیم و فکر نمی‌کنم بتوانیم برای بیشتر گزینه‌های درمانی‌مان از آن استفاده کنیم.»

گزارش شد این پزشک یکی از افراد متعدد است که شکایت‌هایشان در اسناد آمده است.

بااین‌حال بیمارستان‌های دیگری نیز هستند که Watson در موارد اختلاف‌نظر پزشکان درباره درمان، به‌عنوان نظر اضافی خدمت می‌کند.

سخنگوی IBM در پاسخ به این خبر وب‌سایت STAT گفت Watson سرطان‌شناسی برای کمک به متخصصان در درمان 13 سرطان آموزش دیده تا در 230 بیمارستان جهان استفاده شود و تا کنون از بیش از 84 هزار بیمار پشتیبانی کرده است. سخنگوی Watson افزود همچنان نرم‌افزار را برای عملکرد بهتر توسعه می‌دهند.

کیتلین هول، سخنگوی مرکز سرطان Memorial Sloan Kettering، این انتقادها را برای نرم‌افزارهای در حال توسعه مانند Watson «روند طبیعی» دانست. هول همچنین گفت؛ «وقتی Watson گزینه‌هایی برای درمان سرطان ارائه می‌کند، تصمیم نهایی به مشارکت و تفسیر بالینی پزشک درمان‌کننده نیاز دارد» و افزود: «هیچ فناوری نمی‌تواند جایگزین پزشک شود.»

دیدگاه ما درباره هوش مصنوعی و Watson در سرطان‌شناسی

امروزه کاربردهای هوش مصنوعی اگر نه در تصمیم‌گیری بالینی یا انتخاب درمان، دست‌کم در تشخیص راه زیادی پیموده‌اند؛ از این نظر در آینده نزدیک بخش بزرگی از کار متخصصان رادیولوژی، پوست و آسیب‌شناسی را خواهند گرفت (برای نمونه در تشخیص ملانوم، سرطان پوست).

بااین‌حال تصمیم‌گیری بالینی از پاسخ دادن به پرسش‌های دانشنامه‌ای یک مسابقه بسیار دشوارتر و پیچیده‌تر است، زیرا پزشکان هنگام تصمیم‌گیری برای بیمار، عوامل «پویا»ی بسیاری، از جمله ویژگی‌های روانی بیمار و هزینه درمان، را در نظر می‌گیرند...

شاید از ابتدا آموزش Watson برای سرطان‌شناسی، دشوارترین حوزه پزشکی، اشتباه بود؛ شاید پزشکان نمی‌دانستند چگونه آن را آموزش دهند، داوطلب نبودند یا نتوانستند با مهندسان کاملاً همکاری کنند... اما فکر می‌کنیم فهم واقعیت برای ماشین‌ها خیلی طول نخواهد کشید و در دورهای بعد هوش مصنوعی پزشکان را در تصمیم‌گیری درمانی به چالش خواهد کشید و حتی شکست خواهد داد.