Maşınlara qarşı ilk raund həkimlərindir – IBM Watson-un müalicə tövsiyələri düzgün və təhlükəsiz deyil

IBM-dən və şirkətin Watson superkompüteri ilə işləyən tibb mütəxəssislərindən «Yaxşı ki, xəstələrimizin sağlamlığı hələ biz həkimlərə əmanətdir» dedirdən açıqlama gəldi. 25 iyul 2018-ci ildə dərc olunan xəbərə görə IBM Watson «bir çox dəfə təhlükəsiz olmayan və yanlış müalicə tövsiyələri vermişdir».

Sensasion olmadığı üçün mediada çox görünməsə də, süni intellekt və ya superkompüterlərə dair hər xəbər müsbət deyil. Əslində elm və texnologiyanın irəliləyişi də məhz belə enişli-yoxuşludur, lakin nə texnologiya ilə məşğul olanlar, nə də alimlər təslim olur və nəticədə həmişə irəli inkişaf əldə edilir.

Xəbərdə iyun və iyul 2017-ci ildə IBM Watson-un keçmiş səhiyyə rəhbəri əvəzi Andrew Norden tərəfindən dərc olunan iki təqdimat da daxil olmaqla bəzi sənədlər şərh edildi. Bu sənədlər IBM Watson səhiyyə rəhbərliyi tərəfindən paylaşılmışdı.

2011-ci ildə bilik yarışmasında rəqiblərindən böyük fərqlə birinci olan və sonradan onkologiyada müalicə qərarları vermək üçün inkişaf etdirilən Watson kompüterinə qarşı artıq çox güclü tənqidlər var. IBM-in Watson kompüterinin onkologiyada sınanması əslində hamımızı həyəcanlandırmışdı, hətta bu barədə saytımızda IBM Watson-un inkişaf etdirilmə prosesini izah edən yazı paylaşmışdıq.

Aradan keçən illərdə Watson haqqında gözlədiyimiz müsbət xəbərlər gəlmədi; əksinə fevral 2017-ci ildə MD Anderson Xərçəng Mərkəzi 62 milyon dollara başa gələn IBM Watson Layihəsinin uğursuzluğa görə erkən bitirildiyini açıqladı. Watson-da tez-tez rast gəlinən yanlış qərarların səbəbləri hazırda araşdırılmağa və sistem inkişaf etdirilməyə davam edir. O

rtaya çıxan sənədlərdən nümunə vermək üçün 65 yaşında ciddi qanama problemi olan ağciyər xərçəngi xəstəsinə baxa bilərik. Watson xəstəyə kimyaterapiya və «Bevasizumab» adlı antiangiogen dərman tətbiqini tövsiyə etdi. Lakin bu dərman mühüm qanama problemləri yarada bildiyindən xüsusilə qanaması olan xəstələrə verilməməlidir. Memorial Sloan Kettering Xərçəng Mərkəzinin (MSKKM) sözçüsünə görə bu tövsiyə real xəstəyə tətbiq edilmədi və yalnız sistem testi üçün istifadə olundu.

Səhv edən yalnız Watson-durmu?

IBM bu səhvlərdə 2012-ci ildə Watson-u həkim kimi düşünmək üçün quran MSKKM həkimlərini və IBM mühəndislərini günahlandırır. Sənədlər proqramı real xəstə məlumatı ilə təmin etmək əvəzinə həkimlərin fərziyyəvi xəstə məlumatları və ya «sintetik/süni» hal məlumatları verdiklərini bildirir.

IBM-in təqdim etdiyi bu nəticələr bəzi həkimlər tərəfindən narahatlıqla qarşılanır. MSKKM-dən bir həkimin ifadəsi ilə «Bu məhsul həqiqətən baş bəlasıdır. Biz bunu reklam üçün aldıq və müalicə seçimlərimizin çoxunda istifadə edə biləcəyimizi düşünmürəm.»

Həmin həkimin şikayətləri sənədlərə daxil edilən çoxlu şəxsdən biri olduğu bildirildi.

Lakin Watson-un həkimlərin müalicə barədə razılaşmadığı hallarda əlavə rəy kimi xidmət etdiyi başqa xəstəxanalar da var.

IBM sözçüsü STAT saytında dərc olunan bu xəbərə cavab olaraq onkologiya üçün Watson-un 13 xərçəngin müalicəsində onkoloqlara kömək üçün dünyada 230 xəstəxana tərəfindən istifadə edilməyə öyrədildiyini və indiyədək 84 mindən çox xəstəni dəstəklədiyini bildirdi. Watson sözçüsü proqramı daha yaxşı funksionallıq üçün hələ inkişaf etdirdiklərini də əlavə etdi.

Memorial Sloan Kettering Xərçəng Mərkəzinin sözçüsü Caitlin Hool isə bu tənqidlərin Watson kimi inkişaf edən proqramlar üçün «təbii proses» olduğunu dedi. Hool həmçinin; «Watson xərçəng müalicəsi üçün seçimlər təqdim etsə də, yekun qərar müalicə edən həkimin iştirakını və klinik şərhini tələb edir» deyir və əlavə edir: «Heç bir texnologiya həkimi əvəz edə bilməz.»

Onkologiyada süni intellekt və Watson barədə şərhimiz

Bu gün süni intellekt tətbiqləri klinik qərarvermədə (müalicə seçimində) olmasa belə diaqnoz sahəsində böyük yol keçib; bu baxımdan yaxın gələcəkdə radioloqların, dermatoloqların və patoloqların işlərinin böyük hissəsini alacaqlar (məsələn, dəri xərçəngi melanoma diaqnozunda).

Lakin klinik qərar vermək bilik yarışmasında ensiklopedik suallara cavab verməkdən daha çətin və mürəkkəb mövzudur. Çünki həkimlər xəstələri üçün qərar verərkən xəstənin psixoloji xüsusiyyətləri və müalicələrin xərcləri də daxil olmaqla çoxlu «dinamik» amili nəzərə alırlar...

Bəlkə də Watson-u əvvəlcədən tibbin ən çətin sahəsi olan onkologiya üçün öyrətməyə başlamaq səhv idi; bəlkə həkimlər Watson-u necə öyrədəcəklərini bilmirdilər, könüllü deyildilər və ya mühəndislərlə tam əməkdaşlıq edə bilmədilər... Lakin düşünürük ki, maşınların gerçəkliyi anlaması çox uzun çəkməyəcək və gələcək raundlarda süni intellekt həkimləri müalicə qərarları verməkdə çətinliyə salacaq, hətta üstələyəcək.