მანქანებთან პირველი რაუნდი ექიმებს ეკუთვნით — IBM Watson-ის სამკურნალო რჩევები სწორი და უსაფრთხო არ არის

IBM-ისა და კომპანიის Watson სუპერკომპიუტერთან მომუშავე სამედიცინო სპეციალისტებისგან მოვიდა განცხადება, რომელმაც გვათქმევინა: „კარგია, რომ ჩვენი პაციენტების ჯანმრთელობა ჯერ კიდევ ჩვენ, ექიმებს, გვაბარია“. 25 ივლისს, 2018 წელს, გამოქვეყნებული ცნობის მიხედვით, IBM Watson-მა „არაერთხელ გასცა არაუსაფრთხო და არასწორი სამკურნალო რეკომენდაციები“.

მიუხედავად იმისა, რომ სენსაციურობის ნაკლებობის გამო მედიაში ნაკლებად შუქდება, ხელოვნურ ინტელექტზე ან სუპერკომპიუტერებზე ყველა სიახლე დადებითი არ არის. სინამდვილეში მეცნიერებისა და ტექნოლოგიის განვითარებაც სწორედ ასეთი აღმავლობითა და დაღმავლობით მიმდინარეობს, თუმცა არც ტექნოლოგიის სპეციალისტები და არც მეცნიერები ნებდებიან და საბოლოოდ წინსვლა ყოველთვის მიიღწევა.

ცნობაში განხილული იყო გარკვეული დოკუმენტები, მათ შორის ივნისსა და ივლისში, 2017 წელს, IBM Watson-ის ჯანდაცვის ყოფილი ხელმძღვანელის მოვალეობის შემსრულებელ Andrew Norden-ის მიერ გამოქვეყნებული ორი პრეზენტაცია. ეს დოკუმენტები IBM Watson-ის ჯანდაცვის მენეჯმენტმა გააზიარა.

2011 წელს ინტელექტუალურ ვიქტორინაში კონკურენტებს დიდი სხვაობით დამარცხებული და შემდეგ ონკოლოგიური მკურნალობის გადაწყვეტილებებისთვის განვითარებული Watson კომპიუტერის მიმართ ახლა ძალზე ძლიერი კრიტიკა არსებობს. IBM Watson-ის ონკოლოგიაში გამოცდამ სინამდვილეში ყველა აგვაღელვა; ამ თემაზე ჩვენს ვებსაიტზეც IBM Watson-ის განვითარების პროცესისამსახველი სტატია გავაზიარეთ.

გასულ წლებში კი Watson-ზე მოსალოდნელი დადებითი ამბები არ მოსულა; პირიქით, თებერვალში, 2017 წელს, MD Anderson-ის კიბოს ცენტრმა განაცხადა, რომ 62 მილიონი დოლარის ღირებულების IBM Watson პროექტი წარუმატებლობის გამო ნაადრევად შეწყდა. Watson-ის ხშირი მცდარი გადაწყვეტილებების მიზეზების კვლევა და სისტემის განვითარება ახლაც გრძელდება.

გამოვლენილი დოკუმენტებიდან მაგალითად შეიძლება განვიხილოთ ფილტვის კიბოს მქონე 65 წლის პაციენტი, რომელსაც სისხლდენის სერიოზული პრობლემა ჰქონდა. Watson-მა ურჩია ქიმიოთერაპიისა და „ბევაციზუმაბის“ სახელწოდების ანტიანგიოგენური წამლის გამოყენება. თუმცა ამ პრეპარატმა შეიძლება მნიშვნელოვანი სისხლდენა გამოიწვიოს და განსაკუთრებით სისხლდენის მქონე პაციენტებში არ უნდა დაინიშნოს. Memorial Sloan Kettering-ის კიბოს ცენტრის (MSKKM) წარმომადგენლის განმარტებით, რეკომენდაცია რეალურ პაციენტზე არ გამოყენებულა და მხოლოდ სისტემის ტესტისთვის გამოიყენეს.

მხოლოდ Watson ცდება?

IBM ამ შეცდომებში MSKKM-ის ექიმებსა და IBM-ის ინჟინრებს ადანაშაულებს, რომლებმაც 2012 წელს Watson ექიმის მსგავსად აზროვნებისთვის ააწყვეს. დოკუმენტები მიუთითებს, რომ პროგრამის რეალური პაციენტების მონაცემებით მომარაგების ნაცვლად ექიმები ჰიპოთეზურ პაციენტურ ან „სინთეზურ/ხელოვნურ“ შემთხვევათა მონაცემებს აწვდიდნენ.

IBM-ის წარმოდგენილმა ამ შედეგებმა ზოგ ექიმში უკმაყოფილება გამოიწვია. MSKKM-ის ერთი ექიმის სიტყვებით: „ეს პროდუქტი ნამდვილი თავის ტკივილია. რეკლამისთვის ვიყიდეთ და არ მგონია, რომ ჩვენი სამკურნალო არჩევანების უმრავლესობისთვის გამოგვადგება.“

გავრცელდა ინფორმაცია, რომ ეს ექიმი ერთ-ერთი იყო იმ მრავალთაგან, ვისი საჩივრებიც დოკუმენტებში შევიდა.

ამასთან, არსებობს სხვა საავადმყოფოებიც, სადაც ექიმების მკურნალობაზე შეუთანხმებლობისას Watson დამატებითი აზრის სახით ემსახურება.

STAT-ის ვებსაიტზე გამოქვეყნებული ცნობის პასუხად IBM-ის წარმომადგენელმა განაცხადა, რომ ონკოლოგიის Watson მომზადებულია 13 კიბოს მკურნალობაში ონკოლოგების დასახმარებლად მსოფლიოს 230 საავადმყოფოში გამოყენებისთვის და დღემდე 84 ათასზე მეტ პაციენტს დაეხმარა. Watson-ის წარმომადგენელმა დაამატა, რომ უკეთესი ფუნქციონირებისთვის პროგრამას კვლავ ავითარებენ.

Memorial Sloan Kettering-ის კიბოს ცენტრის წარმომადგენელმა Caitlin Hool-მა კი განაცხადა, რომ კრიტიკა Watson-ის მსგავსი განვითარებადი პროგრამებისთვის „ბუნებრივი პროცესია“. Hool-მა ასევე აღნიშნა: „Watson კიბოს მკურნალობის ვარიანტებს გვთავაზობს, თუმცა საბოლოო გადაწყვეტილებას მკურნალი ექიმის მონაწილეობა და კლინიკური შეფასება სჭირდება“, ამბობს და ამატებს: „ვერცერთი ტექნოლოგია ვერ შეცვლის ექიმს.“

ჩვენი კომენტარი ონკოლოგიაში ხელოვნურ ინტელექტსა და Watson-ზე

დღეს ხელოვნური ინტელექტის გამოყენებამ, თუ არა კლინიკური გადაწყვეტილების (მკურნალობის არჩევის), დიაგნოსტიკის სფეროში მაინც დიდი გზა გაიარა; ამ თვალსაზრისით ახლო მომავალში ის რადიოლოგების, დერმატოლოგებისა და პათოლოგების სამუშაოს დიდ ნაწილს აიღებს (მაგალითად, კანის კიბოს, მელანომის, დიაგნოსტიკაში).

თუმცა კლინიკური გადაწყვეტილება ვიქტორინაში ენციკლოპედიურ კითხვებზე პასუხზე ბევრად რთული და კომპლექსური საკითხია. ექიმები პაციენტებისთვის გადაწყვეტილების მიღებისას მრავალ „დინამიკურ“ ფაქტორს ითვალისწინებენ, მათ შორის პაციენტის ფსიქოლოგიურ მახასიათებლებსა და მკურნალობის ღირებულებას...

შესაძლოა დასაწყისშივე Watson-ის მედიცინის ურთულესი სფეროსთვის, ონკოლოგიისთვის, მომზადება შეცდომა იყო; შესაძლოა ექიმებმა მისი სწავლება არ იცოდნენ, არ სურდათ ან ინჟინრებთან სრულად ვერ ითანამშრომლეს... თუმცა ვფიქრობთ, რომ მანქანებს რეალობის გაგება ძალიან დიდ დროს არ წაართმევს და მომავალ რაუნდებში ხელოვნური ინტელექტი ექიმებს მკურნალობის გადაწყვეტილებების მიღებაში შეეჯიბრება და დაამარცხებს კიდეც.