Makinelere Karşı ilk Raund Doktorların – IBM Watson’ın Tedavi Önerileri Doğru ve Güvenli Değil
IBM’den ve şirketin Watson süper bilgisayarı ile çalışan tıbbi uzmanlarından, "İyi ki hastalarımızın sağlığı hala biz doktorlara emanet" dedirten bi açıklama geldi. 25 Temmuz 2018'de yayınlanan habere göre, IBM Watson, "birçok kez, güvenli olmayan ve yanlış tedavi önerilerinde bulunmuş".
Sansasyonel olmadığı için medyaya çok yansımasa da, yapay zeka veya süper bilgisayarlara dair her haber olumlu değildir. Aslında bilimin ve teknolojinin ilerleyişi de tam olarak böyle inişli çıkışlıdır, fakat ne teknoloji ile uğraşanlar ne de bilim insanları pes etmez ve sonuçta hep ileriye doğru bir gelişme elde edilir.
Haberde, Haziran ve Temmuz 2017'de IBM Watson’un eski sağlık şefi vekili Andrew Norden tarafından yayımlanan iki sunumun da dahil olduğu bazı belgeleri yorumlandı. Bu belgeler IBM Watson sağlık yönetimi tarafından paylaşılmıştı.
2011 yılında bilgi yarışmasında rakiplerine büyük fark atarak birinci olan ve daha sonrasında onkoloji alanında tedavi kararları vermesi için geliştirilen Watson bilgisayarına karşı artık çok güçlü eleştiriler var. IBM'in Watson bilgisayarının onkoloji alanında denenmesi aslında hepimizi heyecanlandırmıştı, hatta bu konuda biz de web sitemizde IBM Watson'un geliştirilme sürecini anlatan bir yazı paylaşmıştık.
Aradan geçen yıllarda ise Watson hakkında beklediğimiz olumlu haberler gelmedi; tam tersi Şubat 2017'de MD Anderson Kanser Merkezi, 62 milyon dolara mal olan IBM Watson Projesi'nin başarısızlık nedeni ile erken bitirildiğini duyurdu. Watson ile sıklıkla karşılaşılan hatalı kararların altında yatan sebepler şu an araştırılmaya ve sistem geliştirilmeye devam ediliyor. O
rtaya çıkan belgelerden bir örnek vermek gerekirse; 65 yaşında ciddi kanama problemi olan akciğer kanserli bir hasta üzerinde durabiliriz. Watson, hastaya kemoterapi ve "Bevasizumab" adlı anti-anjiyojenik ilacının uygulanmasını tavsiye etti. Ancak bu ilaç önemli kanama problemlerine yol açabildiği için özellikle kanaması olan hastalara verilmemeli. Memorial Sloan Kettering Kanser Merkezi'nden (MSKKM) bir sözcünün yaptığı açıklamalara göre bu tavsiye gerçek bir hasta üzerine uygulanmadı ve sadece sistem testi için kullanıldı.
Hatalı Olan Sadece Watson mı?
IBM, bu hatalar için 2012 yılında Watson’ı doktor gibi düşünmesi amacı ile kurgulayan MSKKM doktorları ile IBM mühendislerini suçluyor. Belgeler, yazılımın gerçek hasta verileri ile beslenmesi yerine, doktorların varsayımsal hasta verilerini ya da "sentetik/yapay" vaka verilerini sunduklarını belirtiyor.
IBM’in sunduğu bu sonuçlar bazı doktorlar tarafından rahatsızlıkla karşılanıyor. MSKKM'den bir doktorun ifadesi ile "Bu ürün gerçekten bir baş belası. Biz bunu reklam için satın aldık ve tedavi seçeneklerimizin çoğu için kullanabileceğimizi düşünmüyorum."
Söz konusu doktorun, şikâyetlerinin belgelere dahil edildiği birçok kişiden biri olduğu bildirildi.
Bununla birlikte Watson'ın, doktorlarının tedavi konusunda anlaşamadığı durumlarda ekstra bir görüş olarak hizmet verdiği başka hastaneler de bulunmakta.
IBM sözcüsü, STAT web sitesinden yayınlanan bu habere yanıt olarak, onkoloji için Watson’ın, 13 kanserin tedavisi için onkologlara yardım etmek üzere dünya çapında 230 hastane tarafından kullanılması için eğitildiğini ve şimdiye kadar 84 binden fazla hastayı desteklediğini ifade etti. Watson sözcüsü, yazılımlarını daha iyi işlevsellik için hala geliştirdiklerini de sözlerine ekledi.
Memorial Sloan Kettering Kanser Merkezi sözcüsü Caitlin Hool ise, bu eleştirilerin Watson gibi gelişen yazılımlar için "doğal bir süreç" olduğunu söyledi. Hool ayrıca; "Watson, kanser tedavisi için seçenekler sunarken, nihai karar, tedavi eden doktorun katılımını ve klinik yorumunu gerektirir" diyor ve ekliyor: "Hiçbir teknoloji bir doktorun yerini alamaz."
Onkolojide Yapay Zeka ve Watson Konusunda Bizim Yorumumuz
Günümüzde yapay zeka uygulamaları, klinik karar verme (tedavi seçimi) konusunda olmasa bile teşhis alanında büyük yol kat etmiş durumda; bu anlamda yakın gelecekte radyologların, dermatologların ve patologların işlerinin büyük kısmını alacaklardır (örneğin cilt kanseri melanom tanısında).
Bununla birlikte klinik karar vermek, bir bilgi yarışmasında ansiklopedik soruları cevaplamaktan çok daha zor ve kompleks bir konudur. Çünkü doktorlar hastaları için karar alırken, hastanın psikolojik özellikleri ve tedavilerin maliyetleri de dahil, çok sayıda "dinamik" faktörü hesaba katarlar...
Belki Watson'ı, işin başında, tıbbın en zorlu alanı olan onkoloji için eğitmeye başlamak bir hata idi; belki doktorlar Watson'ı nasıl eğiteceklerini bilmiyorlardı, gönüllü değillerdi veya mühendisler ile tam bir işbirliği yapamadılar... Fakat öyle düşünüyoruz ki makinelerin gerçeği anlamaları çok uzun sürmeyecek ve gelecek raundlarda yapay zeka, hekimleri, tedavi kararları verme konusunda zorlayacak, hatta alt edecektir.
By Casey Ross, Ike Swetlitz.
IBM’s Watson supercomputer recommended ‘unsafe and incorrect’ cancer treatments, internal documents show.
statnews.com - July 25, 2018.