Prima rundă împotriva mașinilor revine medicilor – recomandările IBM Watson nu sunt corecte și sigure

IBM și experții medicali care lucrează cu supercomputerul Watson au oferit o declarație care ne face să spunem: «Din fericire, sănătatea pacienților este încă încredințată nouă, medicilor» . Potrivit știrii publicate la 25 iulie 2018, IBM Watson a oferit «în repetate rânduri recomandări terapeutice nesigure și greșite».

Deși nu ajung mult în presă, nefiind senzaționale, inteligența artificială sau supercomputere nu au numai știri pozitive. Progresul științei și tehnologiei este chiar așa, cu suișuri și coborâșuri, însă cercetătorii și tehnologii nu renunță și, în final, se obține progres.

Știrea interpreta documente, inclusiv două prezentări publicate în iunie și iulie 2017 de Andrew Norden, fost responsabil medical interimar Watson. Documentele fuseseră împărtășite de conducerea medicală IBM Watson.

Watson, câștigător detașat al unui concurs de cultură generală în 2011, dezvoltat apoi pentru decizii terapeutice oncologice, se confruntă acum cu critici foarte puternice. Testarea sa în oncologie ne entuziasmase pe toți; publicaserăm și pe site un articol despre procesul dezvoltării IBM Watson.

În anii următori nu au venit veștile pozitive așteptate; dimpotrivă, în februarie 2017, MD Anderson Cancer Center a anunțat încheierea anticipată din cauza eșecului a proiectului IBM Watson, de 62 de milioane de dolari. Cauzele deciziilor greșite frecvente sunt cercetate, iar sistemul continuă să fie dezvoltat. O

ferim un exemplu din documentele apărute: un pacient de 65 de ani cu cancer pulmonar și hemoragie gravă. Watson i-a recomandat chimioterapie și medicamentul numit «Bevacizumab», antiangiogenic . Însă, putând provoca sângerări importante, nu trebuie administrat mai ales pacienților cu hemoragie. Potrivit unui purtător de cuvânt al Memorial Sloan Kettering Cancer Center (MSKKM), recomandarea nu a fost aplicată unui pacient real, fiind doar un test al sistemului.

Doar Watson greșește?

IBM îi învinovățește pe medicii MSKKM și inginerii IBM care au configurat Watson în 2012 să gândească asemenea unui medic. Documentele spun că, în locul datelor reale, medicii au furnizat date ipotetice sau cazuri «sintetice/artificiale».

Rezultatele prezentate de IBM îi deranjează pe unii medici. Un medic MSKKM spune: «Acest produs este o adevărată bătaie de cap. Am cumpărat produsul pentru publicitate și nu cred că îl putem folosi pentru majoritatea opțiunilor noastre terapeutice.»

S-a relatat că medicul era unul dintre numeroșii ale căror plângeri erau incluse în documente.

Există totuși și spitale unde Watson oferă o opinie suplimentară când medicii nu sunt de acord asupra tratamentului.

Răspunzând știrii STAT, purtătorul de cuvânt IBM a spus că Watson pentru oncologie este instruit pentru utilizare în 230 de spitale din lume, ajutând oncologii la tratamentul a 13 cancere, și susținuse deja peste 84 de mii de pacienți. A adăugat că software-ul este încă îmbunătățit pentru funcționalitate mai bună.

Caitlin Hool, purtătoarea de cuvânt Memorial Sloan Kettering Cancer Center, a spus că aceste critici sunt un «proces natural» pentru software în dezvoltare. A adăugat: «Watson oferă opțiuni pentru cancer, dar decizia finală necesită participarea și judecata clinică a medicului curant» și continuă: «Nicio tehnologie nu poate înlocui un medic.»

Comentariul nostru despre inteligența artificială și Watson în oncologie

Astăzi aplicațiile IA, chiar dacă nu în decizia clinică (alegerea tratamentului), diagnostic în acest domeniu au avansat mult; în viitorul apropiat vor prelua mare parte din munca radiologilor, dermatologilor și anatomopatologilor (de exemplu diagnosticul melanomului cutanat).

Însă decizia clinică este mult mai dificilă și complexă decât răspunsul la întrebări enciclopedice într-un concurs. Medicii iau în considerare numeroși factori «dinamici», inclusiv psihologia pacientului și costurile tratamentelor...

Poate că a fost o greșeală să începem instruirea Watson cu oncologia, cel mai dificil domeniu; poate medicii nu știau cum să îl instruiască, nu erau voluntari sau nu au colaborat pe deplin cu inginerii... Dar credem că mașinilor nu le va lua mult să înțeleagă realitatea și, în rundele următoare, IA va concura cu medicii în deciziile terapeutice, chiar îi va învinge.