Первый раунд против машин за врачами — рекомендации IBM Watson неверны и небезопасны

IBM и медицинские специалисты, работающие с ее суперкомпьютером Watson, сделали заявление, заставляющее сказать: «Хорошо, что здоровье пациентов пока доверено нам, врачам» . По новости от 25 июля 2018 года IBM Watson «много раз давал небезопасные и неверные рекомендации по лечению».

Хотя это меньше отражается в СМИ из-за отсутствия сенсационности, не каждая новость об искусственном интеллекте или суперкомпьютерах положительна. Так, с подъемами и спадами, и развивается наука и техника. Но ни технологи, ни ученые не сдаются, и в итоге достигается движение вперед.

В новости рассмотрены документы, включая две презентации бывшего исполняющего обязанности руководителя медицинского направления Watson Andrew Norden в июне и июле 2017 года. Ими поделилось медицинское руководство IBM Watson.

Сейчас есть сильная критика Watson, который в 2011 году с большим отрывом победил в викторине, а затем разрабатывался для решений в онкологии. Его испытание в онкологии всех нас взволновало; мы даже опубликовали на сайте процесс разработки IBM Watsonописывающую статью.

Но за прошедшие годы ожидаемых хороших новостей не было. Наоборот, в феврале 2017 года MD Anderson объявил раннее прекращение проекта IBM Watson стоимостью 62 миллиона долларов из-за неудачи. Причины частых неверных решений продолжают изучать, систему совершенствуют.

Например, документы описывают 65-летнего пациента с раком легкого и серьезным кровотечением. Watson рекомендовал химиотерапию и «бевацизумаб» — антиангиогенный препарат. Но из-за риска значительных кровотечений его не следует давать особенно пациентам с кровотечением. Представитель Memorial Sloan Kettering (MSKKM) сообщил: рекомендацию реальному пациенту не применяли, она использовалась лишь при тестировании системы.

Виноват только Watson?

IBM обвиняет в ошибках врачей MSKKM и инженеров IBM, которые в 2012 году проектировали Watson для мышления как врач. Документы говорят: вместо реальных данных врачи предоставляли гипотетические или «синтетические/искусственные» случаи.

Эти результаты IBM вызывают недовольство некоторых врачей. По словам врача MSKKM, «Этот продукт — настоящая головная боль. Мы купили его ради рекламы, и я не думаю, что сможем использовать его для большинства вариантов лечения».

Он один из многих, чьи жалобы включены в документы.

Однако есть и другие больницы, где Watson служит дополнительным мнением при разногласиях врачей о лечении.

В ответ на новость STAT представитель IBM заявил: Watson обучен помогать онкологам лечить 13 раков и используется в 230 больницах мира; до сих пор поддержал более 84 тысяч пациентов. Представитель добавил, что программное обеспечение еще совершенствуют для лучшей функциональности.

Представитель Memorial Sloan Kettering Caitlin Hool назвала критику «естественным процессом» для развивающегося ПО вроде Watson. Она также говорит: «Watson предлагает варианты лечения рака, но окончательное решение требует участия лечащего врача и клинической интерпретации» и добавляет: «Никакая технология не заменит врача».

Наш комментарий об искусственном интеллекте и Watson в онкологии

Сегодня приложения ИИ, даже если не в принятии клинических решений (выборе лечения), в диагностике значительно продвинулись; в ближайшем будущем они возьмут большую часть работы радиологов, дерматологов и патологов (например, при диагностике меланомы кожи).

Но клиническое решение намного сложнее ответа на энциклопедические вопросы викторины. Решая за пациента, врачи учитывают множество «динамических» факторов, включая психологические особенности и стоимость лечения...

Возможно, с самого начала обучать Watson наиболее трудной области медицины — онкологии — было ошибкой; возможно, врачи не знали, как обучать его, не хотели или не полностью сотрудничали с инженерами... Но мы думаем, что машины скоро поймут реальность и в следующих раундах ИИ станет серьезным соперником врачей в выборе лечения и даже победит их.