Erste Runde gegen Maschinen geht an Ärzte – IBM Watsons Behandlungsempfehlungen sind weder richtig noch sicher

Eine Erklärung von IBM und medizinischen Fachleuten, die mit dem Supercomputer Watson arbeiten, lässt uns sagen: „Gut, dass die Gesundheit unserer Patienten noch uns Ärzten anvertraut ist“ . Laut einer Meldung vom 25. Juli 2018 gab IBM Watson „mehrfach unsichere und falsche Behandlungsempfehlungen“.

Auch wenn solche Meldungen wegen fehlender Sensation weniger Medienaufmerksamkeit erhalten, sind Nachrichten über künstliche Intelligenz oder Supercomputer nicht immer positiv. Wissenschaft und Technik entwickeln sich tatsächlich mit solchen Höhen und Tiefen. Doch Fachleute und Forscher geben nicht auf, und letztlich gibt es Fortschritte.

Der Bericht bewertete Dokumente, darunter zwei Präsentationen von Andrew Norden, früherer stellvertretender Gesundheitschef von IBM Watson, aus Juni und Juli 2017. Sie waren vom Watson-Gesundheitsmanagement geteilt worden.

Watson gewann 2011 mit großem Vorsprung eine Quizshow und wurde anschließend für onkologische Behandlungsentscheidungen weiterentwickelt. Nun steht er stark in der Kritik. Seine Erprobung in der Onkologie hatte uns begeistert. Auch wir veröffentlichten auf unserer Website einen Beitrag über den Entwicklungsprozess von IBM Watson.

In den folgenden Jahren blieben die erwarteten positiven Nachrichten aus. Im Februar 2017 meldete das MD Anderson Cancer Center das vorzeitige Scheitern des 62 Millionen Dollar teuren Watson-Projekts. Ursachen häufiger Fehlentscheidungen werden weiterhin untersucht und das System verbessert.

Ein Beispiel aus den Dokumenten ist ein 65-jähriger Lungenkrebspatient mit schweren Blutungen. Watson empfahl Chemotherapie zusammen mit dem antiangiogenen Medikament Bevacizumab. Wegen möglicher schwerer Blutungen sollte dieses jedoch gerade bei blutenden Patienten nicht gegeben werden. Laut einem Sprecher des Memorial Sloan Kettering Cancer Center (MSKKM) wurde die Empfehlung nicht bei einem echten Patienten umgesetzt, sondern lediglich zum Systemtest verwendet.

Liegt der Fehler nur bei Watson?

IBM macht die Ärzte des MSKKM und eigene Ingenieure verantwortlich, die Watson 2012 zum ärztlichen Denken konzipierten. Laut Dokumenten lieferten Ärzte hypothetische oder „synthetische/künstliche“ Fälle statt realer Patientendaten.

Die von IBM präsentierten Ergebnisse stören manche Ärzte. Ein Arzt des MSKKM erklärte: „Dieses Produkt ist wirklich eine Plage. Wir haben es zur Werbung gekauft, und ich glaube nicht, dass wir es für die meisten unserer Behandlungsoptionen verwenden können.“

Der Arzt gehört Berichten zufolge zu mehreren Personen, deren Beschwerden in den Dokumenten enthalten sind.

Andere Krankenhäuser nutzen Watson jedoch als zusätzliche Meinung, wenn sich Ärzte über die Behandlung nicht einigen.

Als Antwort auf den Bericht der Website STAT erklärte ein IBM-Sprecher: Watson for Oncology sei für die Unterstützung bei 13 Krebsarten geschult, für den Einsatz in weltweit 230 Krankenhäusern bestimmt und habe bereits mehr als 84 Tausend Patienten unterstützt. Die Software werde weiterhin zur besseren Funktionalität entwickelt.

Caitlin Hool, Sprecherin des Memorial Sloan Kettering Cancer Center, bezeichnete Kritik bei sich entwickelnder Software wie Watson als „natürlichen Prozess“. Sie ergänzte: „Watson bietet Optionen zur Krebsbehandlung, doch die endgültige Entscheidung erfordert die Mitwirkung und klinische Beurteilung des behandelnden Arztes.“ Und fügte hinzu: „Keine Technologie kann einen Arzt ersetzen.“

Unser Kommentar zu künstlicher Intelligenz und Watson in der Onkologie

Heutige KI-Anwendungen haben zwar nicht bei klinischen Entscheidungen (Therapiewahl), wohl aber in der Diagnostik große Fortschritte gemacht. In naher Zukunft werden sie in diesem Bereich einen Großteil der Arbeit von Radiologen, Dermatologen und Pathologen übernehmen (beispielsweise bei der Diagnose des Hautkrebses Melanom).

Klinische Entscheidungen sind jedoch viel schwieriger und komplexer als das Beantworten von Wissensfragen in einer Quizshow. Ärzte berücksichtigen zahlreiche dynamische Faktoren, einschließlich psychischer Patienteneigenschaften und Behandlungskosten.

Vielleicht war es ein Fehler, Watson gleich für die Onkologie, den schwierigsten medizinischen Bereich, zu schulen. Vielleicht wussten Ärzte nicht, wie sie ihn trainieren sollten, waren nicht bereit dazu oder arbeiteten nicht vollständig mit Ingenieuren zusammen. Wir glauben jedoch, dass Maschinen die Realität bald verstehen und künstliche Intelligenz Ärzte in künftigen Runden bei Behandlungsentscheidungen herausfordern und sogar übertreffen wird.