Liefern KI-Chatbots zuverlässige Informationen über Krebs? Ja und nein

Krebs verursacht weltweit jährlich den Tod von etwa 10 Millionen Menschen. Der Zugang zu richtigen und zuverlässigen Informationen über Behandlungsmöglichkeiten ist für Patienten und medizinisches Fachpersonal von entscheidender Bedeutung. Chatbots mit künstlicher Intelligenz (KI) werden als Quellen für Gesundheitsinformationen immer häufiger genutzt. Die Qualität ihrer medizinischen Ratschläge ist bisher jedoch nicht gründlich bewertet worden. JAMA Oncology hat zwei neue Studien veröffentlicht, die dazu wichtige Daten liefern. Ihre Ergebnisse sind für Krebspatienten und medizinisches Fachpersonal von großer Bedeutung.

KI-Chatbots liefern im Allgemeinen richtige Informationen

Qualität und Quellen

Die erste Studie untersuchte die häufigsten krebsbezogenen Google-Suchanfragen und stellte fest, dass KI-Chatbots Verbrauchern im Allgemeinen richtige Informationen liefern.

Die Forscher analysierten die Qualität der Antworten von:

• ChatGPT-3.5,
• Perplexity,
• Chatsonic und
• Bing AI,

also vier verschiedenen KI-Chatbots.

Drei dieser vier Chatbots lieferten Informationen unter Verweis auf zuverlässige Quellen wie die American Cancer Society, die Mayo Clinic und die Centers for Disease Control and Prevention.

Das Problem der Komplexität

Die Studie wies jedoch auch darauf hin, dass die Komplexität der Informationen ihren Nutzen begrenzen könnte. Insbesondere entsprachen die Antworten meist einem universitären Leseniveau und waren damit für die Allgemeinbevölkerung möglicherweise nicht verständlich.

Bei Behandlungsempfehlungen bestehen jedoch Mängel

Probleme mit der Leitlinienübereinstimmung

Dagegen zeigte die Untersuchung von Krebsbehandlungsempfehlungen in der zweiten Studie, dass KI-Chatbots häufig keine Empfehlungen abgeben konnten, die den nationalen Behandlungsleitlinien entsprachen. Insbesondere bei Brust-, Prostata- und Lungenkrebs erfüllten die Bots häufig nicht die Erwartungen.

Für diese Studie wurden 104 verschiedene Fragevorschläge erstellt. Die damit erhaltenen Behandlungsstrategien wurden mit den Leitlinien des National Comprehensive Cancer Network (NCCN) von 2021 verglichen.

Irreführende Ratschläge

Die Studie zeigte, dass bei etwa einem Drittel der Chatbots (34%) mindestens eine Behandlungsempfehlung nicht mit nationalen Leitlinien oder anerkannten medizinischen Verfahren übereinstimmte. Darüber hinaus waren etwa 13% der von Chatbots abgegebenen Behandlungsempfehlungen nicht in bestehenden medizinischen Leitlinien enthalten und galten somit als „unwirklich“ oder „erfunden“. Diese irreführenden Empfehlungen betrafen überwiegend Optionen wie lokale Therapien, zielgerichtete Therapien oder Immuntherapien für Patienten mit fortgeschrittenem Krebs.

Hoffnungen und Empfehlungen für die Zukunft

Das Potenzial künstlicher Intelligenz (KI)

Trotz dieser Einschränkungen besteht Hoffnung für die Zukunft der künstlichen Intelligenz in der Medizin. KI-Algorithmen können mit Daten aus den weltweit besten medizinischen Systemen trainiert und anhand aktueller Leitlinien wie denen des NCCN aktualisiert werden.

Die Notwendigkeit sorgfältiger Überwachung

Bei der Einbindung dieser Algorithmen in Gesundheitssysteme ist jedoch eine sorgfältige Überwachung erforderlich. Insbesondere können die Algorithmen falsche oder irreführende Informationen liefern, was schwerwiegende Folgen für Patienten haben kann.

Fazit

Obwohl KI-Chatbots im Allgemeinen richtige Informationen über Krebs liefern, erscheinen sie bei Behandlungsempfehlungen nicht als zuverlässige Quelle. Dies ist ein wichtiger Hinweis für Patienten und medizinisches Fachpersonal. Damit KI ihr medizinisches Potenzial voll ausschöpfen kann, sind weitere Untersuchungen und Regelungen erforderlich.