Welche Hindernisse stehen einem breiten Einsatz künstlicher Intelligenz in der Onkologie entgegen?

Warum ist dieses Thema wichtig?

Künstliche Intelligenz (KI) hat sich in den letzten Jahren in vielen Bereichen der Onkologie als vielversprechende Technologie gezeigt, etwa bei Diagnostik, Behandlungsplanung und Nachsorge. Trotz dieser Begeisterung bestehen jedoch erhebliche Probleme bei der Integration in die klinische Praxis. Dieser Artikel erläutert die wichtigsten Hindernisse für eine breitere Nutzung von KI in der Onkologie: mangelnde Genauigkeit, unzureichende Vielfalt der Daten, ethische und ökologische Bedenken, Regulierungslücken und weitere Faktoren.

1. Wie zuverlässig ist KI? Halluzinationen und irreführende Informationen

Eine der größten Sorgen in der Onkologie ist die hohe „Halluzinationsrate“ von KI-Systemen. Gemeint ist, dass diese Systeme Informationen erzeugen, die nicht auf Tatsachen beruhen oder falsch sind.

Wichtiger Hinweis: In einigen Studien lag der Anteil falscher Informationen von KI-Chatbots bei über 20-30%. Besonders in der Onkologie mit ihren rasch wechselnden Behandlungsprotokollen stellt dies ein erhebliches Risiko dar.

In der Onkologie ist dies besonders gefährlich:

KI-Werkzeuge können Fachliteratur falsch wiedergeben oder nicht begutachtete Artikel als Quellen anführen. Ohne sorgfältige Überprüfung kann dies zu unzureichenden klinischen Empfehlungen führen.

2. Verzerrungen in Datensätzen: Nicht für alle gleichermaßen geeignet

KI-Systeme sind nur so gut wie ihre Trainingsdaten. Diese Datensätze bilden jedoch häufig vor allem weiße Menschen aus sozioökonomisch privilegierten Gruppen ab. Dadurch können die Systeme bei Menschen anderer Bevölkerungsgruppen, ethnischer Herkunft oder aus anderen Regionen versagen.

Ein wichtiger Aspekt: Bei KI-Systemen, deren Trainingsdaten Minderheitengruppen nicht abbilden, kann die diagnostische Genauigkeit erheblich sinken. Dies kann gesundheitliche Ungleichheiten weiter verschärfen.

3. Passt KI in die klinische Praxis? Schwierige Integration in Arbeitsabläufe

Viele klinische Einrichtungen sind nicht auf die Integration von KI-Systemen vorbereitet.

Der klinische Alltag ist stark ausgelastet und komplex. Vielen Einrichtungen fehlt die technische Infrastruktur für die Einführung solcher Systeme.

Zudem verhalten sich viele KI-Modelle wie eine „Blackbox“: Sie erklären nicht, auf welcher Logik ihre Entscheidungen beruhen. Das erschwert es Ärztinnen und Ärzten, diese den Betroffenen zu erläutern.

4. Datenschutz und Regulierungslücken

Da Krebsdaten insbesondere auch genetische Informationen enthalten, ist der Schutz der Privatsphäre besonders wichtig. Viele KI-Werkzeuge erfordern jedoch einen umfangreichen Austausch von Patientendaten.

Außerdem ist weiterhin unklar, wer bei negativen Folgen KI-gestützter Entscheidungen rechtlich verantwortlich ist. Deshalb begegnen viele Gesundheitseinrichtungen der KI mit Vorsicht.

5. Ökologische und technische Kosten: Verborgene Belastungen

KI-Systeme werden in riesigen Rechenzentren betrieben, die jährlich Millionen Liter Wasser sowie Energie und seltene Rohstoffe wie Lithium und Kobalt verbrauchen. Dadurch steigt der CO₂-Fußabdruck.

Bemerkenswerte Angabe: Der jährliche CO₂-Ausstoß großer KI-Modelle kann sich dem kleiner Städte annähern.

Weil die Systeme ständig aktualisiert werden müssen, steigt zudem die Belastung der Krankenhaus-IT. Einrichtungen mit knappen Ressourcen können den Betrieb solcher Systeme nicht dauerhaft aufrechterhalten.

6. Wie verlässlich ist KI aus Patientensicht?

Auch Patientinnen und Patienten können durch KI-gestützte Informationswerkzeuge fehlgeleitet werden. Besonders Angaben ohne ausreichenden Kontext, etwa durchschnittliche Überlebensraten, können für die einzelne Person irreführend sein.

Bei Menschen mit geringer Gesundheitskompetenz können KI-Werkzeuge Verwirrung verursachen. Dies kann zu falschen Behandlungsentscheidungen führen.

7. Lösungsansätze für ethischere, sicherere und zugänglichere KI

Wie lässt sich KI trotz dieser zahlreichen Probleme sicher und wirksam in der Onkologie einsetzen?

Klinische Überprüfungssysteme

KI-Empfehlungen sollten in Echtzeit von Fachärztinnen und Fachärzten für Onkologie überprüft werden.

Kontinuierlich aktualisierte Überprüfungssysteme sollten eingeführt werden.

Schulungsprogramme

KI-Kompetenz sollte Bestandteil des Medizinstudiums und der ärztlichen Fortbildung werden.

Organisationen wie die ASCO sollten onkologiespezifische Schulungsmodule zur KI entwickeln.

Multidisziplinäre Teams

KI-Systeme sollten nicht allein von Ingenieurinnen und Ingenieuren entwickelt werden, sondern gemeinsam mit Fachleuten aus Onkologie und Ethik sowie den Betroffenen.

Datensicherheit und Transparenz

Die Inhalte der Trainingsdatensätze und Einzelheiten zur Leistungsfähigkeit der KI-Systeme sollten gegenüber der Ärzteschaft transparent offengelegt werden.

Bewertung der Umweltauswirkungen

Für jedes neue KI-System sollten Umweltfolgen analysiert und die Ergebnisse in gesundheitspolitische Entscheidungen einbezogen werden.

Fazit: KI bietet Chancen für die Onkologie – zunächst müssen die Hindernisse überwunden werden

KI-Systeme sollten die onkologische Praxis erleichtern, statt sie komplizierter zu machen. Sie sollten mit überprüften Daten arbeiten, energieeffizient sein und kontinuierlich aktualisiert werden. Vor allem aber sollte der Mensch im Mittelpunkt bleiben.

Künstliche Intelligenz könnte die Onkologie revolutionieren. Damit sie dieses Potenzial entfalten kann, muss ihre Entwicklung jedoch auf Genauigkeit, Gerechtigkeit, Transparenz und Nachhaltigkeit beruhen.