Nach ChatGPT ist die Welt verändert – auch das medizinische Schreiben. Freund oder Feind?

Von Krebspatienten bis zu medizinischen Fachkräften fällt es allen schwer, mit den raschen Entwicklungen bei künstlicher Intelligenz und medizinischem Schreiben Schritt zu halten. Dieses wichtige Spezialgebiet kann das Leben sehr unterschiedlicher Menschen unmittelbar beeinflussen.

Die Entstehung von ChatGPT und die Verbindung zum medizinischen Schreiben

Das von OpenAI entwickelte ChatGPT wurde am 30. November 2022 weltweit bekannt. GPT steht für Generative Pre-trained Transformer und bezeichnet ein KI-Chatwerkzeug auf Grundlage großer Sprachmodelle. Es erzeugt auf Nutzereingaben Antworten in natürlicher Sprache und hat damit weltweite Bekanntheit erlangt.

ChatGPT fiel durch meist recht richtige und umfassende Antworten in menschlicher Sprache auf. Im Januar 2023 war es die am schnellsten wachsende Verbrauchersoftwareanwendung der Geschichte. Bei mehr als 100 Millionen Nutzern stieg der Marktwert von OpenAI auf 29 Milliarden US-Dollar. Nutzer der kostenlosen Version konnten auf GPT-3.5 zugreifen, zahlende Abonnenten auf das fortgeschrittenere GPT-4.

Beim Verfassen wissenschaftlicher Artikel wird ChatGPT häufig als Hilfsmittel eingesetzt. Zunächst entwickelt ein Forscher eine Idee oder ein Konzept und übermittelt es an ChatGPT. Daraus kann das System weiteren Text erzeugen, meist einen Entwurf. Anschließend ergänzt der Forscher Einzelheiten, korrigiert, überprüft und verfeinert ihn. Das kann das Schreiben beschleunigen und mehr Zeit für andere Schwerpunkte schaffen. ChatGPT garantiert jedoch weder Aktualität noch Richtigkeit; Forschende müssen daher eigene Kenntnisse und Befunde einbringen.

Auch in der Populärkultur hat ChatGPT großen Einfluss auf Menschen, die Technik und KI verfolgen. Es begeistert diejenigen, die die Technologie in ihrem Fach einsetzen möchten. Andere, etwa professionelle Autoren und Inhaltsersteller, können es als schädlich oder bedrohlich empfinden: Ergebnisse sind häufig unvollständig oder falsch und könnten geistiges Eigentum anderer verletzen.

Da ChatGPT außerdem nicht selbstständig Quellen angeben kann, besteht die Möglichkeit unbeabsichtigter Übernahmen aus anderen Quellen sowie irreführender oder voreingenommener Antworten. Besonders wenn Nutzer Ergebnisse als „gut genug“ akzeptieren, entstehen Bedenken bei Gesundheitsberatung, Schreiben und Programmierung.

Verwandter Artikel: Bill Gates: Mit ChatGPT hat das KI-Zeitalter diesmal wirklich begonnen

Medizinisches Publizieren und Schreiben nehmen in der Menschheitsgeschichte einen wichtigen Platz ein. Das Bedürfnis, Gesundheitswissen festzuhalten und zu teilen, führte zur Entstehung medizinischer Texte und Veröffentlichungen. Ihre Geschichte beginnt kurz nach der Erfindung der Schrift; die ersten medizinischen Texte reichen bis etwa 3000 v. Chr. zurück.

Mit der Vorstellung von ChatGPT Ende 2022 wurden KI-Sprachmodelle für das Verfassen und Bearbeiten wissenschaftlicher Artikel verfügbar. Dabei sollte angegeben werden, wie solche Werkzeuge verwendet wurden; sie sollten nicht als Autoren aufgeführt werden.

Dieser Artikel dient als Orientierung, um diese Entwicklung und die Auswirkungen solcher KI-Werkzeuge auf medizinische Veröffentlichungen zu verstehen.

Nach einer neuen Erklärung des International Committee of Medical Journal Editors (ICMJE) können KI-Sprachmodelle Forschenden beim Schreiben und Überarbeiten wissenschaftlicher Artikel helfen. Das Komitee betont, dass solche Werkzeuge nicht als Autoren aufgeführt werden sollen und Forschende offenlegen müssen, wie sie KI-gestützte Technologien eingesetzt haben.

Diese Regeln gehören zu den jüngsten Bemühungen medizinischer Zeitschriften, Richtlinien für große Sprachmodelle festzulegen. KI-Werkzeuge können beim Schreiben, bei Datenanalysen, der Fehlersuche und vielem mehr helfen, sind aber selbst fehleranfällig. Zudem bleibt unklar, wie Informationen darin gespeichert und verarbeitet werden und wer darauf zugreifen kann.

Fachleute sehen zugleich Chancen: KI könnte sprachliche Barrieren beim wissenschaftlichen Publizieren verringern und monotone oder mechanische Schreibaufgaben erleichtern.

Einigkeit besteht jedoch darin, dass sich KI-Werkzeuge weiter verbreiten werden. An diesem Punkt gibt es wohl kein Zurück.

Der Wandel im medizinischen Publizieren

OpenAI veröffentlichte ChatGPT im November 2022. Nach eigener Beschreibung ist ChatGPT „ein Deep-Learning-Modell, das mit einer großen Menge an Textdaten trainiert wurde, um Texte ähnlich wie Menschen zu verstehen und zu erzeugen, zuletzt mit 170 Billionen Parametern“. Gibt man eine Frage oder Aufforderung ein, antwortet es. Auf die Frage nach dem Einsatz im wissenschaftlichen Publizieren erklärt ChatGPT beispielsweise:

„ChatGPT kann beim wissenschaftlichen Publizieren helfen, Ideen zu entwickeln, Konzepte zu erklären, erste Literaturrecherchen durchzuführen, Korrekturen vorzuschlagen und Artikel zu bearbeiten und zu organisieren. Es sollte jedoch als unterstützendes Werkzeug zusammen mit Fachwissen und Überprüfung anhand verlässlicher wissenschaftlicher Quellen eingesetzt werden.“

Kurz nach der Einführung nutzten Forschende ChatGPT für ihre Arbeit. Dr. Som Biswas, Radiologe am University of Tennessee Health Science Center, verfasste damit beispielsweise in nur 4 Monaten 16 wissenschaftliche Artikel. Fünf erschienen in vier verschiedenen Zeitschriften. Ein Interview zu diesen Arbeiten lehnte Biswas ab.

Es gab auch Berichte über Artikel, in denen ChatGPT als Autor aufgeführt wurde, was Reaktionen auslöste. JAMA, Nature und Science veröffentlichten daraufhin im Januar Richtlinien zu ChatGPT und anderen großen Sprachmodellen in der wissenschaftlichen Autorenschaft. Auch Herausgeber von Zeitschriften der amerikanischen Gesellschaften für Kardiologie und Rheumatologie passten ihre Regeln an.

Einigkeit besteht darin, dass KI nicht in die Autorenliste gehört.

„Wir halten das nicht für angemessen, denn Mitautorenschaft bedeutet, Verantwortung für die Erstellung und Analyse der Daten eines Artikels zu übernehmen. Eine KI-gesteuerte Maschine kann keine Verantwortung übernehmen“, erklärte Dr. Daniel Solomon, Rheumatologe am Brigham and Women's Hospital und Chefredakteur der ACR-Zeitschrift Arthritis & Rheumatology.

Probleme mit künstlicher Intelligenz

Eine große Sorge ist, dass KI beim Schreiben Texte erzeugen kann, die nicht durch Daten gestützt werden oder unwahr sind.

In einem anderen Fall behauptete ChatGPT fälschlich, ein bekannter Rechtsprofessor habe einen sexuellen Übergriff begangen. Einen Washington-Post-Artikel, der den angeblichen Vorgang belegt, gibt es jedoch nicht.

In einer Gesellschaft, die sich stark vor Falschmeldungen sorgt, könnten solche Fehler das Problem in der Wissenschaft verschärfen. Das ist besonders bedenklich, weil Wissenschaft öffentliche Entscheidungen beeinflusst.

Ein weiteres Problem ist die mangelnde Transparenz darüber, wie große Sprachmodelle wie ChatGPT die für Anfragen verwendeten Daten verarbeiten und speichern.

OpenAI begegnete manchen Datenschutzbedenken, indem Nutzer den Gesprächsverlauf deaktivieren können. Solche Gespräche werden dann nicht zum Trainieren oder Verbessern der Modelle verwendet. Die Nutzungsbedingungen bleiben jedoch recht unklar.

Besorgniserregend ist, dass große Sprachmodelle sehr komplex sind und viele Menschen ihre Funktionsweise nicht vollständig verstehen.

KI-Werkzeuge wie ChatGPT können einen Autor deshalb nicht ersetzen, sondern sind lediglich Hilfsmittel. Fachleute fragen sich jedoch, was geschieht, wenn KI selbst beginnt, Werkzeuge zu benutzen.

Eine Sorge ist, dass alle dieselben Sätze verwenden könnten. Damit drohen sprachlicher Reichtum und Vielfalt verloren zu gehen.

Weitere Forschung ist nötig, um die künftige Rolle von KI im medizinischen Publizieren zu verstehen. Das ICMJE erwägt eine Arbeitsgruppe für allgemeine Empfehlungen zum KI-Einsatz in diesem Bereich.

Vorerst ist das Verhältnis zwischen KI und medizinischem Publizieren keine Frage von Freundschaft oder Feindschaft, sondern des Gleichgewichts: KI kann medizinische Forschung unterstützen, zugleich aber erhebliche Probleme bei Informationszugang und Richtigkeit verursachen.