После ChatGPT мир полностью изменился, как и медицинское авторство: друг он или враг?

Все — от онкологических пациентов до медицинских специалистов — с трудом успевают за стремительными переменами в искусственном интеллекте и медицинском авторстве. Хотя тема требует специальных знаний, она может напрямую затронуть жизнь самых разных людей.

Появление ChatGPT и связь с медицинским авторством

Разработанный OpenAI ChatGPT стал известен всему миру 30 ноября 2022 года. GPT — сокращение от Generative Pre-trained Transformer — генеративного предварительно обученного трансформера — и представляет собой разговорный инструмент искусственного интеллекта на основе больших языковых моделей. Он привлёк внимание способностью отвечать на ввод пользователя естественным языком и благодаря этому получил всемирную известность.

ChatGPT привлёк внимание тем, что часто довольно точно и подробно отвечает на вопросы человеческим языком. К январю 2023 года он стал самым быстрорастущим потребительским программным приложением в истории. Число пользователей превысило 100 миллионов, а рыночная стоимость OpenAI выросла до 29 миллиардов долларов США. Пользователи бесплатного уровня ChatGPT имеют доступ к модели GPT-3.5, а платные подписчики — к более продвинутой GPT-4.

При написании научных статей ChatGPT обычно используют как вспомогательный инструмент. Сначала исследователь формулирует идею или понятие по теме и передаёт эту информацию ChatGPT. На её основе инструмент может создать дополнительный текст, обычно становящийся черновиком или предварительной версией. Затем исследователь добавляет детали, исправляет текст, изучает и дорабатывает его. Это способно ускорить написание статей и дать больше возможностей сосредоточиться на исследовании. Однако ChatGPT не гарантирует актуальность и точность информации, поэтому исследователям необходимо включать в статью собственные знания и результаты.

В популярной культуре ChatGPT особенно заметен среди людей, следящих за технологиями и ИИ. Он воодушевляет тех, кто вдохновлён технологией и стремится применять её в своей области. Вместе с тем некоторые, например профессиональные авторы и создатели контента, могут считать ChatGPT вредным и воспринимать его как угрозу, поскольку результаты часто неполны или ошибочны и могут нарушать чужую интеллектуальную собственность.

Кроме того, поскольку ChatGPT не способен самостоятельно указывать источник, он может непреднамеренно заимствовать из другого источника либо давать вводящие в заблуждение или предвзятые ответы. Это вызывает опасения в таких областях, как советы по здоровью, авторство и программирование, особенно если пользователи склонны считать результат «достаточно хорошим».

Связанная статья: Bill Gates: с ChatGPT эпоха искусственного интеллекта на этот раз действительно началась

Медицинские публикации и медицинское авторство занимают важное место в истории человечества. Потребность записывать и передавать сведения о здоровье привела к появлению медицинских текстов и изданий. Их история начинается вскоре после изобретения письменности, а первые медицинские тексты относятся примерно к 3000 году до нашей эры.

После объявления ChatGPT в конце 2022 года языковые модели ИИ, подобные ему, стало возможно использовать для написания и редактирования научных статей. При этом подчёркивается, что необходимо указывать, как применялись такие инструменты, и не включать их в список авторов.

Эта статья служит руководством для понимания этого процесса и влияния подобных инструментов ИИ на медицинские публикации.

Согласно новому заявлению Международного комитета редакторов медицинских журналов (ICMJE), языковые модели ИИ могут помогать исследователям писать и исправлять научные статьи. Комитет указал, что эти инструменты не следует перечислять как авторов, а исследователям необходимо сообщать, как использовались технологии с поддержкой ИИ.

Эти новые правила — последние усилия медицинских журналов по определению политики применения больших языковых моделей (БЯМ) в научных публикациях. Инструменты ИИ могут помогать писать, анализировать данные, находить ошибки и решать множество других задач, но сами склонны ошибаться. Кроме того, не до конца ясно, как в них хранится и обрабатывается информация и кто имеет к ней доступ.

В то же время эксперты считают, что такие инструменты могут положительно влиять на научные публикации, уменьшая языковые барьеры и облегчая часть монотонных или механических задач, связанных с написанием статей.

Однако эксперты согласны в том, что применение ИИ продолжит распространяться. Пожалуй, на этом этапе избежать этого уже невозможно.

Перемены в медицинском издательском деле

OpenAI выпустила ChatGPT в ноябре 2022 года. По его собственному описанию, это «модель глубокого обучения, обученная на большом объёме текстовых данных — в последнем варианте 170 триллионов параметров — для понимания и создания текста подобно человеку». Введите вопрос или запрос — и он ответит. Например, на вопрос о применении ИИ в научных публикациях ChatGPT отвечает так:

«ChatGPT может помогать в научных публикациях: генерировать идеи, объяснять понятия, выполнять предварительный обзор литературы, предлагать исправления и редактуру, структурировать и организовывать научные статьи. Однако его следует использовать как вспомогательный инструмент вместе с проверкой по надёжным научным источникам и знаниями в соответствующей области.»

Вскоре после появления ChatGPT исследователи начали применять его в работе. Например, доктор Som Biswas, радиолог Центра медицинских наук Университета Tennessee, использовал ChatGPT для написания 16 научных статей всего за 4 месяца. Пять из них вышли в четырёх разных журналах. Biswas отказался дать интервью по поводу этих статей.

Появлялись также сообщения о статьях, в которых ChatGPT был указан среди авторов, что вызвало критику. В ответ JAMA, Nature и Science в январе опубликовали материалы о своей политике применения ChatGPT и других больших языковых моделей в научном авторстве. Редакторы журналов Американской коллегии кардиологов и Американской коллегии ревматологов также обновили правила с учётом влияния инструментов ИИ.

Общее мнение состоит в том, что ИИ не должен входить в список авторов.

«Мы не считаем это уместным, поскольку соавторство означает ответственность за анализ и создание данных, представленных в статье. Машина под управлением ИИ не может нести ответственность», — сказал доктор Daniel Solomon, ревматолог Brigham and Women's Hospital и главный редактор журнала ACR Arthritis & Rheumatology.

Проблемы, связанные с искусственным интеллектом

Одно из главных опасений при использовании ИИ в тексте — возможность создания недостоверных или не подкреплённых данными утверждений.

В другом случае ChatGPT ошибочно обвинил известного профессора права в сексуальном нападении, хотя статьи Washington Post, подтверждающей предполагаемое событие, не существует.

Мы живём в обществе, крайне обеспокоенном ложными новостями. Подобные ошибки могут усугубить ситуацию в научном сообществе, и это тревожно, поскольку наука влияет на государственную политику.

Ещё одна проблема — недостаточная прозрачность того, как большие языковые модели, например ChatGPT, обрабатывают и хранят данные, используемые при выполнении запросов.

OpenAI ответила на часть опасений о конфиденциальности, разрешив пользователям отключать историю разговоров с GPT, чтобы беседы не использовались для обучения или улучшения моделей компании. Однако условия использования по-прежнему довольно неоднозначны.

Особую тревогу вызывает то, что большие языковые модели (БЯМ) очень сложны, а многие люди не до конца понимают механизм работы такой машины.

Это означает, что инструменты ИИ вроде ChatGPT не могут заменять автора: технология служит лишь помощником. Однако специалисты задаются вопросом, что произойдёт, когда сам ИИ начнёт пользоваться инструментами.

Другое опасение состоит в том, что все начнут использовать одинаковые предложения, создавая риск утраты богатства и разнообразия языка.

Чтобы понять, как будет развиваться роль ИИ в медицинских публикациях, нужны дальнейшие исследования. ICMJE рассматривает создание рабочей группы для общих рекомендаций по его применению в этой сфере.

Пока отношения ИИ и медицинских публикаций представляют собой вопрос баланса, а не дружбы или вражды: ИИ может помогать медицинским исследованиям, но одновременно создавать серьёзные проблемы доступа к информации и её точности.