Дают ли чат-боты искусственного интеллекта надёжные сведения о раке? И да, и нет

Рак ежегодно приводит к смерти примерно 10 миллионов человек во всём мире. Доступ к точным и надёжным сведениям о вариантах лечения крайне важен для пациентов и медицинских специалистов. Чат-боты искусственного интеллекта (ИИ) всё чаще выбирают как источник медицинской информации. Однако качество их медицинских советов ещё не было серьёзно оценено. JAMA Oncology опубликовал две новые работы с важными данными по этому вопросу. Их результаты имеют большое значение для онкологических пациентов и медицинских специалистов.

Чат-боты ИИ обычно дают верную информацию

Качество и источники

Первое исследование рассмотрело наиболее популярные поисковые запросы о раке в Google и показало, что чат-боты ИИ обычно предоставляют пользователям правильные сведения.

Исследователи проанализировали качество ответов

• ChatGPT-3.5,
• Perplexity,
• Chatsonic и
• Bing AI

— четырёх разных чат-ботов ИИ.

Три из четырёх ссылались на надёжные источники, например Американское онкологическое общество, Mayo Clinic и Центры по контролю и профилактике заболеваний.

Проблема сложности

Исследование также отметило, что сложность предоставляемой информации может ограничивать её полезность. Ответы обычно требовали университетского уровня чтения и могли быть непонятны широкой публике.

Но в рекомендациях по лечению есть недостатки

Проблемы соответствия

В свою очередь, оценившее рекомендации по лечению рака второе исследование показало, что чат-боты часто не давали советов, соответствующих национальным руководствам. Особенно часто они не оправдывали ожиданий при раке молочной железы, предстательной железы и лёгкого.

Исследователи составили 104 разных запроса и сравнили полученные стратегии лечения с руководствами Национальной всеобщей онкологической сети (NCCN) 2021 года.

Вводящие в заблуждение советы

Исследование показало: примерно у трети чат-ботов (34%) хотя бы одна рекомендация не соответствовала национальным руководствам или общепринятой медицинской практике. Более того, около 13% предложений отсутствовали в существующих руководствах и считались «нереальными» или «выдуманными». Обычно это были такие варианты, как местное лечение, таргетная терапия или иммунотерапия при распространённом раке.

Надежды и рекомендации на будущее

Потенциал искусственного интеллекта (ИИ)

Несмотря на ограничения, будущее ИИ в медицине вызывает надежду. Алгоритмы можно обучать на данных лучших медицинских систем мира и обновлять по самым свежим руководствам, например NCCN.

Необходимость тщательного контроля

При внедрении в здравоохранение алгоритмы необходимо тщательно контролировать. Они способны выдавать неправильную или вводящую в заблуждение информацию, что может иметь серьёзные последствия для пациентов.

Вывод

Хотя чат-боты ИИ обычно дают верные общие сведения о раке, надёжным источником рекомендаций по лечению они, по-видимому, не являются. Это важное предупреждение для пациентов и медицинских специалистов. Чтобы полностью реализовать медицинский потенциал ИИ, необходимы дальнейшие исследования и регулирование.