Что мешает широкому применению искусственного интеллекта в онкологии?

Почему эта тема важна?

В последние годы искусственный интеллект (ИИ) стал перспективной технологией во многих областях онкологии: диагностике, планировании лечения и наблюдении за пациентами. Но несмотря на воодушевление, интеграция ИИ в клиническую практику сталкивается с серьезными проблемами. В статье мы подробно рассматриваем главные препятствия широкому внедрению: недостаточную точность, проблемы разнообразия данных, этические и экологические вопросы, пробелы регулирования и многое другое.

1. Насколько точен ИИ? Галлюцинации и недостоверная информация

Одна из главных тревог онкологов — высокая «частота галлюцинаций» систем ИИ: они могут генерировать неверную информацию или сведения, не основанные на фактах.

Важное примечание: в некоторых исследованиях доля неверной информации от чат-ботов ИИ превышала 20-30%. Это создает серьезный риск, особенно в онкологии с быстро меняющимися протоколами лечения.

В онкологии это особенно опасно:

Инструменты ИИ могут искажать литературу или ссылаться на статьи, не прошедшие рецензирование. Без должной проверки это может приводить к неоптимальным клиническим рекомендациям.

2. Предвзятость наборов данных: подходит не всем

Успех систем ИИ определяется данными обучения. Однако наборы данных часто представляют преимущественно белых людей с высоким социально-экономическим статусом. Это приводит к неудачам системы у пациентов других рас, этнических групп и регионов.

Факт, который нужно подчеркнуть: точность диагностики систем ИИ, не обученных на данных меньшинств, может существенно снижаться. Это способно еще больше углубить неравенство в здравоохранении.

3. Соответствует ли ИИ клинической практике? Трудности интеграции в рабочие процессы

Многие клинические учреждения не готовы к интеграции ИИ.

Клиническая среда перегружена и сложна. У большинства клиник нет достаточной технической инфраструктуры для внедрения таких систем.

Кроме того, многие модели ИИ действуют как «черный ящик», не объясняя логику своих решений. Из-за этого врачам трудно давать объяснения пациентам.

4. Конфиденциальность пациентов и пробелы регулирования

Защита конфиденциальности особенно важна, поскольку онкологические данные содержат генетическую информацию. Но многие инструменты ИИ требуют широкого обмена данными пациентов.

Также остается неясным, кто несет юридическую ответственность за неблагоприятные последствия решений с поддержкой ИИ. Поэтому многие медицинские организации относятся к нему осторожно.

5. Экологические и технические затраты: скрытая цена

Системы ИИ работают в огромных центрах обработки данных, которые ежегодно потребляют миллионы литров воды, энергию и редкие элементы, например литий и кобальт. Это увеличивает углеродный след.

Впечатляющие данные: годовые углеродные выбросы крупных моделей ИИ могут приближаться к выбросам небольших городов.

Потребность в постоянных обновлениях также увеличивает нагрузку на больничные ИТ-службы. Учреждения с ограниченными ресурсами не могут поддерживать такие системы.

6. Насколько надежен ИИ для пациента?

Нужно помнить, что и пациенты рискуют получить неверное направление при использовании информационных инструментов ИИ. Данные вне контекста, например средние показатели выживаемости, могут вводить отдельного пациента в заблуждение.

У пациентов с низкой медицинской грамотностью ИИ может вызывать информационную путаницу и приводить к неверным решениям о лечении.

7. Решения: более этичный, безопасный и доступный ИИ

Как же при стольких проблемах безопасно и эффективно использовать ИИ в онкологии?

Системы клинической проверки

Онкологи должны проверять рекомендации ИИ в реальном времени.

Необходимо внедрять постоянно обновляемые системы проверки.

Образовательные программы

Грамотность в области ИИ должна войти в программы медицинских вузов и непрерывного образования.

Организации, такие как ASCO, должны разрабатывать специальные учебные модули по ИИ для онкологии.

Междисциплинарные команды

Системы ИИ должны разрабатываться не только инженерами, но совместно с онкологами, специалистами по этике и пациентами.

Безопасность данных и прозрачность

Врачам следует открыто предоставлять сведения о составе обучающих наборов данных и подробные показатели работы систем ИИ.

Оценка воздействия на окружающую среду

Для каждой новой системы ИИ необходимо анализировать экологическое воздействие и учитывать результаты в политике здравоохранения.

Заключение: ИИ перспективен в онкологии, но сначала нужно преодолеть препятствия

Системы ИИ должны облегчать онкологическую практику, а не усложнять ее. Они должны работать с проверенными данными, быть энергоэффективными и постоянно обновляться. И прежде всего оставаться ориентированными на человека.

Искусственный интеллект может революционизировать онкологию, но для реализации этого потенциала он должен строиться на точности, справедливости, прозрачности и устойчивости.