Фантомная болезнь искусственного интеллекта: что такое Bixonimania? Как отличить реальность от вымысла?
В этой статье
Цифровой троянский конь научной литературы: вымышленная болезнь, изобретённая искусственным интеллектом
Nature News Feature, 2026 · doi: 10.1038/d41586-026-01100-y
На протяжении истории медицины несуществующие болезни порой принимались за реальные. Однако эти заблуждения возникали из-за недостатка знаний, ошибок наблюдения или ограниченности представлений своего времени. Сегодня угроза приобретает гораздо более коварную форму: модели искусственного интеллекта способны включать в академическую литературу болезнь, изначально задуманную как вымышленная, словно она реальна, и представлять её миллионам пользователей. 7 апреля 2026 года журнал Nature опубликовал статью, которую мы рассматриваем здесь: она показывает, что этот риск уже не просто возможность, а свершившаяся реальность.
Bixonimania: рождение болезни, которой никогда не существовало
В начале 2024 года стал появляться термин, ранее никогда не встречавшийся в медицинской литературе: Bixonimania. Якобы речь шла о редком синдроме, сопровождающемся изменением пигментации век и хроническим зудом вследствие длительного воздействия синего света (blue light), излучаемого цифровыми экранами.
Выше: Созданные искусственным интеллектом изображения вымышленной болезни Bixonimania. Источник: Preprints.org https://doi.org/qzm4 (2024)
В действительности такой болезни никогда не существовало. Это была намеренная и контролируемая ловушка, разработанная медицинскими исследователями Гётеборгского университета, чтобы измерить уязвимость больших языковых моделей (LLM — large language model) к дезинформации. Результаты оказались поразительными в степени, которой не ожидали даже сами исследователи.
Как сконструировали вымышленную болезнь?
Чтобы внедрить вымышленную болезнь в академическую среду, исследователи последовательно выполнили ряд систематических шагов:
В разделе благодарностей статьи упоминались «Starfleet Academy и экипаж USS Enterprise (Star Trek)», а в качестве источника финансирования — «Фонд профессора Figüran Bob». Такие детали внимательный человек заметил бы за несколько секунд. Модели искусственного интеллекта полностью проигнорировали эти сигналы.
Что сказали модели?
Всего через несколько недель после размещения фальшивых статей в интернете самые широко используемые в мире модели искусственного интеллекта начали сообщать о Bixonimania как о реальном заболевании в ответах на вопросы о синем свете и здоровье глаз.
«Bixonimania действительно представляет собой интересное и относительно редкое состояние» — так он описал болезнь, словно она была клинической реальностью.
Он представил Bixonimania как «следствие воздействия синего света» и посоветовал пользователю обратиться к офтальмологу.
Он даже выразил частоту встречаемости болезни численно: один случай на 90000 человек — так он описал редкий синдром.
Модели классифицировали текст, написанный в академическом формате, как «надёжный источник» на основании его статистической структуры и языковых закономерностей. Не обладая контекстным пониманием, необходимым для распознавания шутки о Starfleet, эти системы принимали за истину всё, что выглядело научным.
Схематическое изображение того, как ложная информация надолго проникает в академическую литературу
Настоящий скандал: ложная информация попала в рецензируемый журнал
Случай Bixonimania не остался лишь «ошибкой чат-бота». Самая серьёзная сторона этой истории проявилась в научных публикациях. В статье, опубликованной на уважаемой академической платформе Cureus, исследователи из медицинского института в Индии сослались на Bixonimania как на реальное клиническое состояние.
Это доказывало лишь одно: при написании собственной статьи эти исследователи поручили искусственному интеллекту поиск литературы и использовали предложенные ИИ источники вообще не читая их — напрямую, даже не заметив содержавшуюся в них шутку о Starfleet. Natureобратил на это внимание, после чего статью отозвали в марте 2026 года (retracted).
Почему искусственный интеллект попал в эту ловушку?
Ответ на этот вопрос кроется в базовой логике работы больших языковых моделей. Эти модели обрабатывают тексты не понимая их , а распознавая статистические закономерности. Формула академической статьи — заголовок, аннотация, методы, обсуждение, список литературы, благодарности — воспринимается ИИ как «сигнал достоверности». Логическая связность содержания или контекстная нелепость выражения вроде «Starfleet Academy» при этом не отсеиваются фильтром.
Человек-читатель насторожился бы, едва увидев в благодарностях название вымышленного космического корабля. Искусственный интеллект обработал это выражение как название реального учреждения, поскольку синтаксическая структура предложения полностью совпадала с другими академическими благодарностями.
Сравнение реакции на тревожные сигналы в статье о Bixonimania
Что это означает для медицины?
Bixonimania была сознательно поставленным и отслеживаемым экспериментом; подлог обнаружили и исправили. Главный вопрос: сколько подобных случаев остаётся незамеченными?
- Пациенты или их близкие могут столкнуться с вымышленными диагнозами
- Клиницисты могут быть введены в заблуждение при поиске литературы с помощью ИИ
- Возможны ненужные диагностические исследования или ошибочные направления
- Отозванные статьи продолжают распространяться в интернете
- Петля обратной связи: ИИ подкрепляет собственную ошибку
- Размывание академического доверия; недостаточность рецензирования
- Долгосрочное ухудшение качества медицинской литературы
- Снижение общественного доверия к инструментам ИИ
Петля обратной связи: ложь подпитывает ложь
Наиболее опасная сторона этой проблемы заключается в системной динамике, выходящей за пределы единичной ошибки. Большие языковые модели и обучаются, и генерируют ответы, сканируя уже существующий контент в интернете. Когда фальшивая статья появляется на академической платформе, а модель ИИ принимает её за истину и отражает в своих ответах, следующий шаг неизбежен: другой исследователь использует ответ ИИ как источник и публикует новую статью. При следующем сканировании ИИ обрабатывает и эту новую статью как «проверенную информацию». Цикл замыкается; ложная информация укореняется, с каждым оборотом получая всё больше легитимности.
Защита: практическое руководство
🔎 ПРОЧИТАЙ ИСТОЧНИК САМОСТОЯТЕЛЬНО
Когда ИИ рекомендует или цитирует статью, самостоятельно найди этот источник и прочитай его полностью, включая благодарности, сведения об авторах и раздел о финансировании. ИИ не может заменить само чтение.
✅ ПРОВЕРЬ DOI И ЖУРНАЛ
Проверь, действительно ли существует DOI каждой ссылки и является ли цитируемый журнал признанным рецензируемым изданием. Не забывай, что препринты ещё не прошли рецензирование.
⚠ СОБЛЮДАЙ ОСТОРОЖНОСТЬ ПРИ ИСПОЛЬЗОВАНИИ ИИ ДЛЯ ПОИСКА ЛИТЕРАТУРЫ
Поиск литературы с помощью ИИ может ускорить исследовательский процесс; однако вместо слепого доверия сгенерированным спискам ссылок необходимо проверять каждый источник отдельно. Галлюцинации — выдумывание несуществующих источников — представляют собой документально подтверждённую проблему всех крупных моделей.
🛡 СОХРАНЯЙ НАВЫК КРИТИЧЕСКОГО ЧТЕНИЯ
Как бы ни совершенствовались цифровые инструменты, способность улавливать контекст текста, его противоречия и логические ошибки остаётся наиболее ценной функцией человеческого суждения. В эпоху искусственного интеллекта этот навык становится ещё важнее.
🎓 Академия DROZDOGAN — Комментарий и обсуждение
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И НАУЧНАЯ ДОБРОСОВЕСТНОСТЬ · ОЦЕНКА
Значение этого эксперимента
Эксперимент Bixonimania представляет собой первое контролируемое свидетельство уязвимости, которая реально проявляется уже сегодня, а не возможного будущего риска. Исследователи намеренно внесли очевидные ошибки, однако и модели искусственного интеллекта, и академический журнал попали в эту ловушку. Это ясно показывает, что вопрос «галлюцинаций ИИ» перестал быть теоретическим опасением и превратился в практическую проблему безопасности пациентов.
Сильные стороны эксперимента
Главная методологическая сила исследования заключается в том, что ловушка была одновременно обнаружимой (шутка о Starfleet) и достаточно убедительной, чтобы остаться незамеченной. Такая двойственная структура доказывает, что ошибка носит системный, а не случайный характер. Кроме того, попадание нескольких моделей в одну и ту же ловушку показывает, что проблема не присуща только определённой модели. Включение случая Cureus особенно ценно, поскольку расширяет утверждение с поведения ИИ как такового до уязвимостей академического издательского процесса.
Ограничения и открытые вопросы
Основное ограничение эксперимента состоит в том, что ловушку сконструировали сознательно и намеренно; в реальных условиях ложная информация не несёт столь явных «флажков», а может быть гораздо убедительнее и неоднозначнее. Поэтому оценки эксперимента, вероятно, остаются оптимистичными; действительный риск может быть выше. Также остаются без ответа вопросы, научатся ли модели со временем распознавать этот конкретный паттерн и насколько устойчивыми они окажутся к более изощрённой дезинформации.
Последствия для клинической и институциональной практики
Для всех медицинских специальностей, прежде всего онкологии, эти результаты несут ясное послание: инструменты ИИ могут ускорить поиск литературы, но не снимают ответственности за проверку источника. В рецензионные процедуры научных журналов теперь необходимо включать дополнительные уровни выявления контента, созданного ИИ или основанного на нём. На институциональном уровне обучение исследователей «грамотности в области ИИ» должно стать стандартным компонентом.
Вопросы на будущее
Наиболее важные вопросы, ожидающие ответа, таковы: сколько фальшивых ссылок, созданных с помощью ИИ, уже циркулирует в академической литературе и можно ли выявить их ретроспективно? Насколько долговременный ущерб медицинской базе знаний способна нанести систематическая дезинформационная кампания, проникающая в обучающие данные больших языковых моделей? Могут ли издатели журналов разработать отраслевой стандарт проверки контента на основе ИИ? Эти вопросы вскоре займут ведущие места среди первоочередных задач, которые медицинской науке предстоит решать в ближайшее десятилетие.
Научные источники
- Stokel-Walker C. Scientists invented a fake disease. AI told people it was real. Nature News Feature, 2026. doi: 10.1038/d41586-026-01100-y
- Thunström AO и соавт. Эксперимент Bixonimania — методология проекта и анализ ответов LLM. Гётеборгский университет, 2024–2026.
- Athaluri SA, Murali SV, Kesapragada VSRK et al. Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 2023;15:e37432. doi: 10.7759/cureus.37432
- Bender EM, Gebru T, McMillan-Major A, Shmitchell S. On the dangers of stochastic parrots: can language models be too big? Proceedings of FAccT 2021:610–623.
- Alkaissi H, McFarlane SI. Artificial hallucinations in ChatGPT: implications in scientific writing. Cureus 2023;15:e35179.
Эта статья создана с использованием различных редакторских инструментов, включая искусственный интеллект. Перед публикацией её проверили редакторы-люди.
Эта статья была полезна?
Ваш отзыв помогает нам улучшать материалы.
Комментарии читателей
Оставьте комментарий
Ваше имя и комментарий публикуются только после одобрения администратором. Ваш адрес электронной почты никогда не показывается посетителям.
Будьте первым, кто оставит комментарий.