بیماری شبح‌گونه هوش مصنوعی: Bixonimania چیست؟ چگونه واقعیت را از خیال تشخیص دهیم؟
در این مقاله
اسب تروای دیجیتال ادبیات علمی: بیماری خیالی اختراع‌شده به‌دست هوش مصنوعی
Nature News Feature, 2026 · doi: 10.1038/d41586-026-01100-y
در طول تاریخ پزشکی، گاهی بیماری‌هایی که وجود نداشته‌اند، واقعی پنداشته شده‌اند. اما این اشتباهات محصول کمبود دانش، خطاهای مشاهده یا درک محدود آن دوران بودند. امروز تهدید پیش روی ما شکلی بسیار موذیانه‌تر به خود می‌گیرد: مدل‌های هوش مصنوعی می‌توانند بیماری‌ای را که از ابتدا خیالی طراحی شده است، همچون واقعیت وارد ادبیات دانشگاهی کنند و به میلیون‌ها کاربر ارائه دهند. مقاله‌ای که در 7 آوریل 2026 در نشریه Nature منتشر شد و موضوع نوشتار ماست، نشان می‌دهد که این خطر دیگر صرفاً یک احتمال نیست، بلکه واقعیتی است که رخ داده است.
Bixonimania: تولد بیماری‌ای که هرگز وجود نداشت
در اوایل 2024، اصطلاحی شروع به ظهور کرد که پیش از آن هرگز نامش در ادبیات پزشکی نیامده بود: Bixonimania. بنا بر ادعا، این عارضه سندرمی نادر بود که در اثر مواجهه طولانی‌مدت با نور آبی (blue light) ساطع‌شده از نمایشگرهای دیجیتال ایجاد می‌شد و با تغییر رنگ‌دانه‌های پلک و خارش مزمن همراه بود.
در بالا: تصاویر تولیدشده با هوش مصنوعی از بیماری خیالی به نام Bixonimania. منبع: Preprints.org https://doi.org/qzm4 (2024)
در واقع چنین بیماری‌ای هرگز وجود نداشته است. این یک تله عمدی و کنترل‌شده بود که پژوهشگران پزشکی دانشگاه گوتنبرگ برای سنجش میزان آسیب‌پذیری مدل‌های زبانی بزرگ (LLM — large language model) در برابر اطلاعات گمراه‌کننده طراحی کرده بودند. نتایج به اندازه‌ای چشمگیر بود که حتی خود پژوهشگران نیز پیش‌بینی نکرده بودند.
بیماری جعلی چگونه ساخته شد؟
پژوهشگران برای وارد کردن بیماری خیالی به دنیای دانشگاهی، مجموعه‌ای از گام‌های نظام‌مند را دنبال کردند:
در بخش قدردانی مقاله به «Starfleet Academy و خدمه USS Enterprise (Star Trek)» و به «بنیاد پروفسور Figüran Bob» به‌عنوان منبع تأمین مالی اشاره شده بود. این‌ها جزئیاتی بودند که یک خواننده انسانی دقیق ظرف چند ثانیه متوجه آن‌ها می‌شد. مدل‌های هوش مصنوعی این نشانه‌ها را کاملاً نادیده گرفتند.
مدل‌ها چه گفتند؟
تنها چند هفته پس از بارگذاری مقاله‌های جعلی در اینترنت، پرکاربردترین مدل‌های هوش مصنوعی جهان در پاسخ به پرسش‌های مربوط به نور آبی و سلامت چشم، شروع به معرفی Bixonimania به‌عنوان یک عارضه پزشکی واقعی کردند.
«Bixonimania واقعاً عارضه‌ای جالب و نسبتاً نادر است» — بیماری را چنان توصیف کرد که گویی یک واقعیت بالینی است.
Bixonimania را «پیامد مواجهه با نور آبی» معرفی کرد و به کاربر توصیه کرد به چشم‌پزشک مراجعه کند.
حتی فراوانی وقوع بیماری را با عدد بیان کرد: یک نفر از هر 90000 نفر ؛ آن را سندرمی نادر با این فراوانی توصیف کرد.
مدل‌ها متن نوشته‌شده در قالب دانشگاهی را بر اساس ساختار آماری و الگوهای زبانی آن، «منبع معتبر» طبقه‌بندی کردند. این سامانه‌ها که فاقد درک زمینه‌ای لازم برای تفسیر شوخی Starfleet بودند، هر چیزی را که ظاهر علمی داشت، درست پذیرفتند.
نمایش شماتیک چگونگی نفوذ ماندگار اطلاعات جعلی به ادبیات دانشگاهی
رسوایی اصلی: اطلاعات جعلی وارد مجله داوری‌شده شد
ماجرای Bixonimania به یک «خطای چت‌بات» محدود نماند. جدی‌ترین بُعد ماجرا در حوزه نشر علمی رخ داد. پژوهشگران یک مؤسسه پزشکی در هند در مقاله‌ای که در پلتفرم دانشگاهی معتبر Cureusمنتشر کردند، به Bixonimania به‌عنوان یک عارضه بالینی واقعی استناد کردند.
این وضعیت تنها یک چیز را ثابت می‌کرد: این پژوهشگران هنگام نوشتن مقاله خود، مرور ادبیات را به هوش مصنوعی سپرده بودند و از منابعی که هوش مصنوعی ارائه کرده بود، بدون اینکه اصلاً آن‌ها را بخوانند — بی‌آنکه شوخی Starfleet درون آن‌ها را ببینند — مستقیماً استفاده کرده بودند. Natureهشدار داد و پس از آن، مقاله در مارس 2026 پس گرفته شد (retracted).
چرا هوش مصنوعی در این تله افتاد؟
پاسخ این پرسش در منطق بنیادی عملکرد مدل‌های زبانی بزرگ نهفته است. این مدل‌ها متن‌ها را نه با درک آن‌ها بلکه با شناسایی الگوهای آماری پردازش می‌کنند. الگوی یک مقاله دانشگاهی — عنوان، چکیده، روش، بحث، فهرست منابع، بخش قدردانی — از سوی هوش مصنوعی «نشانه اعتبار» تلقی می‌شود. سازگاری منطقی محتوا یا بی‌معنا بودن زمینه‌ای عبارتی مانند «Starfleet Academy» در این فرایند به دام فیلتر نمی‌افتد.
یک خواننده انسانی به‌محض دیدن نام یک سفینه فضایی خیالی در بخش قدردانی مکث می‌کرد. اما هوش مصنوعی این عبارت را درست مانند نام یک مؤسسه واقعی پردازش کرد؛ زیرا ساختار نحوی جمله دقیقاً با دیگر قدردانی‌های دانشگاهی یکسان بود.
مقایسه واکنش‌ها به نشانه‌های خطر در مقاله Bixonimania
برای پزشکی چه معنایی دارد؟
Bixonimania آزمایشی عمدی و قابل ردیابی بود؛ شناسایی و اصلاح شد. پرسش اصلی این است: چند مورد شناسایی نمی‌شوند؟
- بیماران یا نزدیکان آن‌ها ممکن است با تشخیص‌های خیالی مواجه شوند
- پزشکان ممکن است در مرور ادبیات با کمک هوش مصنوعی گمراه شوند
- ممکن است آزمایش‌های تشخیصی غیرضروری یا ارجاع‌های نادرست ایجاد شود
- مقاله‌های پس‌گرفته‌شده همچنان در اینترنت دست‌به‌دست می‌شوند
- حلقه بازخورد: هوش مصنوعی اشتباه تولیدشده توسط خودش را تقویت می‌کند
- فرسایش اعتماد دانشگاهی؛ ناکافی بودن فرایندهای داوری
- افت بلندمدت کیفیت ادبیات پزشکی
- فرسایش اعتماد عمومی به ابزارهای هوش مصنوعی
حلقه بازخورد: نادرستی، نادرستی را تغذیه می‌کند
خطرناک‌ترین بُعد این مسئله در پویایی نظام‌مندی نهفته است که از یک خطای منفرد فراتر می‌رود. مدل‌های زبانی بزرگ با جست‌وجوی محتوای موجود در اینترنت، هم یاد می‌گیرند و هم پاسخ تولید می‌کنند. هنگامی که مقاله‌ای جعلی در یک پلتفرم دانشگاهی قرار می‌گیرد و مدل هوش مصنوعی آن را درست می‌پندارد و در پاسخ‌هایش بازتاب می‌دهد، گام بعدی اجتناب‌ناپذیر است: پژوهشگری دیگر از پاسخ هوش مصنوعی به‌عنوان منبع استفاده می‌کند و مقاله تازه‌ای منتشر می‌سازد. هوش مصنوعی در جست‌وجوی بعدی، این مقاله جدید را نیز به‌عنوان «اطلاعات تأییدشده» بررسی می‌کند. چرخه بسته می‌شود؛ اطلاعات نادرست با هر دور، اندکی مشروعیت بیشتر می‌یابد و عمیق‌تر ریشه می‌دواند.
محافظت: راهنمای عملی
🔎 منبع را شخصاً بخوان
وقتی هوش مصنوعی مقاله‌ای پیشنهاد می‌کند یا به آن استناد می‌کند، خودت به آن منبع دسترسی پیدا کن و تمام آن را، از جمله بخش قدردانی، اطلاعات نویسندگان و تأمین مالی، بخوان. هوش مصنوعی نمی‌تواند جای عمل خواندن را بگیرد.
✅ DOI و مجله را تأیید کن
بررسی کن که آیا DOI هر ارجاع واقعاً وجود دارد و آیا مجله مورد استناد نشریه‌ای شناخته‌شده و داوری‌شده است. فراموش نکن که پیش‌چاپ‌ها هنوز داوری نشده‌اند.
⚠ هنگام استفاده از هوش مصنوعی به‌عنوان ابزار مرور ادبیات احتیاط کن
مرور ادبیات با کمک هوش مصنوعی می‌تواند روند پژوهش را سریع‌تر کند؛ اما به‌جای اعتماد کورکورانه به فهرست منابع تولیدشده، لازم است هر مورد جداگانه تأیید شود. توهم — ساختن منبعی که وجود ندارد — مشکلی مستند در همه مدل‌های بزرگ است.
🛡 مهارت خواندن انتقادی را حفظ کن
ابزارهای دیجیتال هرقدر هم پیشرفت کنند، توانایی تشخیص زمینه متن، ناسازگاری‌ها و خطاهای منطقی آن، ارزشمندترین کارکرد قضاوت انسانی است. این مهارت در عصر هوش مصنوعی حیاتی‌تر هم می‌شود.
🎓 آکادمی DROZDOGAN — تفسیر و بحث
هوش مصنوعی و درستکاری علمی · ارزیابی
اهمیت این آزمایش
آزمایش Bixonimania نخستین شاهد کنترل‌شده‌ای است که آسیب‌پذیری واقعاً موجود در زمان حاضر را مستند می‌کند، نه خطری احتمالی در آینده. پژوهشگران عمداً خطاهای آشکار قرار دادند و با این حال، هم مدل‌های هوش مصنوعی و هم یک مجله دانشگاهی در این تله افتادند. این موضوع به‌روشنی نشان می‌دهد که مسئله «توهمات هوش مصنوعی» دیگر صرفاً نگرانی نظری نیست و به مشکلی عملی برای ایمنی بیمار تبدیل شده است.
نقاط قوت آزمایش
مهم‌ترین نقطه قوت روش‌شناختی مطالعه این است که تله به‌گونه‌ای طراحی شده بود که هم قابل شناسایی باشد (شوخی Starfleet) و هم آن‌قدر قانع‌کننده باشد که شناسایی نشود. این ساختار دوگانه ثابت می‌کند که خطا تصادفی نیست، بلکه نظام‌مند است. همچنین افتادن بیش از یک مدل در همان تله نشان می‌دهد که مشکل مختص یک مدل مشخص نیست. وارد شدن ماجرای Cureus نیز از این جهت بسیار ارزشمند است که ادعا را از رفتار صرف هوش مصنوعی به آسیب‌پذیری‌های نشر دانشگاهی گسترش می‌دهد.
محدودیت‌ها و پرسش‌های باز
محدودیت اصلی آزمایش این است که تله آگاهانه و عمدی ساخته شده بود؛ در شرایط دنیای واقعی، اطلاعات جعلی چنین «پرچم‌های» آشکاری ندارد، بلکه ممکن است بسیار قانع‌کننده‌تر و مبهم‌تر باشد. بنابراین برآوردهای آزمایش احتمالاً خوش‌بینانه هستند؛ خطر واقعی ممکن است بزرگ‌تر باشد. همچنین این پرسش‌ها بی‌پاسخ مانده‌اند که آیا مدل‌ها به‌مرور این الگوی خاص را یاد خواهند گرفت و در برابر اطلاعات گمراه‌کننده پیچیده‌تر چقدر مقاوم خواهند بود.
بازتاب در عملکرد بالینی و سازمانی
این یافته‌ها برای همه تخصص‌های پزشکی، به‌ویژه انکولوژی، پیامی روشن دارند: ابزارهای هوش مصنوعی می‌توانند مرور ادبیات را سریع‌تر کنند، اما مسئولیت تأیید منبع را از میان نمی‌برند. افزودن لایه‌هایی به فرایند داوری مجلات دانشگاهی برای شناسایی محتوای تولیدشده توسط هوش مصنوعی یا متکی بر آن، اکنون به یک ضرورت تبدیل شده است. در سطح سازمانی نیز آموزش «سواد هوش مصنوعی» به پژوهشگران باید به یک جزء استاندارد تبدیل شود.
پرسش‌های آینده
حیاتی‌ترین پرسش‌هایی که اکنون در انتظار پاسخ هستند، این‌هاست: در حال حاضر چند ارجاع جعلی با کمک هوش مصنوعی در ادبیات دانشگاهی در گردش است و آیا می‌توان آن‌ها را به‌صورت گذشته‌نگر شناسایی کرد؟ یک کارزار نظام‌مند اطلاعات گمراه‌کننده که به داده‌های آموزشی مدل‌های زبانی بزرگ نفوذ کند، تا چه اندازه می‌تواند به پایگاه دانش پزشکی آسیب ماندگار بزند؟ آیا ناشران مجلات می‌توانند چارچوبی مطابق استاندارد صنعت برای نظارت بر محتوا بر پایه هوش مصنوعی ایجاد کنند؟ این پرسش‌ها در آستانه قرار گرفتن در صدر موضوعات اولویت‌داری هستند که علم پزشکی در دهه پیش رو باید به آن‌ها پاسخ دهد.
منابع علمی
- Stokel-Walker C. Scientists invented a fake disease. AI told people it was real. Nature News Feature, 2026. doi: 10.1038/d41586-026-01100-y
- Thunström AO و همکاران آزمایش Bixonimania — روش‌شناسی پروژه و تحلیل پاسخ‌های LLM. دانشگاه گوتنبرگ، 2024–2026.
- Athaluri SA, Murali SV, Kesapragada VSRK et al. Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 2023;15:e37432. doi: 10.7759/cureus.37432
- Bender EM, Gebru T, McMillan-Major A, Shmitchell S. On the dangers of stochastic parrots: can language models be too big? Proceedings of FAccT 2021:610–623.
- Alkaissi H, McFarlane SI. Artificial hallucinations in ChatGPT: implications in scientific writing. Cureus 2023;15:e35179.
این مقاله با استفاده از ابزارهای مختلف ویراستاری، از جمله هوش مصنوعی، تهیه شده است. پیش از انتشار، توسط ویراستاران انسانی بررسی شده است.
آیا این مقاله برای شما مفید بود؟
بازخورد شما به بهبود محتوای ما کمک می‌کند.
نظرهای خوانندگان
نظر خود را بنویسید
نام و دیدگاه شما فقط پس از تأیید مدیر منتشر می‌شود. نشانی ایمیل شما هرگز به بازدیدکنندگان نمایش داده نمی‌شود.
اولین نظر را شما بنویسید.