آیا چت‌بات‌های هوش مصنوعی درباره سرطان اطلاعات قابل اعتماد می‌دهند؟ بله و خیر
در این مقاله
سرطان بیماری‌ای است که در سراسر جهان هر سال باعث جان باختن حدود 10 میلیون نفر می‌شود. دسترسی به اطلاعات درست و قابل اعتماد درباره گزینه‌های درمانی و جزئیات آن‌ها، برای بیماران و متخصصان سلامت اهمیت حیاتی دارد. چت‌بات‌های هوش مصنوعی، به‌تدریج به منابع پرکاربردتری برای اطلاعات سلامت تبدیل می‌شوند. با این حال، کیفیت توصیه‌های پزشکی ارائه‌شده توسط این ربات‌ها هنوز به شکلی جدی ارزیابی نشده است. JAMA Oncology دو پژوهش تازه منتشر کرده است که داده‌های مهمی درباره این موضوع ارائه می‌کنند. نتایج این پژوهش‌ها برای بیماران مبتلا به سرطان و متخصصان سلامت اهمیت زیادی دارد.
چت‌بات‌های هوش مصنوعی معمولاً اطلاعات درست می‌دهند
کیفیت و منابع
پژوهش نخست، جست‌وجوهای پرطرفدار گوگل درباره سرطان را بررسی کرد و نشان داد که چت‌بات‌های هوش مصنوعی معمولاً اطلاعات درستی در اختیار مصرف‌کنندگان قرار می‌دهند.
پژوهشگران،
- ChatGPT-3.5،
- Perplexity،
- Chatsonic و
- Bing AI را
به عنوان چهار چت‌بات متفاوت هوش مصنوعی بررسی کردند و کیفیت پاسخ‌های ارائه‌شده توسط آن‌ها را تحلیل کردند.
سه مورد از این چهار چت‌بات با ارجاع به منابع قابل اعتمادی مانند انجمن سرطان آمریکا، کلینیک مایو و مراکز کنترل و پیشگیری از بیماری‌ها اطلاعات ارائه کرده‌اند.
نکته: چت‌بات‌های هوش مصنوعی همراه با پیشرفت سریع فناوری، پیوسته بهتر می‌شوند. برای نمونه، در حالی که نسخه 3.5 از ChatGPT در این پژوهش بررسی شده بود، اکنون نسخه GPT-4 در دسترس است و این نسخه تازه در ارائه اطلاعات و پاسخ دادن به پرسش‌ها قابلیت‌های بسیار پیشرفته‌تری دارد. GPT-4 با مجموعه داده گسترده‌تری آموزش دیده و می‌تواند به پرسش‌ها و سناریوهای پیچیده‌تر، پاسخ‌های درست‌تر و مفصل‌تری بدهد. این امر نشان می‌دهد که چت‌بات‌های هوش مصنوعی ممکن است در آینده منبع قابل اعتمادتری برای توصیه پزشکی و درمان سرطان باشند. با این حال، لازم است کارایی این پیشرفت‌ها نیز در کاربردهای بالینی به‌درستی ارزیابی شود.
مشکل پیچیدگی
با این حال، پژوهش همچنین اشاره کرد که به دلیل پیچیدگی اطلاعات ارائه‌شده، سودمندی آن‌ها ممکن است محدود باشد. به‌ویژه، پاسخ‌ها معمولاً در سطح خواندن دانشگاهی بودند و در نتیجه ممکن است برای عموم جامعه قابل درک نباشند.
موضوعات مرتبط
اما در توصیه‌های درمانی کاستی‌هایی وجود دارد
مشکلات انطباق
از سوی دیگر، در ارزیابی توصیه‌های درمان سرطان، پژوهش دوم، نشان داد که چت‌بات‌های هوش مصنوعی اغلب نمی‌توانند توصیه‌هایی همسو با راهنماهای ملی درمان ارائه کنند. ربات‌ها به‌ویژه درباره سرطان‌های پستان، پروستات و ریه اغلب انتظارها را برآورده نکردند.
در این پژوهش، 104 متن متفاوت برای طرح پرسش تهیه شد و راهبردهای درمانی حاصل از آن‌ها با راهنماهای سال 2021 شبکه ملی جامع سرطان (NCCN) مقایسه شد.
توصیه‌های گمراه‌کننده
پژوهش نشان داد که در حدود یک‌سوم موارد چت‌بات‌ها (34%)، دست‌کم یک توصیه درمانی با راهنماهای ملی یا رویه‌های پذیرفته‌شده پزشکی هماهنگ نبود. افزون بر این، حدود 13% از توصیه‌های درمانی ارائه‌شده توسط چت‌بات‌ها در راهنماهای پزشکی موجود نبودند؛ یعنی توصیه‌هایی بودند که «غیرواقعی» یا «خیالی» تلقی می‌شدند. این نوع توصیه‌های گمراه‌کننده بیشتر به صورت گزینه‌هایی مانند درمان موضعی، درمان هدفمند یا ایمنی‌درمانی برای بیماران مبتلا به سرطان پیشرفته ارائه شده بودند.
امیدها و پیشنهادهایی برای آینده
ظرفیت هوش مصنوعی
با وجود این محدودیت‌ها، درباره آینده هوش مصنوعی در پزشکی امیدواری وجود دارد. الگوریتم‌های هوش مصنوعی را می‌توان با داده‌های بهترین نظام‌های پزشکی جهان آموزش داد و با تازه‌ترین راهنماهایی مانند NCCN به‌روز کرد.
لزوم پایش دقیق
اما هنگام ادغام این الگوریتم‌ها در نظام‌های سلامت، لازم است آن‌ها به‌دقت پایش شوند. به‌ویژه، الگوریتم‌ها ممکن است اطلاعات نادرست یا گمراه‌کننده ارائه کنند و این امر می‌تواند پیامدهای جدی برای بیماران داشته باشد.
نتیجه‌گیری
هرچند چت‌بات‌های هوش مصنوعی معمولاً اطلاعات درستی درباره سرطان ارائه می‌کنند، به نظر می‌رسد منبع قابل اعتمادی برای توصیه‌های درمانی نیستند. این موضوع هشداری مهم برای بیماران و متخصصان سلامت است و برای آنکه ظرفیت هوش مصنوعی در پزشکی به طور کامل محقق شود، پژوهش و تنظیم‌گری بیشتری لازم است.
منابع
2. Chen S, Kann BH, Foote MB, et al. Use of Artificial Intelligence Chatbots for Cancer Treatment Information. JAMA Oncol. انتشار آنلاین August 24, 2023. doi:10.1001/jamaoncol.2023.2954
آیا این مقاله برای شما مفید بود؟
بازخورد شما به بهبود محتوای ما کمک می‌کند.
نظرهای خوانندگان
نظر خود را بنویسید
نام و دیدگاه شما فقط پس از تأیید مدیر منتشر می‌شود. نشانی ایمیل شما هرگز به بازدیدکنندگان نمایش داده نمی‌شود.
اولین نظر را شما بنویسید.