چرا بعضی پزشکان بیش از حد به هوش مصنوعی اعتماد می‌کنند و حتی متوجه نیستند؟
در این مقاله
هوش مصنوعی و پویایی‌های در حال تغییر پزشکی
فناوری‌های هوش مصنوعی می‌توانند در حوزه‌های گوناگون پزشکی انقلاب ایجاد کنند. اما این نوآوری‌ها با خطر اعتماد بیش از حد پزشک، بیمار و خانواده به فناوری نیز همراه‌اند.
به‌ویژه «سوگیری اتوماسیون» یا automation bias، که پزشک را به پذیرش بی‌پرسش تصمیم سیستم هوش مصنوعی سوق می‌دهد، می‌تواند هم بر یادگیری و هم ایمنی بیمار اثر بگذارد. این نوشته، فواید و خطرهای هوش مصنوعی در تصمیم پزشکی و راه‌های ادغام مؤثرتر آن را بررسی می‌کند.
فواید و خطرهای تصمیم‌گیری مبتنی بر هوش مصنوعی
تجربهٔ دکتر استفن بلموستاکوف نشان می‌دهد هوش مصنوعی چگونه می‌تواند در پزشکی «بالشتک اطمینان» شود. او در بیمارستانی در نیویورک با رادیولوژیِ پشتیبانی‌شده توسط هوش مصنوعی کار می‌کرد و می‌گوید در شغل تازه، بدون دسترسی به آن احساس «ناامنی» داشت. سیستم‌ها نوعی چشم دوم به پزشک می‌دهند، اما خطر اتکای بیش از حد به آن‌ها نیز وجود دارد.
سوگیری اتوماسیون؛ خطرهای دیده‌شده
سوگیری اتوماسیون می‌تواند باعث پذیرش بی‌پرسش پیشنهادهای هوش مصنوعی شود. پژوهشی به سرپرستی دکتر پل یی واکنش پزشکان به تصمیم هوش مصنوعی را بررسی می‌کند. 220 رادیولوژیست و متخصص غیررادیولوژی، سودمندی یافته‌های ارائه‌شده را متفاوت ارزیابی کردند. هنگام ارائهٔ یافتهٔ نادرست، رادیولوژیست‌ها سیستم را مفید نمی‌دانستند، اما پزشکان غیرمتخصص بیشتر به آن اعتماد می‌کردند. این نشان می‌دهد اعتماد به هوش مصنوعی ممکن است با سطح تخصص تغییر کند .
نقش هوش مصنوعی در آموزش پزشکی و کار بالینی
گسترش سیستم‌ها ممکن است آموزش پزشکی را نیز دگرگون کند. در آموزش بالینی، «نظر دوم فوری» می‌تواند پویایی یادگیری را تغییر دهد. دکتر بلموستاکوف می‌گوید علامت‌گذاری پیشاپیش یافته‌های رادیولوژی توسط هوش مصنوعی، بهره‌وری یادگیری را کاهش می‌دهد . او توضیح می‌دهد: «اینکه ابزاری فوراً یک یافتهٔ مثبت را به شما بگوید، شیوهٔ نگاه کردن شما را تغییر می‌دهد،».
آثار احتمالی تصمیم نادرست
تصمیم نادرست هوش مصنوعی می‌تواند ایمنی بیمار را شدیداً تهدید کند. پیشنهاد درست، کارایی را بالا می‌برد؛ اما در خستگی یا فشار کاری پزشک، توصیهٔ نادرست ممکن است به خطای جبران‌ناپذیر بینجامد. در سناریوی مطالعهٔ پل یی، رادیولوژیست شاید صرفاً «بله بگوید و ادامه دهد» و خطای پزشکی رخ دهد.
مدیریت تعامل با هوش مصنوعی؛ پیشنهادها
طراحی بر اساس کاربر
شیوهٔ ارتباط سیستم با پزشک حیاتی است. برخی سیستم‌ها یافته را با کادر ساده مشخص می‌کنند و برخی با مقایسهٔ موارد مشابه، توضیح بیشتری می‌دهند. این دو روش می‌توانند اعتماد پزشک را بسیار تغییر دهند. توضیح ساده‌تر تصمیم را سریع می‌کند، اما ممکن است به ارزیابی ناکافی بینجامد.
آموزش و گواهی صلاحیت
می‌توان برای استفادهٔ مؤثر، برنامهٔ آموزش و گواهی صلاحیت ایجاد کرد. دکتر پل یی می‌گوید رادیولوژیست‌های استفاده‌کننده باید به سطح معینی از توانمندی برسند؛ اقدامی که هم ایمنی بیمار را بیشتر و هم اعتماد پزشک را آگاهانه‌تر می‌کند.
چکیده
چرا بیش از حد به هوش مصنوعی اعتماد می‌کنیم؟
-
سوگیری اتوماسیون
ابزارهای هوش مصنوعی معمولاً با ادعای دقت بالا معرفی می‌شوند و ممکن است پزشک تصمیم خودکار را بی‌پرسش بپذیرد. مغز انسان ممکن است به فناوری بیش از حد اعتماد کند. -
زمان و استرس
پزشک زیر بار کاری و فشار تصمیم بالینی ممکن است هوش مصنوعی را ابزار صرفه‌جویی در زمان و نظر دوم سریع ببیند. این آسانی خطر فراموش کردن بررسی نتایج اشتباه را دارد. -
بی‌طرفی ادراک‌شده
این تصور که الگوریتم از خطای انسان پاک است، ممکن است فرض نادرست بی‌طرفی و اعتمادپذیری ایجاد کند. اما الگوریتم‌ها می‌توانند سوگیری دادهٔ آموزشی را نیز حمل کنند. -
کمبود آموزش و آگاهی
پزشک بدون آموزش کافی دربارهٔ کاربرد درست و تحلیل انتقادی، ممکن است محدودیت‌ها را نفهمد و ناآگاهانه بیش از حد اعتماد کند.
دام‌های پیش روی پزشک در استفاده از هوش مصنوعی
-
مثبت و منفی کاذب
سیستم‌ها می‌توانند مثبت یا منفی کاذب بدهند؛ مثبت کاذب به مداخلهٔ غیرضروری و منفی کاذب به نادیده گرفتن مشکل حیاتی می‌انجامد. -
ابهام مسئولیت
در صورت خطا، اتکای بیش از حد به تصمیم سیستم ممکن است تعیین سهم پزشک یا سیستم را دشوار و مسائل اخلاقی و حقوقی ایجاد کند. -
وابستگی بیش از حد به فناوری
اگر پزشک به‌جای دانش و تجربهٔ خود کاملاً بر هوش مصنوعی تکیه کند، قضاوت انسانی ممکن است در طول زمان ضعیف شود؛ خطری به‌ویژه وقتی احتمال خطای سیستم بالاست. -
سوگیری الگوریتمی
ابزارها ممکن است سوگیری مجموعه‌دادهٔ آموزشی را بازتاب دهند و برای گروه‌های بیمار یا شرایط معین، نتایج نابرابر و خطر ایمنی ایجاد کنند.
راه‌های پیشگیری از اعتماد بیش از حد
-
برنامه‌های آموزشی جامع
باید برای شناخت عملکرد، محدودیت و سوگیری احتمالی هوش مصنوعی، برنامه‌های آموزشی پزشکان تدوین شود. آموزش باید شیوهٔ کار الگوریتم، ارزیابی درست و تشخیص تصمیم نادرست را در بر گیرد. -
شفافیت و توضیح‌پذیری
ابزار باید معیارهای تصمیم را توضیح دهد. سیستم‌ها باید شفاف‌تر و توضیح‌پذیرتر شوند تا پزشک بفهمد چرا الگوریتم به نتیجه‌ای معین رسیده است. -
همکاری متعادل انسان و فناوری
هوش مصنوعی باید ابزار پشتیبان تصمیم بالینی باشد و تصمیم نهایی همیشه به قضاوت حرفه‌ای پزشک واگذار شود. ابزارها باید توانایی پزشک را تکمیل کنند، نه اینکه جای او را بگیرند. -
استانداردهای مقرراتی و فرایند تأیید
برای کاربرد پزشکی هوش مصنوعی باید مقررات و استانداردهای سخت‌گیرانه تعیین شود؛ شامل آزمایش دقیق اعتمادپذیری، بی‌طرفی و صحت الگوریتم و به‌روزرسانی منظم آن.
نتیجه‌گیری؛ تعادل فناوری و عامل انسانی
هوش مصنوعی فرصت‌های بزرگی در پزشکی دارد، اما نباید خطرهای اعتماد بیش از حد پزشک را نادیده گرفت. کاهش سوگیری اتوماسیون به طراحی بهتر، آموزش جامع و چارچوب مقرراتی دقیق نیاز دارد. این فناوری در استفادهٔ متعادل با عنصر انسانی، بر کار پزشکی اثر مثبت خواهد داشت.
منابع
آیا این مقاله برای شما مفید بود؟
بازخورد شما به بهبود محتوای ما کمک می‌کند.
نظرهای خوانندگان
نظر خود را بنویسید
نام و دیدگاه شما فقط پس از تأیید مدیر منتشر می‌شود. نشانی ایمیل شما هرگز به بازدیدکنندگان نمایش داده نمی‌شود.
اولین نظر را شما بنویسید.