Niyə bəzi həkimlər süni intellektə həddindən artıq güvənir və bunu heç hiss etmirlər?

Süni intellekt və tibbdə dəyişən dinamika

Süni intellekt (Sİ) texnologiyaları tibbin müxtəlif sahələrində inqilab yaratmaq potensialına malikdir. Lakin bu yeniliklərlə yanaşı həkimlərin, xəstələrin və xəstə yaxınlarının həmin texnologiyalara həddindən artıq güvənməsi riski də var.

Xüsusilə “avtomatlaşdırma qərəzi” (automation bias) adlanan və həkimlərin Sİ sistemlərinin qərarlarını sorğulamadan qəbul etməsinə səbəb olan davranış həm öyrənmə prosesinə, həm də xəstə təhlükəsizliyinə təsir edə bilər. Bu yazıda tibbi qərarlarda Sİ istifadəsinin faydaları, riskləri və bu texnologiyaların daha səmərəli inteqrasiyası nəzərdən keçirilir.

Sİ-yə əsaslanan qərarların faydaları və riskləri

Dr. Stephen Belmustakovun təcrübəsi Sİ-nin tibbdə necə bir “təhlükəsizlik yastığına” çevrilə bildiyini aydın göstərir. Nyu-Yorkdakı xəstəxanada Sİ dəstəkli radiologiya sistemləri ilə işləyən Belmustakov yeni işində həmin texnologiyaya çıxışı olmayanda özünü “inamsız” hiss etdiyini deyir. Sİ sistemləri klinisistlərə bir növ ikinci göz təqdim etsə də, bu sistemlərə həddindən artıq güvənmək təhlükəsi də daşıyır.

Avtomatlaşdırma qərəzi: görünən təhlükələr

Avtomatlaşdırma qərəzi həkimlərin Sİ-nin tövsiyələrini sorğulamadan qəbul etməsinə səbəb ola bilər. Dr. Paul Yi tərəfindən aparılan araşdırma həkimlərin Sİ qərarlarına necə reaksiya verdiyini qiymətləndirir. Araşdırmaya qatılan 220 radioloq və radiologiya sahəsindən olmayan mütəxəssislər Sİ-nin təqdim etdiyi nəticələrin faydalılığını fərqli qiymətləndiriblər. Yanlış nəticələr təqdim ediləndə radiologiya mütəxəssisləri Sİ-ni faydalı saymayıb, həmin sahənin mütəxəssisi olmayan həkimlər isə sistemə daha çox güvənməyə meyilli olub. Bu, Sİ-yə güvənin mütəxəssislik səviyyəsindən asılı olaraq dəyişə biləcəyini göstərir.

Tibb təhsilində və klinik praktikada Sİ-nin rolu

Sİ sistemlərinin yayılması tibb təhsilində də dəyişiklik yarada bilər. Klinik təlim zamanı Sİ-nin verdiyi “dərhal ikinci rəy” öyrənmə dinamikasına təsir edə bilər. Dr. Belmustakov radioloji tapıntıların Sİ tərəfindən əvvəlcədən işarələnməsinin öyrənmə məhsuldarlığını azaltdığına diqqət çəkir. O deyir: “Bir vasitənin müsbət tapıntını dərhal sizə deməsi sizin necə baxdığınızı dəyişir.”.

Yanlış qərarların mümkün təsirləri

Sİ-nin yanlış qərarları xəstə təhlükəsizliyini ciddi riskə ata bilər. Sİ sistemləri düzgün tövsiyələr verəndə səmərəliliyi artıra bilər. Lakin həkimlərin yorğun və ya təzyiq altında olduğu hallarda yanlış tövsiyələr geri dönməz səhvlərə səbəb ola bilər. Paul Yinin araşdırmasında təsvir edilən ssenaridə radioloq “sadəcə bəli deyib davam etmək” meyli göstərə bilər; bu isə tibbi səhvlər yarada bilər.

Sİ ilə qarşılıqlı əlaqənin idarə olunması: həll təklifləri

İstifadəçiyə uyğun Sİ dizaynı

Sİ sistemlərinin həkimlərlə necə ünsiyyət qurması çox vacibdir. Bəzi sistemlər tapıntıları sadə çərçivələrlə işarələyir, digərləri oxşar halları müqayisə edərək daha ətraflı izah verir. Bu iki yanaşma həkimlərin Sİ-yə güvəninə əhəmiyyətli təsir göstərə bilər. Daha sadə izah həkimin sürətli qərar verməsinə kömək etsə də, qeyri-kafi qiymətləndirməyə yol aça bilər.

Təlim və sertifikatlaşdırma

Sİ sistemlərinin səmərəli istifadəsi üçün təlim və sertifikatlaşdırma proqramları hazırlana bilər. Dr. Paul Yi Sİ əsaslı sistemlərdən istifadə edəcək radioloqların müəyyən səriştə səviyyəsinə çatmalı olduğunu bildirir. Bu, həm xəstə təhlükəsizliyini artıra, həm də həkimlərin sistemlərə daha şüurlu güvənməsini təmin edə bilər.

XÜLASƏ

Niyə süni intellektə həddindən artıq güvənirik?

1. Avtomatlaşdırma qərəzi
   Süni intellekt vasitələri adətən yüksək dəqiqlik iddiaları ilə təqdim olunur. Bu, həkimlərin avtomatik qərarları sorğulamadan qəbul etməsinə yol aça bilər. İnsan beyni texnologiyaya həddindən artıq güvənməyə meyilli ola bilər.

2. Vaxt və stress amili
   Klinik mühitdə ağır iş yükü və qərar təzyiqi altında olan həkimlər süni intellekt vasitələrini vaxta qənaət edən və sürətli ikinci rəy verən köməkçi kimi görə bilər. Bu rahatlıq sistemin yanlış nəticələrini sorğulamağı unutmaq riski yaradır.

3. Qərəzsizlik təsəvvürü
   Süni intellekt alqoritmlərinin insan səhvlərindən uzaq olduğu təsəvvürü bu sistemlərin qərəzsiz və etibarlı olmasına dair yanlış fərziyyə yarada bilər. Lakin alqoritmlər öyrədildikləri məlumatların qərəzlərini də daşıya bilər.

4. Təlim və məlumatlılıq çatışmazlığı
   Süni intellekt vasitələrindən düzgün istifadə və tənqidi təhlil barədə kifayət qədər təlim almayan həkimlər sistemlərin hüdudlarını anlamaqda çətinlik çəkə bilər. Bu isə fərqinə varmadan həddindən artıq güvənməyə səbəb ola bilər.

Süni intellektdən istifadə zamanı həkimləri gözləyən tələlər

1. Yanlış müsbət və yanlış mənfi nəticələr
   Süni intellekt sistemləri yanlış müsbət və ya mənfi nəticələr verə bilər. Yanlış müsbətlər lazımsız müdaxilələrə, yanlış mənfilər isə kritik problemlərin gözdən qaçmasına səbəb ola bilər.

2. Məsuliyyətin qeyri-müəyyənliyi
   Səhv olduqda süni intellektin qərarlarına həddindən artıq güvənmək məsuliyyətin həkimlə sistem arasında bölüşdürülməsini çətinləşdirə bilər. Bu, etik və hüquqi problemlər yarada bilər.

3. Texnologiyadan həddindən artıq asılılıq
   Klinik qərarlarda həkimin öz bilik və təcrübəsi əvəzinə tamamilə süni intellektə güvənməsi insani mühakimənin zamanla zəifləməsinə səbəb ola bilər. Bu, xüsusilə sistemlərin yanılma ehtimalı yüksək olanda təhlükəli ola bilər.

4. Alqoritmik qərəzlər
   Süni intellekt vasitələri öyrədildikləri məlumat dəstlərindəki qərəzləri əks etdirə bilər. Bu, müəyyən xəstə qrupları və ya şərait üçün qeyri-bərabər nəticələr yarada, xəstə təhlükəsizliyini riskə ata bilər.

Süni intellektə həddindən artıq güvənmənin qarşısını almaq üçün həll təklifləri

1. Əhatəli təlim proqramları
   Həkimlər üçün süni intellekt texnologiyalarının iş prinsipini, hüdudlarını və mümkün qərəzlərini anlamağa yönələn təlim proqramları yaradılmalıdır. Bu proqramlar alqoritmlərin necə işlədiyini, necə düzgün qiymətləndirilməli olduğunu və yanlış qərarların necə aşkar ediləcəyini öyrətməlidir.

2. Şəffaflıq və izah ediləbilənlik
   Süni intellekt vasitələri qərar prosesində istifadə olunan meyarları izah edə bilməlidir. Həkimlərin alqoritmin niyə müəyyən nəticəyə gəldiyini anlaması üçün sistemlər daha şəffaf və izah edilə bilən edilməlidir.

3. İnsan və texnologiya arasında tarazlı əməkdaşlıq
   Süni intellekt klinik qərarlarda dəstək vasitəsi kimi istifadə edilməli, son qərar isə həmişə həkimin peşəkar mühakiməsinə buraxılmalıdır. Sİ vasitələri həkimləri əvəz etməkdənsə, onların bacarıqlarını tamamlayan rol oynamalıdır.

4. Tənzimləyici standartlar və təsdiq prosesləri
   Süni intellekt vasitələrinin tibbdə istifadəsi üçün ciddi qaydalar və standartlar müəyyən edilməlidir. Bu standartlar alqoritmlərin etibarlılığını, qərəzsizliyini və dəqiqliyini təmin etmək üçün ciddi sınaqları və müntəzəm yenilənməni əhatə etməlidir.

Nəticə: texnologiya ilə insan amilinin tarazlığı

Sİ tibbdə böyük imkanlar təqdim etsə də, həkimlərin bu sistemlərə həddindən artıq güvənməsinin riskləri nəzərdən qaçırılmamalıdır. Avtomatlaşdırma qərəzini azaltmaq üçün daha yaxşı hazırlanmış Sİ sistemləri, əhatəli təlim proqramları və diqqətlə qurulmuş tənzimləyici çərçivələr lazımdır. Nəticədə Sİ texnologiyaları insan amili ilə tarazlı istifadə ediləndə tibbi praktikaya müsbət təsir göstərəcək.