Care sunt obstacolele în calea utilizării pe scară largă a inteligenței artificiale în oncologie?

De ce este important acest subiect?

În ultimii ani, inteligența artificială (IA) a apărut ca o tehnologie promițătoare în numeroase domenii ale oncologiei, precum diagnosticul, planificarea tratamentului și urmărirea pacienților. În ciuda entuziasmului, integrarea IA în practica clinică se confruntă cu probleme serioase. În acest articol vom analiza în detaliu principalii factori care împiedică adoptarea mai largă în oncologie: lipsa acurateței, diversitatea insuficientă a datelor, preocupările etice și de mediu, lacunele de reglementare și altele.

1. Cât de precisă este inteligența artificială? Problema halucinațiilor și a informațiilor înșelătoare

Una dintre cele mai mari preocupări ale oncologilor este „rata ridicată a halucinațiilor” sistemelor IA. Aceasta înseamnă că sistemele generează informații false sau care nu se bazează pe realitate.

Notă importantă: în unele studii, rata informațiilor false generate de chatboturi IA a depășit 20-30%. Acest lucru reprezintă un risc serios, mai ales în oncologie, unde protocoalele terapeutice se schimbă rapid.

Situația este deosebit de periculoasă în oncologie:

Instrumentele IA pot reda greșit literatura sau cita articole care nu au trecut prin evaluare colegială. Fără verificare corectă, acestea pot conduce la recomandări clinice suboptime.

2. Părtinirile seturilor de date: nu sunt potrivite pentru toată lumea

Sistemele IA sunt la fel de bune ca datele pe care au fost antrenate. Totuși, aceste seturi reprezintă adesea persoane albe, din grupuri socioeconomice înalte. Astfel, sistemele pot eșua la pacienți de alte rase, origini etnice sau regiuni geografice.

Un fapt care trebuie subliniat: rata diagnosticului corect poate scădea semnificativ în sistemele IA care nu au fost antrenate pe grupuri minoritare. Aceasta poate adânci și mai mult inegalitățile în sănătate.

3. Sunt compatibile cu practica clinică? Dificultatea integrării în fluxurile de lucru

Multe medii clinice nu sunt pregătite pentru integrarea sistemelor IA.

Activitatea clinică este intensă și complexă. Majoritatea clinicilor nu au infrastructura tehnică suficientă pentru implementarea acestor sisteme.

În plus, multe modele IA funcționează ca o „cutie neagră”, fără a explica logica deciziilor lor. Acest lucru îngreunează explicațiile pe care medicii le oferă pacienților.

4. Confidențialitatea pacienților și lacunele de reglementare

Protejarea confidențialității pacienților este deosebit de importantă, mai ales deoarece datele oncologice conțin informații genetice. Totuși, multe instrumente IA necesită partajarea pe scară largă a datelor pacienților.

De asemenea, rămâne neclar cine poartă răspunderea juridică pentru consecințele negative ale deciziilor asistate de IA. De aceea, multe instituții medicale abordează IA cu prudență.

5. Costurile tehnice și de mediu: prețul nevăzut

Sistemele IA rulează în centre de date uriașe, care consumă anual milioane de litri de apă, energie și elemente rare (litiu, cobalt). Aceasta crește amprenta de carbon.

O informație remarcabilă: emisiile anuale de carbon ale modelelor IA mari se pot apropia de cele ale orașelor mici.

În plus, necesitatea actualizării continue a sistemelor crește sarcina departamentelor informatice ale spitalelor. Instituțiile cu resurse limitate nu le pot susține.

6. Cât de fiabilă este IA din perspectiva pacientului?

Nu trebuie uitat că și pacienții riscă să fie induși în eroare când folosesc instrumente informaționale bazate pe IA. Datele prezentate în afara contextului – de exemplu, ratele medii de supraviețuire – pot fi înșelătoare pentru un pacient individual.

La pacienții cu un nivel redus de alfabetizare în sănătate, instrumentele IA pot produce confuzie informațională și pot conduce la decizii terapeutice greșite.

7. Soluții propuse: pentru o IA mai etică, mai sigură și mai accesibilă

În ciuda acestor probleme, cum poate fi utilizată IA în siguranță și eficient în oncologie?

Sisteme de validare clinică

Recomandările IA trebuie verificate în timp real de oncologi.

Trebuie implementate sisteme de validare actualizate continuu.

Programe educaționale

Alfabetizarea în IA trebuie inclusă în curricula facultăților de medicină și în educația continuă.

Organizații precum ASCO trebuie să dezvolte module de instruire în IA specifice oncologiei.

Echipe multidisciplinare

Sistemele IA trebuie dezvoltate nu doar de ingineri, ci împreună cu oncologi, eticieni și pacienți.

Securitatea datelor și transparență

Conținutul seturilor de date folosite la antrenare și detaliile de performanță ale sistemelor IA trebuie comunicate transparent medicilor.

Evaluarea impactului asupra mediului

Pentru fiecare sistem IA nou trebuie analizat impactul asupra mediului, iar rezultatele trebuie integrate în politicile de sănătate.

Concluzie: IA promite progrese în oncologie, dar mai întâi trebuie depășite obstacolele

Sistemele IA trebuie să simplifice practica oncologică, nu să o complice. Trebuie să funcționeze pe baza unor date validate, să fie eficiente energetic și actualizate continuu. Mai presus de toate, trebuie să rămână centrate pe oameni.

Inteligența artificială poate fi o tehnologie capabilă să revoluționeze oncologia, dar pentru a-și atinge potențialul trebuie construită pe acuratețe, echitate, transparență și sustenabilitate.