După ChatGPT, lumea s-a schimbat complet, inclusiv redactarea medicală – Prieten sau inamic?

De la pacienții cu cancer la profesioniștii din sănătate, tuturor le este greu să țină pasul cu evoluțiile rapide ale inteligenței artificiale și redactării medicale. Deși necesită expertiză, acest subiect important poate influența direct viața multor persoane diferite.

Apariția ChatGPT și legătura cu redactarea medicală

Dezvoltat de OpenAI, ChatGPT s-a făcut cunoscut în întreaga lume la 30 noiembrie 2022. GPT este abrevierea pentru Generative Pre-trained Transformer și desemnează un instrument conversațional de inteligență artificială bazat pe modele lingvistice mari. Atrage atenția prin capacitatea de a genera răspunsuri în limbaj natural la mesajele utilizatorului, caracteristică ce i-a adus recunoaștere mondială.

ChatGPT s-a remarcat prin răspunsurile adesea corecte și ample la întrebări, în limbaj uman. Până în ianuarie 2023 devenise aplicația software pentru consumatori cu cea mai rapidă creștere din istorie, cu peste 100 de milioane de utilizatori, iar valoarea de piață a OpenAI ajunsese la 29 de miliarde de dolari SUA. Utilizatorii nivelului gratuit aveau acces la GPT-3.5, iar abonații plătitori la modelul mai avansat GPT-4.

ChatGPT este folosit, de obicei, ca instrument auxiliar la redactarea articolelor științifice. Cercetătorul dezvoltă mai întâi o idee sau un concept și oferă informația instrumentului. ChatGPT poate genera text suplimentar, devenit adesea o schiță sau un text preliminar. Cercetătorul îl preia apoi, adaugă detalii, corectează, examinează și rafinează materialul. Procesul poate accelera redactarea și permite mai multă concentrare. Totuși, ChatGPT nu garantează actualitatea și corectitudinea informațiilor, astfel că cercetătorii trebuie să includă și propriile cunoștințe și rezultate.

În cultura populară, are un impact puternic asupra celor care urmăresc tehnologia și inteligența artificială. ChatGPT îi entuziasmează pe cei inspirați de tehnologie și dornici să o folosească în propriile domenii. Totuși, unii, precum scriitorii profesioniști și creatorii de conținut, îl pot considera dăunător sau o amenințare, deoarece rezultatele sunt adesea incomplete ori greșite și pot încălca proprietatea intelectuală a altora.

Deoarece ChatGPT nu poate indica singur o sursă, există și posibilitatea de a prelua involuntar din altă sursă sau de a oferi un răspuns înșelător ori părtinitor. Aceasta provoacă îngrijorări în domenii precum recomandările de sănătate, redactarea și programarea, mai ales când utilizatorii tind să accepte rezultatele ca fiind „suficient de bune”.

Articol conex: Bill Gates – Era inteligenței artificiale a început de această dată cu adevărat, prin ChatGPT

Publicațiile și redactarea medicală au un loc important în istoria umanității. Nevoia de a consemna și împărtăși informații despre sănătate a dus la apariția textelor și publicațiilor medicale. Istoria lor începe imediat după inventarea scrisului, iar primele texte datează până în jurul anului 3000 î.Hr.

După anunțarea ChatGPT la sfârșitul lui 2022, modele lingvistice de inteligență artificială precum acesta au devenit utilizabile pentru redactarea și editarea articolelor științifice. Se precizează că modul de folosire trebuie declarat, iar instrumentele nu trebuie incluse în lista autorilor.

Articolul este un ghid pentru înțelegerea procesului și a influenței acestor instrumente asupra publicării medicale.

Potrivit unei noi declarații a Comitetului Internațional al Editorilor Revistelor Medicale (ICMJE), modelele lingvistice de inteligență artificială îi pot ajuta pe cercetători să redacteze și să corecteze articole științifice. Comitetul a precizat că instrumentele nu trebuie enumerate ca autori, iar cercetătorii trebuie să descrie modul în care au folosit tehnologiile asistate de inteligență artificială.

Noile reguli sunt cele mai recente eforturi ale revistelor medicale de a stabili politici pentru folosirea acestor modele lingvistice mari (BDM) în publicații. Instrumentele pot ajuta la redactare, analiza datelor, depistarea greșelilor și multe alte sarcini, dar sunt și predispuse la erori. În plus, nu este pe deplin clar cum sunt stocate și prelucrate informațiile și cine are acces la ele.

Experții susțin și că instrumentele ar putea avea o influență pozitivă, reducând barierele lingvistice din publicarea științifică și ușurând unele sarcini monotone sau mecanice ale redactării.

Experții sunt însă de acord că folosirea lor va continua să se extindă. Cred că, în acest punct, nu mai poate fi evitată.

Schimbarea în publicarea medicală

OpenAI a lansat ChatGPT în noiembrie 2022. În propriile sale cuvinte, ChatGPT este „un model de învățare profundă antrenat cu o cantitate mare de date textuale (în ultima sa formă, 170 de bilioane de parametri) pentru a înțelege și a genera text asemenea unui om”. Introduceți o întrebare sau o instrucțiune și va răspunde. De exemplu, întrebat cum ar putea fi utilizat în publicarea științifică, ChatGPT răspunde:

"ChatGPT poate sprijini publicarea științifică prin generarea de idei, explicarea conceptelor, căutări preliminare în literatură, sugestii de corectare și editare și organizarea articolelor. Totuși, trebuie folosit ca instrument de sprijin, împreună cu verificarea prin surse științifice fiabile și cunoștințele de specialitate."

Imediat după lansare, cercetătorii au început să îl folosească în propria activitate. De exemplu, Dr. Som Biswas, radiolog la Centrul de Științe ale Sănătății al Universității Tennessee, a utilizat ChatGPT pentru a scrie 16 articole științifice în doar 4 luni. Cinci au fost publicate în patru reviste diferite. Biswas a refuzat un interviu despre acestea.

Au apărut și relatări despre articole care includeau ChatGPT în lista autorilor, provocând reacții. Drept răspuns, JAMA, Nature și Science au publicat în ianuarie texte despre politicile utilizării ChatGPT și a altor modele lingvistice mari în redactarea științifică. Editorii revistelor Asociației Americane de Cardiologie și Asociației Americane de Reumatologie și-au actualizat, de asemenea, politicile pentru a reflecta impactul instrumentelor de redactare AI.

Consensul este că inteligența artificială nu trebuie inclusă în lista autorilor.

"Nu considerăm potrivit acest lucru, deoarece calitatea de coautor presupune asumarea responsabilității pentru producerea și analiza datelor din articol. O mașină ghidată de inteligență artificială nu își poate asuma responsabilitatea,” a declarat Dr. Daniel Solomon, reumatolog la Brigham and Women's Hospital și redactor-șef al revistei ACR Arthritis & Rheumatology.

Probleme legate de inteligența artificială

Una dintre marile îngrijorări este că inteligența artificială poate produce texte nesusținute de date sau neadevărate.

Într-un alt caz, ChatGPT a susținut în mod eronat că un profesor de drept important comisese o agresiune sexuală, deși nu există articolul din Washington Post care ar documenta presupusul fapt.

Trăim într-o societate foarte preocupată de știrile false. Asemenea erori pot agrava cu siguranță problema în comunitatea științifică, ceea ce îngrijorează, deoarece știința orientează politicile publice.

O altă problemă este lipsa transparenței privind prelucrarea și stocarea datelor utilizate pentru solicitările adresate modelelor mari precum ChatGPT.

OpenAI a abordat unele îngrijorări de confidențialitate permițând dezactivarea istoricului conversațiilor cu GPT, astfel încât acestea să nu fie folosite pentru antrenarea sau îmbunătățirea modelelor companiei. Totuși, condițiile serviciului rămân destul de neclare.

Îngrijorarea reală este că modelele lingvistice mari (BDM) sunt foarte sofisticate și mulți nu înțeleg pe deplin mecanismul din spatele unei asemenea mașini.

Aceasta înseamnă că instrumentele AI precum ChatGPT nu pot înlocui autorul; tehnologia este doar un ajutor. Experții se întreabă însă ce se va întâmpla când inteligența artificială însăși va începe să folosească instrumente.

O altă îngrijorare este că toată lumea ar putea începe să folosească aceleași propoziții, cu riscul pierderii bogăției și diversității limbajului.

Sunt necesare studii suplimentare pentru a vedea cum va evolua rolul AI în publicarea medicală. ICMJE ia în considerare un grup de lucru care să ofere orientări generale privind folosirea sa.

Deocamdată, relația dintre inteligența artificială și publicarea medicală este o chestiune de echilibru, nu de prietenie sau ostilitate: AI poate ajuta cercetarea medicală, dar poate crea și probleme importante privind accesul la informație și corectitudinea.