Boala-fantomă a inteligenței artificiale: ce este Bixonimania? Cum vom deosebi realitatea de ficțiune?
În acest articol
Calul troian digital al literaturii științifice: boala imaginară inventată de inteligența artificială
Nature News Feature, 2026 · doi: 10.1038/d41586-026-01100-y
De-a lungul istoriei medicinei, boli inexistente au fost uneori acceptate drept reale. Aceste erori erau însă rezultatul cunoștințelor insuficiente, al greșelilor de observație sau al înțelegerii limitate a epocii. Astăzi, amenințarea din fața noastră ia o formă mult mai insidioasă: modelele de inteligență artificială pot introduce în literatura academică o boală concepută de la început ca imaginară, ca și cum ar fi reală, și o pot prezenta milioanelor de utilizatori. Articolul publicat la 7 aprilie 2026 în revista Nature , care face obiectul textului nostru, arată că acest risc nu mai este o posibilitate, ci o realitate deja trăită.
Bixonimania: nașterea unei boli care nu a existat niciodată
La începutul anului 2024 a început să apară un termen care nu fusese niciodată menționat în literatura medicală: Bixonimania. Potrivit afirmațiilor, această afecțiune era un sindrom rar, cu modificări ale pigmentării pleoapelor și prurit cronic, apărut în urma expunerii prelungite la lumina albastră (blue light) emisă de ecranele digitale.
Mai sus: Imagini generate de inteligența artificială ale unei boli fictive numite Bixonimania. Sursa: Preprints.org https://doi.org/qzm4 (2024)
În realitate, o asemenea boală nu a existat niciodată. Era o capcană deliberată și controlată, concepută de cercetători medicali de la Universitatea din Göteborg pentru a măsura cât de vulnerabile sunt modelele lingvistice mari (LLM — large language model) la dezinformare. Rezultatele au fost surprinzătoare într-o măsură pe care nici cercetătorii nu o anticipaseră.
Cum a fost construită boala falsă?
Cercetătorii au urmat o serie sistematică de pași pentru a introduce boala imaginară în mediul academic:
Secțiunea de mulțumiri a articolului menționa „Starfleet Academy și echipajul USS Enterprise (Star Trek)”, iar ca sursă de finanțare, „Fundația Profesorului Figüran Bob”. Acestea erau detalii pe care un cititor uman atent le-ar fi observat în câteva secunde. Modelele de inteligență artificială au ignorat complet aceste semnale.
Ce au spus modelele?
La numai câteva săptămâni după încărcarea articolelor false pe internet, cele mai utilizate modele de inteligență artificială din lume au început să prezinte Bixonimania ca pe o afecțiune medicală reală în răspunsurile la întrebări despre lumina albastră și sănătatea ochilor.
„Bixonimania este într-adevăr o afecțiune interesantă și relativ rară” — a descris boala ca și cum ar fi fost o realitate clinică.
A prezentat Bixonimania drept „o consecință a expunerii la lumina albastră” și i-a recomandat utilizatorului să consulte un oftalmolog.
A cuantificat chiar și frecvența bolii: un caz la 90000 de persoane — astfel a descris un sindrom rar.
Modelele au clasificat textul redactat în format academic drept „sursă de încredere” pe baza structurii sale statistice și a tiparelor lingvistice. Lipsite de înțelegerea contextuală necesară pentru a interpreta gluma Starfleet, aceste sisteme au acceptat drept adevărat tot ce avea o aparență științifică.
Reprezentare schematică a modului în care informația falsă se infiltrează durabil în literatura academică
Adevăratul scandal: informația falsă a intrat într-o revistă evaluată de experți
Cazul Bixonimania nu a rămas o simplă „eroare de chatbot”. Cea mai gravă latură a situației s-a manifestat în publicarea științifică. Într-un articol publicat pe platforma academică de renume Cureus, cercetători de la un institut medical din India au citat Bixonimania drept o afecțiune clinică reală.
Acest fapt dovedea un singur lucru: în timp ce își redactau propriul articol, acești cercetători încredințaseră inteligenței artificiale căutarea literaturii și folosiseră sursele oferite de IA fără să le citească deloc — direct, fără să observe gluma Starfleet din ele. Naturea atras atenția asupra situației, după care articolul a fost retras în martie 2026 (retracted).
De ce a căzut inteligența artificială în această capcană?
Răspunsul se află în logica fundamentală de funcționare a modelelor lingvistice mari. Aceste modele procesează textele nu înțelegându-le , ci recunoscând tipare statistice. Formula unui articol academic — titlu, rezumat, metodă, discuție, listă de referințe, secțiune de mulțumiri — este percepută de IA drept „semnal de credibilitate”. Coerența logică a conținutului sau absurditatea contextuală a unei expresii precum „Starfleet Academy” nu sunt reținute de filtru în acest proces.
Un cititor uman s-ar opri imediat ce ar vedea în mulțumiri numele unei nave spațiale fictive. Inteligența artificială a procesat însă expresia exact ca pe numele unei instituții reale, deoarece structura sintactică a propoziției era identică cu cea a altor mulțumiri academice.
Comparația reacțiilor la semnalele de pericol din articolul Bixonimania
Ce înseamnă pentru medicină?
Bixonimania a fost un experiment deliberat și trasabil; a fost observat și corectat. Întrebarea adevărată este: câte cazuri rămân neobservate?
- Pacienții sau apropiații lor pot întâlni diagnostice imaginare
- Clinicienii pot fi induși în eroare în căutările bibliografice asistate de IA
- Pot apărea teste de diagnostic inutile sau îndrumări greșite
- Articolele retrase continuă să circule pe internet
- Buclă de feedback: IA consolidează eroarea pe care a generat-o singură
- Erodarea încrederii academice; insuficiența proceselor de evaluare colegială
- Deteriorarea pe termen lung a calității literaturii medicale
- Erodarea încrederii publice în instrumentele de IA
Bucla de feedback: eroarea alimentează eroarea
Cea mai periculoasă dimensiune a acestei probleme constă într-o dinamică sistemică ce depășește o singură greșeală. Modelele lingvistice mari atât învață, cât și generează răspunsuri scanând conținutul existent pe internet. Odată ce un articol fals apare pe o platformă academică, iar un model de IA îl acceptă drept adevărat și îl reflectă în răspunsurile sale, pasul următor este inevitabil: un alt cercetător folosește răspunsul IA ca sursă și publică un articol nou. La următoarea scanare, IA tratează și acest articol nou drept „informație verificată”. Ciclul se închide; informația falsă se înrădăcinează, căpătând puțin mai multă legitimitate la fiecare rundă.
Protecție: un ghid practic
🔎 CITEȘTE PERSONAL SURSA
Când IA recomandă sau citează un articol, accesează personal sursa și citește-o integral, inclusiv mulțumirile, informațiile despre autori și secțiunea de finanțare. IA nu poate înlocui actul lecturii.
✅ VERIFICĂ DOI-UL ȘI REVISTA
Verifică dacă DOI-ul fiecărei referințe există cu adevărat și dacă revista citată este o publicație recunoscută și evaluată de experți. Nu uita că preprinturile nu au trecut încă prin evaluare colegială.
⚠ FII PRUDENT CÂND FOLOSEȘTI IA CA INSTRUMENT DE CĂUTARE BIBLIOGRAFICĂ
Căutările bibliografice asistate de IA pot accelera procesul de cercetare; însă, în loc să accepți cu încredere oarbă listele de referințe generate, este obligatoriu să verifici separat fiecare referință. Halucinația — inventarea unor surse inexistente — este o problemă documentată la toate modelele mari.
🛡 PĂSTREAZĂ-ȚI CAPACITATEA DE LECTURĂ CRITICĂ
Oricât de mult ar avansa instrumentele digitale, capacitatea de a sesiza contextul unui text, inconsecvențele și erorile sale logice este cea mai valoroasă funcție a judecății umane. Această abilitate devine și mai importantă în epoca inteligenței artificiale.
🎓 Academia DROZDOGAN — Comentariu și discuție
INTELIGENȚĂ ARTIFICIALĂ ȘI INTEGRITATE ȘTIINȚIFICĂ · EVALUARE
Importanța acestui experiment
Experimentul Bixonimania reprezintă prima dovadă controlată care documentează o vulnerabilitate manifestată efectiv în prezent, nu un posibil risc viitor. Cercetătorii au introdus în mod intenționat erori evidente și, totuși, atât modelele de inteligență artificială, cât și o revistă academică au căzut în capcană. Acest lucru arată clar că problema „halucinațiilor IA” a încetat să mai fie o preocupare teoretică și a devenit o problemă practică de siguranță a pacientului.
Punctele forte ale experimentului
Cea mai mare forță metodologică a studiului este faptul că această capcană a fost concepută atât pentru a putea fi detectată (gluma Starfleet), cât și pentru a fi suficient de convingătoare încât să treacă neobservată. Această structură duală dovedește că eroarea este sistemică, nu întâmplătoare. În plus, faptul că mai multe modele au căzut în aceeași capcană arată că problema nu este specifică unui anumit model. Implicarea cazului Cureus este deosebit de valoroasă deoarece extinde afirmația de la comportamentul IA în sine la vulnerabilitățile publicării academice.
Limitări și întrebări deschise
Principala limitare a experimentului este că această capcană a fost construită conștient și intenționat; în condițiile lumii reale, informația falsă nu poartă astfel de „semnale” evidente, ci poate fi mult mai convingătoare și ambiguă. Prin urmare, estimările experimentului sunt probabil optimiste; riscul real ar putea fi mai mare. Rămân fără răspuns și întrebările dacă modelele vor învăța în timp acest tipar specific și cât de rezistente vor fi la dezinformări mai rafinate.
Implicații pentru practica clinică și instituțională
Pentru toate specialitățile medicale, în special oncologia, aceste constatări transmit un mesaj clar: instrumentele de IA pot accelera căutarea bibliografică, dar nu pot elimina responsabilitatea verificării sursei. Adăugarea, în procesele de evaluare colegială ale revistelor academice, a unor niveluri de detectare a conținutului generat de IA sau bazat pe IA a devenit o necesitate. La nivel instituțional, formarea cercetătorilor în „alfabetizarea în IA” trebuie să devină o componentă standard.
Întrebări pentru viitor
Cele mai importante întrebări care așteaptă acum răspuns sunt următoarele: câte referințe false asistate de IA circulă deja în literatura academică și pot fi ele detectate retrospectiv? Cât de durabil ar putea afecta baza de cunoștințe medicale o campanie sistematică de dezinformare care pătrunde în datele de antrenare ale modelelor lingvistice mari? Pot editorii de reviste să creeze un cadru standard al industriei pentru verificarea conținutului bazată pe IA? Aceste întrebări sunt pe punctul de a ajunge în fruntea temelor prioritare la care știința medicală trebuie să răspundă în următorul deceniu.
Surse științifice
- Stokel-Walker C. Scientists invented a fake disease. AI told people it was real. Nature News Feature, 2026. doi: 10.1038/d41586-026-01100-y
- Thunström AO și colab. Experimentul Bixonimania — metodologia proiectului și analiza răspunsurilor LLM. Universitatea din Göteborg, 2024–2026.
- Athaluri SA, Murali SV, Kesapragada VSRK et al. Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 2023;15:e37432. doi: 10.7759/cureus.37432
- Bender EM, Gebru T, McMillan-Major A, Shmitchell S. On the dangers of stochastic parrots: can language models be too big? Proceedings of FAccT 2021:610–623.
- Alkaissi H, McFarlane SI. Artificial hallucinations in ChatGPT: implications in scientific writing. Cureus 2023;15:e35179.
Acest articol a fost creat folosind diverse instrumente editoriale, inclusiv inteligența artificială. Înainte de publicare, a fost verificat de editori umani.
Ți-a fost util acest articol?
Feedbackul tău ne ajută să îmbunătățim conținutul.
Comentariile cititorilor
Împărtășește comentariul tău
Numele și comentariul dumneavoastră sunt publicate numai după aprobarea administratorului. Adresa de e-mail nu este afișată niciodată vizitatorilor.
Fii primul care comentează.