Un medic a testat ChatGPT în camera de urgențe. O pacientă aproape a murit

ChatGPT a fost testat recent cu întrebările care se pun la examenul de licență medicală din S.U.A. și răspunsurile sale i-ar fi permis să primească drept de practică. Un doctor a vrut să testeze cât de eficientă este această platformă de inteligență artificială în viața reală, în diagnosticarea unui pacient.

Dr. Josh Tamayo-Sarver lucrează în departamentul de urgență al comunității sale locale și este vicepreședinte responsabil cu inovarea la Inflect Health, un incubator de inovare pentru tehnologia sănătății.

Medicul a introdus în aplicația creată de OpenAI istoricul medical a 40 de persoane pe care le-a tratat chiar el de-a lungul timpului, cu simptomele care i-au adus la departamentul de urgență.

Doctorul a cerut inteligenței artificiale să răspundă la următoarea întrebare „Care sunt diagnosticele diferențiale pentru acest pacient care se prezintă la departamentul de urgență?”, pe baza datelor medicale pe care le-a primit.

Cum s-a descurcat robotul

„Chatbot-ul OpenAI a făcut o treabă decentă în a analiza diagnostice comune pe care nici eu nu aș vrea să le ratez, atâta timp cât tot ce i-am transmis a fost precis și foarte detaliat. Diagnosticarea corectă a unui pacient cu subluxaţie de cap radial (cotul guvernantei), de exemplu, a necesitat aproximativ 200 de cuvinte; Identificarea fracturii peretelui orbital a altui pacient a necesitate toate cele 600 de cuvinte care existau în istoricul medical pe care îl dețineam.

Citește și: O informație adevărată, folosită pentru o știre falsă. Când sunt amendați cei care își acoperă fața cu o mască

Pentru aproximativ jumătate dintre pacienții mei, ChatGPT a sugerat șase diagnostice posibile, iar diagnosticul «corect» – sau cel puțin diagnosticul pe care eu îl consider că este corect după evaluarea și testarea completă – a fost printre cele șase pe care le-a sugerat și inteligența artificială”, a explicat medicul Josh Tamayo-Sarver, potrivit publicației Fast Company.

Doctorul a adăugat că deși robotul a făcut o treabă decentă, acest lucru nu este suficient pentru o unitate de urgențe. Spre exemplu, AI-ul nu a putut identifica sarcina ectopică a unei femei.

O pacientă aproape a decedat

Pacienta a avut o sarcină ectopică, în care un făt malformat se dezvoltă în trompa uterină, și nu în uterul ei. Diagnosticată prea târziu, situația poate fi fatală – ducând la moartea cauzată de sângerare internă.

În situația reală, medicul a operat-o pe tânără la timp și a salvat-o. AI-ul nu a reușit să identifice corect situația.

Medicul a explicat că femeia care se prezentase la urgențe nu știa că este însărcinată, așa că nici el nu a bifat ca afirmativ când a fost întrebat de robot, pentru a mima situația reală.

„Teama mea este că nenumărați oameni folosesc deja ChatGPT pentru a se autodiagnostica din punct de vedere medical, în loc să consulte un medic. Dacă pacienta mea din acest caz ar fi făcut asta, răspunsul lui ChatGPT ar fi putut-o ucide”, a avertizat doctorul.

Citește și: „Legea fugarilor”, blocată de fostul Consiliu Superior al Magistraturii

Nu este singur abatere a robotului

ChatGPT a diagnosticat greșit și alți câțiva pacienți care aveau afecțiuni care le puneau viața în pericol. A sugerat corect că unul dintre ei avea o tumoare pe creier, dar i-a omis pe alți doi care aveau, de asemenea tumori.

A diagnosticat un alt pacient cu durere de trunchi ca având o piatră la rinichi, dar a ratat faptul că pacientul avea, de fapt, o ruptură de aortă. (Și ulterior a murit pe masa noastră de operație)”, a menționat doctorul Josh Tamayo-Sarver, conform Fast Company.

Concluzia doctorului este că această tehnologie funcționează doar dacă pacientul are niște simptome comune, pentru niște cazuri clasice și care sunt prezentate foarte clar. Însă cele mai multe persoane care se prezintă la urgențe nu sunt cazuri clasice.

„Dacă cineva vine în sala mea de urgență spunând că îi doare încheietura mâinii, dar nu din cauza vreunui accident recent, ar putea fi o reacție psihosomatică după ce nepotul pacientului a căzut sau poate fi din cauza unei boli cu transmitere sexuală, sau cu totul altceva. Arta medicinei este extragerea tuturor informațiilor necesare pentru a crea narațiunea potrivită”, a arătat medicul.

Citește și: 12 mituri demontate despre războiul Rusiei împotriva Ucrainei

ChatGPT ar putea să încurce medicii

Deocamdată, ChatGPT nu este de ajutor în medicină. Josh Tamayo-Sarver crede că, pe viitor, AI ar putea aduce multe beneficii medicinei, dar ar putea și să încurce doctorii uneori.

Ar putea ChatGPT să funcționeze doar ca asistent al medicului, citind automat datele pacientului, în timpul tratamentului și sugerând diagnostice diferite? Eventual.

„Dar teama mea este că acest lucru ar putea aduce rezultate și mai rele. Dacă notițele mele despre pacient nu includ o întrebare pe care nu am pus-o încă, rezultatul ChatGPT mă va încuraja să continui să ratez această întrebare.

Ca și tânăra mea pacientă care nu știa că este însărcinată. Dacă nu mi-ar fi trecut imediat prin minte o posibilă sarcină ectopică, ChatGPT ar fi continuat cu acea omisiune, arătându-mi doar lucrurile pe care le credeam evidente – validându-mi cu entuziasm părtinirea ca cel mai periculos om da din lume.

Nimic din toate acestea nu sugerează că AI nu are un loc potențial util în medicină, pentru că o are”, a menționat medicul.

Acesta a încheiat spunând că până această tehnologie devine mai performantă, oamenii ar trebui să aibă așteptări realiste când vine vorba limitările inteligenței artificiale.

„Trebuie să fim foarte atenți să evităm așteptările exagerate în legăturp cu programe precum ChatGPT, deoarece, în contextul sănătății umane, acestea pot pune viața în pericol”, a încheiat medicul Josh Tamayo-Sarver pentru Fast Company.

Urmăriți PressHUB și pe Google News!