Dr Sina Bari, hirurg u praksi i lider u oblasti zdravstvene zaštite zasnovane na veštačkoj inteligenciji u kompaniji za podatke iMerit, iz prve ruke je videla kako ChatGPT može da zavede pacijente pogrešnim medicinskim savetima.
„Nedavno mi je došao pacijent i kada sam mu preporučio lek, odštampan mu je dijalog iz ChatGPT-a u kojem je pisalo da ovaj lek ima 45% šanse za plućnu emboliju“, rekla je dr Bari za TechCrunch.
Kada je dr Bari dalje istraživao, otkrio je da je statistika iz rada o uticaju tog leka na nišnu podgrupu ljudi sa tuberkulozom, što se nije odnosilo na njegovog pacijenta.
Ipak, kada je OpenAI prošle nedelje najavio svog namenskog četbota ChatGPT Health, dr Bari je osetio više uzbuđenja nego zabrinutosti.
ChatGPT Health, koji će biti predstavljen u narednim nedeljama, omogućava korisnicima da razgovaraju sa četbotom o svom zdravlju u privatnijem okruženju, gde se njihove poruke neće koristiti kao podaci za obuku za osnovni model veštačke inteligencije.
„Mislim da je odlično“, rekla je dr Bari. „To je nešto što se već dešava, tako da će formalizacija toga kako bi se zaštitili podaci o pacijentima i postavile neke mere zaštite oko toga […] učiniti ga još moćnijim za korišćenje od strane pacijenata.“
Korisnici mogu dobiti personalizovanije smernice od ChatGPT Health-a otpremanjem svojih medicinskih kartona i sinhronizacijom sa aplikacijama kao što su Apple Health i MyFitnessPal. Za one koji vode računa o bezbednosti, ovo odmah izaziva crvene zastavice.
„Odjednom se medicinski podaci prenose iz organizacija koje su u skladu sa HIPAA propisima u prodavnice koje nisu u skladu sa HIPAA propisima“, rekao je za TechCrunch Itai Švarc, suosnivač firme za sprečavanje gubitka podataka MIND. „Zato me zanima kako bi regulatori pristupili ovome.“
Ali, kako neki stručnjaci iz industrije vide, mačka je već van vreće. Sada, umesto da guglaju simptome prehlade, ljudi razgovaraju sa AI četbotovima – preko 230 miliona ljudi već razgovara sa ChatGPT-om o svom zdravlju svake nedelje.
„Ovo je bio jedan od najvećih slučajeva upotrebe ChatGPT-a“, rekao je za TechCrunch Endru Brakin, partner u Gradient-u koji ulaže u zdravstvenu tehnologiju. „Dakle, ima mnogo smisla da žele da naprave privatniju, bezbedniju, optimizovanu verziju ChatGPT-a za ova pitanja u vezi sa zdravstvenom zaštitom.“
AI četbotovi imaju stalni problem sa halucinacijama, što je posebno osetljivo pitanje u zdravstvu. Prema Vectara-inom modelu za evaluaciju činjenične konzistentnosti, OpenAI-jev GPT-5 je skloniji halucinacijama od mnogih Google-ovih i Anthropic-ovih modela. Ali kompanije za veštačku inteligenciju vide potencijal da isprave neefikasnosti u zdravstvenom prostoru (Anthropic je takođe ove nedelje najavio zdravstveni proizvod).
Za dr Nigama Šaha, profesora medicine na Stanfordu i glavnog naučnika za podatke u Stanford Health Care-u, nemogućnost američkih pacijenata da pristupe nezi je hitnija od pretnje da ChatGPT daje loše savete.
„Trenutno, kada odete u bilo koji zdravstveni sistem i želite da se sastanete sa lekarom opšte prakse – vreme čekanja će biti tri do šest meseci“, rekao je dr Šah. „Ako je vaš izbor da čekate šest meseci na pravog lekara ili da razgovarate sa nečim što nije lekar, ali može da uradi neke stvari za vas, šta biste izabrali?“
Dr Šah smatra da jasniji put za uvođenje veštačke inteligencije u zdravstvene sisteme dolazi na strani pružaoca usluga, a ne na strani pacijenta.
Medicinski časopisi su često izveštavali da administrativni zadaci mogu da zauzmu oko polovine vremena lekara opšte prakse, što smanjuje broj pacijenata koje mogu da prime u datom danu. Kada bi se ta vrsta posla mogla automatizovati, lekari bi mogli da prime više pacijenata, što bi možda smanjilo potrebu da ljudi koriste alate poput ChatGPT Health bez dodatnog unosa od pravog lekara.
Dr Šah vodi tim na Stanfordu koji razvija ChatEHR, softver koji je ugrađen u sistem elektronskih zdravstvenih kartona (EZK), omogućavajući kliničarima da interaguju sa medicinskim kartonima pacijenata na jednostavniji i efikasniji način.
„Činiti elektronski medicinski karton jednostavnijim za korišćenje znači da lekari mogu da provode manje vremena pretražujući svaki njegov kutak tražeći informacije koje su im potrebne“, rekla je dr Sneha Džain, rana testerka ChatEHR-a, u članku za Stanford Medicine. „ChatEHR im može pomoći da te informacije dobiju unapred kako bi mogli da posvete vreme onome što je važno – razgovoru sa pacijentima i otkrivanju šta se dešava.“
Antropik takođe radi na proizvodima veštačke inteligencije koji se mogu koristiti na strani lekara i osiguravača, a ne samo na svom javno okrenutom četbotu Klod. Ove nedelje, Antropik je najavio Klod za zdravstvo objašnjavajući kako bi se mogao koristiti za smanjenje vremena provedenog na zamornim administrativnim zadacima, poput podnošenja zahteva za prethodno odobrenje osiguravačima.
„Neki od vas vide stotine, hiljade ovih slučajeva prethodnog odobrenja nedeljno“, rekao je Majk Kriger, glavni službenik Antropika, u nedavnoj prezentaciji na konferenciji o zdravstvu DŽ.P. Morgana. „Zamislite da skratite 20, 30 minuta za svaki od njih – to je dramatična ušteda vremena.“
Kako se veštačka inteligencija i medicina sve više isprepliću, postoji neizbežna tenzija između dva sveta – primarni podsticaj lekara je da pomogne svojim pacijentima, dok su tehnološke kompanije na kraju odgovorne svojim akcionarima, čak i ako su im namere plemenite.
„Mislim da je ta tenzija važna“, rekao je dr Bari. „Pacijenti se oslanjaju na nas da budemo cinični i konzervativni kako bismo ih zaštitili.“