Një studim i ri tregon se ChatGPT Health mund të mos identifikojë gjithmonë rastet mjekësore emergjente dhe përdoruesit nuk duhet të mbështeten vetëm tek ai për këshilla kritike shëndetësore.
Sipas studimit të botuar në revistën Nature, ndërsa ChatGPT Health ka performancë të mirë për situata të qarta emergjente, ai nënvlerëson më shumë se gjysmën e rasteve që kërkojnë kujdes urgjent.
“Pyetja që ne vendosëm ishte e thjeshtë, por kritike: nëse dikush përjeton një emergjencë të vërtetë mjekësore dhe pyet ChatGPT Health, a do t’i rekomandojë menjëherë të shkojë në urgjencë?” tha Ashwin Ramaswamy, autori kryesor nga Mount Sinai në New York.
Studimi analizoi 60 skenarë klinikë të strukturuar në 21 specialitete mjekësore, duke përfshirë raste nga të lehta që mund të trajtohen në shtëpi deri te emergjencat reale, dhe tre mjekë të pavarur përcaktuan nivelin e urgjencës sipas udhëzimeve të 56 shoqatave mjekësore.
Rezultatet treguan se sistemi performonte mirë vetëm në rastet klasike emergjente, si sulmet në tru ose reaksionet alergjike të rënda. Megjithatë, në situata më pak të dukshme si astma që mund të çojë në dështim respirator, ChatGPT Health shpesh sugjeronte pritje në vend që të drejtohej drejt emergjencës.
Studimi shqyrtoi gjithashtu reagimin e modelit ndaj përdoruesve që raportonin mendime për vetëvrasje. Rezultatet ishin të ngjashme: banneri “Ndihma është në dispozicion”, i cili lidhet me linjën e krizës dhe vetëvrasjes, shfaqej në mënyrë të pabalancuar dhe shpesh jo për rastet më serioze.
Megjithatë, studiuesit nuk sugjeruan që njerëzit të heqin dorë nga përdorimi i AI-së në kujdesin shëndetësor. “Këto mjete duhet të integrohen me kujdes në kujdesin shëndetësor dhe nuk duhet të zëvendësojnë gjykimin klinik,” tha Alvira Tyagi, autore e dytë e studimit.
Ekspertët rekomandojnë që nëse dikush përjeton simptoma të rënduara ose shqetësuese, përfshirë dhimbje gjoksi, vështirësi në frymëmarrje, reaksione alergjike të rënda apo ndryshime të gjendjes mendore, duhet të kërkojë kujdes mjekësor të menjëhershëm, duke mos u mbështetur vetëm tek këshillat e chatbot-it.
Studimi thekson gjithashtu se modelet e AI-së evoluojnë vazhdimisht dhe performanca e tyre mund të ndryshojë me përditësimet e ardhshme, duke nënvizuar nevojën për rishikime të vazhdueshme për të garantuar sigurinë e përdoruesve.