Një studim i ri ka ngritur shqetësime mbi besueshmërinë e disa modeleve të inteligjencës artificiale (AI) që përdoren për të parashikuar rrezikun e sëmundjeve si goditja në tru dhe diabeti.
Studiuesit paralajmërojnë se këto modele mund të jenë ndërtuar mbi të dhëna, origjina e të cilave nuk mund të verifikohet, duke vënë në pikëpyetje saktësinë e rezultateve dhe sigurinë e përdorimit të tyre në praktikën klinike.
Hulumtimi, i publikuar në revistën shkencore BMC Medicine dhe i udhëhequr nga studiues të Universitetit të Teknologjisë në Queensland (QUT) dhe Qendrës Australiane për Inovacion në Shërbimet Shëndetësore (AusHSI), analizoi dy grupe të dhënash shëndetësore të publikuara në platformën Kaggle, e cila përdoret gjerësisht nga zhvilluesit e inteligjencës artificiale dhe studiuesit për ndarjen e të dhënave dhe ndërtimin e modeleve të mësimit makinerik.
Sipas studiuesve, këto dy grupe të dhënash janë përdorur në të paktën 125 studime shkencore të rishikuara nga ekspertët, megjithëse nuk përmbajnë pothuajse asnjë informacion për origjinën e të dhënave, mënyrën e mbledhjes së tyre apo nëse ato përfaqësojnë pacientë realë.
Autori kryesor i studimit, Alexander Gibson, tha se ekipi u befasua nga rezultatet.
“Ishte një surprizë e madhe të hasnim diçka të tillë. Këto grupe të dhënash shfaqin modele të pazakonta që ngrenë pikëpyetje serioze për autenticitetin e tyre dhe përshtatshmërinë për kërkime klinike”, tha ai.
Studiuesit zbuluan se tre modele parashikuese të ndërtuara mbi këto të dhëna kanë dëshmi se janë përdorur në praktikën klinike. Njëri prej tyre është cituar edhe në një patentë për pajisje mjekësore, ndërsa modelet janë përmendur në 86 artikuj përmbledhës shkencorë.
Analiza u krye sipas standardit ndërkombëtar TRIPOD+AI, i cili vlerëson transparencën dhe cilësinë e modeleve të inteligjencës artificiale në mjekësi. Dy grupet e të dhënave morën 0 nga 9 pikë për kriteret kryesore që lidhen me origjinën dhe besueshmërinë e të dhënave.
Sipas Gibson, kjo duhet të shërbejë si një sinjal alarmi për revistat shkencore, zhvilluesit e teknologjisë dhe profesionistët shëndetësorë.
“Modelet parashikuese të ndërtuara mbi të dhëna me origjinë të panjohur nuk kanë vend në vendimmarrjen klinike. Pa të dhëna të besueshme, rezultatet janë të pasigurta dhe mund të çojnë në vendime të gabuara, duke rrezikuar shëndetin e pacientëve”, u shpreh ai.
Autorët e studimit kërkojnë që revistat shkencore, financuesit e kërkimeve dhe platformat që publikojnë të dhëna të vendosin kërkesa më të rrepta për transparencën e burimit të të dhënave. Ata rekomandojnë gjithashtu që dy grupet e të dhënave të analizuara të hiqen nga platforma Kaggle për të shmangur përdorimin e mëtejshëm të tyre.
Sipas studiuesve, deri më tani shtatë artikuj shkencorë që janë bazuar në këto grupe të dhënash janë tërhequr nga revistat për shkak të mungesës së besueshmërisë.
Ata paralajmërojnë se, me përdorimin gjithnjë e më të madh të inteligjencës artificiale në kujdesin shëndetësor, nevojiten kontrolle më të forta për cilësinë e të dhënave, në mënyrë që mjetet e reja teknologjike të ndihmojnë mjekët dhe pacientët, e jo të krijojnë rrezik për vendimmarrje të gabuara.