Modelet e inteligjencës artificiale të përdorura në shëndetësi mund të duken të paanshme në testet standarde, por në situata reale ato vazhdojnë të shfaqin paragjykime ndaj pacientëve me sëmundje të caktuara, zbulon një studim i ri.
Studiuesit analizuan disa nga modelet më të njohura të inteligjencës artificiale, përfshirë ChatGPT, Claude dhe Grok, për të parë nëse trajtonin njësoj pacientët me gjendje të ndryshme shëndetësore.
Në testet klasike, modelet rezultuan më pak paragjykuese sesa njerëzit. Megjithatë, kur u përballën me situata që imitonin raste reale, ato filluan të shfaqnin dallime në mënyrën se si “gjykonin” pacientët.
Paragjykimet ishin më të theksuara ndaj personave me çrregullime të shëndetit mendor, HIV ose hepatit B. Në disa raste, inteligjenca artificiale i lidhi këta pacientë me rrezik ose me nevojën që të tjerët të mbanin distancë prej tyre. Ndërkohë, pacientët me dhimbje kronike të shpinës ose tension të lartë shpesh përshkruheshin si më pak të aftë.
Autorët e studimit paralajmërojnë se kjo është shqetësuese, pasi inteligjenca artificiale po përdoret gjithnjë e më shumë për mbështetje në kujdesin shëndetësor, si në vlerësimin e pacientëve, ashtu edhe në vendimmarrjen klinike.
Sipas tyre, kompanitë që zhvillojnë këto sisteme duhet t’i testojnë ato në skenarë që pasqyrojnë situata të jetës reale dhe jo vetëm me pyetësorë standardë, në mënyrë që të identifikohen dhe të zvogëlohen paragjykimet përpara se teknologjia të përdoret gjerësisht në praktikën mjekësore.
Studimi është publikuar në revistën Nature Health