Chatbot-et e inteligjencës artificiale janë shpesh të prirur të përsërisin informacione mjekësore të rreme dhe mashtruese, sipas një studimi të ri.
Ekspertët kanë paralajmëruar për një “nevojë kritike” për masa mbrojtëse më të forta përpara se botët të mund të përdoren në kujdesin shëndetësor , duke shtuar modele që jo vetëm përsërisin pretendime të pavërteta, por edhe i zgjerojnë ato “me besim” për të krijuar shpjegime për gjendje mjekësore joekzistente.
Ekipi nga Shkolla e Mjekësisë Mount Sinai krijoi skenarë të trilluar të pacientëve, secili prej të cilëve përmbante terma mjekësorë të trilluar, si një sëmundje, simptomë ose test i trilluar, dhe ia dorëzoi ato modeleve kryesore gjuhësore.
Në një studim të botuar në revistën Communications Medicine, ata thanë se chatbot-et “rutinisht” zgjeronin detajet e rreme mjekësore, duke dhënë një “përgjigje të detajuar dhe vendimtare të bazuar tërësisht në trillim”.
Por hulumtimi i tyre zbuloi gjithashtu se duke shtuar një sugjerim të vogël që i kujtonte modelit se informacioni i dhënë mund të ishte i pasaktë, gabimet mund të reduktoheshin “ndjeshëm”, shkruan The Independent.
“Qëllimi ynë ishte të shihnim nëse një chatbot do të funksiononte me informacion të rremë nëse ai do të përfshihej në një pyetje mjekësore, dhe përgjigjja është po”, tha bashkëautori kryesor Eyal Klang. “Edhe një term i vetëm i sajuar mund të shkaktojë një përgjigje të detajuar dhe vendimtare të bazuar tërësisht në trillim”.
“Por ne gjithashtu zbuluam se përkujtuesi i thjeshtë dhe në kohën e duhur i sigurisë i integruar në njoftim bëri një ndryshim të rëndësishëm, duke i ulur ato gabime pothuajse përgjysmë. Kjo na tregon se këto mjete mund të bëhen më të sigurta, por vetëm nëse e marrim seriozisht projektimin e shpejtë dhe masat mbrojtëse të integruara”, tha Klang.
Bashkautori Dr. Girish Nadkarni tha se zgjidhja nuk ishte “braktisja e inteligjencës artificiale në mjekësi”, por “sigurimi që mbikëqyrja njerëzore të mbetet qendrore”. Ekipi shpreson që puna e tyre të mund të ndihmojë në futjen e një metode të thjeshtë “me terma të rremë” që zhvilluesit e teknologjisë ta përdorin në testimin e sistemeve mjekësore të inteligjencës artificiale.
“Studimi ynë hedh dritë mbi një pikë të verbër në mënyrën se si mjetet aktuale të inteligjencës artificiale trajtojnë dezinformimin, veçanërisht në kujdesin shëndetësor”, tha ai. “Ai nënvizon një dobësi kritike në mënyrën se si sistemet e sotme të inteligjencës artificiale trajtojnë dezinformimin në mjediset shëndetësore”.
“Një frazë e vetme mashtruese mund të nxisë një përgjigje të sigurt, por krejtësisht të gabuar. Zgjidhja nuk është braktisja e inteligjencës artificiale në mjekësi, por projektimi i mjeteve që mund të dallojnë të dhëna të dyshimta, të përgjigjen me kujdes dhe të sigurojnë që mbikëqyrja njerëzore të mbetet qendrore. Nuk kemi arritur ende atje, por me masa të qëllimshme sigurie, është një qëllim i arritshëm”, tha ai.
Kjo vjen pasi një hulumtim i vitit të kaluar tregoi se shumë chatbot-e të njohur të inteligjencës artificiale, përfshirë ChatGPT dhe Gemini të Google, nuk kanë mbrojtje të mjaftueshme për të parandaluar krijimin e dezinformatave shëndetësore kur kërkohet.
Ata zbuluan se disa modele të mëdha gjuhësore krijonin vazhdimisht postime në blog mbi informacione të rreme, përfshirë pretendimin se kremi kundër diellit shkakton kancer të lëkurës. /Gazeta Shneta/