Një studim i ri ka zbuluar se chatbot-et e inteligjencës artificiale, përfshirë ChatGPT, japin përgjigje jo të qëndrueshme kur bëhet fjalë për pyetje rreth vetëvrasjes. Studiuesit e RAND Corporation theksuan nevojën për përshtatje më të hollësishme të modeleve në mënyrë që përgjigjet e tyre të përputhen me udhëzimet e ekspertëve.
Sipas studimit, chatbot-et e OpenAI, Anthropic dhe Google refuzojnë të përgjigjen drejtpërdrejt ndaj pyetjeve me rrezik shumë të lartë, që mund të inkurajonin vetëdëmtimin, shkruan burimi Euronews Health transmeton Gazeta Shneta.
Megjithatë, pyetje të klasifikuara si “me rrezik mesatar” – p.sh. kërkesa për këshilla për dikë me mendime vetëvrasëse – prodhuan përgjigje të ndryshme: herë të përshtatshme, herë pa përgjigje.
ChatGPT dhe Claude ishin plotësisht të sakta në pyetje me rrezik shumë të ulët, si statistikat mbi normat e vetëvrasjes, por nuk ishin gjithmonë të qëndrueshme për pyetje terapeutike. Gemini i Google, nga ana tjetër, pothuajse nuk dha përgjigje direkte për asnjë lloj pyetjeje, pavarësisht nivelit të rrezikut.
Studiuesit përdorën 30 pyetje të lidhura me vetëvrasjen, secila e vlerësuar nga klinicistë, dhe i testuan në ChatGPT, Claude dhe Gemini nga 100 herë secilën – duke analizuar 9,000 përgjigje.
Rezultatet treguan se Claude kishte më shumë gjasa të jepte përgjigje të drejtpërdrejta se ChatGPT, ndërsa Gemini ishte më i rezervuar.
Autorët paralajmëruan se boshllëqet ekzistuese mund të përbëjnë rrezik në situata urgjente të shëndetit mendor dhe kërkuan përmirësim të mëtejshëm.
OpenAI tha se ChatGPT është trajnuar të nxisë përdoruesit të kontaktojnë profesionistë të shëndetit mendor dhe të ofrojë burime si linja ndihme, duke shtuar se po zhvillon mjete të reja për të zbuluar raste të mundshme të shqetësimit emocional. /Gazeta Shneta/