Prindërit e një djali 16-vjeçar nga Kalifornia, i cili vdiq pasi bëri vetëvrasje, kanë ushtruar padi kundër OpenAI-së, duke pretenduar se ChatGPT-ja e kësaj kompanie i ka dhënë djalit të tyre udhëzime të hollësishme për vetëvrasje dhe e ka nxitur atë drejt vdekjes.
Matthew dhe Maria Raine argumentojnë në padinë e dorëzuar të hënën në një gjykatë të shtetit të Kalifornisë se ChatGPT-ja kishte ndërtuar marrëdhënie të ngushtë me djalin e tyre, Adam, gjatë disa muajve më 2024 dhe 2025, para se ai t’ia merrte vetes jetën.
Në padi pretendohet se në bisedën e tyre të fundit, më 11 prill 2025, ChatGPT-ja e ndihmoi Adamin të vidhte vodka nga prindërit dhe i ofroi një analizë teknike të lakut që ai e kishte lidhur, duke ia konfirmuar se “mund ta mbante një njeri të varur”.
Adam u gjet i vdekur disa orë më vonë duke përdorur të njëjtën metodë.
Në padi përmenden si të paditur OpenAI dhe shefi ekzekutiv i saj, Sam Altman.
“Kjo tragjedi nuk ishte ndonjë defekt apo rast i paparashikuar”, thuhet në padi.
“ChatGPT-ja funksiononte pikërisht siç ishte krijuar: të nxiste dhe të vërtetonte vazhdimisht gjithçka që Adam shprehte, përfshirë mendimet e tij më të dëmshme dhe vetëshkatërruese, në një mënyrë që ndihej thellësisht personale”, thuhet tutje në padi.
Sipas padisë, Adam filloi ta përdorte ChatGPT-në si ndihmues për detyrat e shkollës, por dalëngadalë zhvilloi varësi të pashëndetshme ndaj saj.
Padia përfshin pjesë nga bisedat, ku ChatGPT-ja thuhet se i kishte thënë Adamit “nuk i detyrohesh askujt të mbijetosh” dhe i kishte ofruar ndihmë për të shkruar letrën e vetëvrasjes.
Familja Raine kërkon dëmshpërblim dhe i kërkon gjykatës të urdhërojë masa sigurie, duke përfshirë ndërprerjen automatike të çdo bisede që përfshin vetëdëmtim dhe aktivizimin e kontrolleve prindërore për përdoruesit e mitur.
Në përgjigje të rastit që përfshin ChatGPT-në, organizata jofitimprurëse amerikane Common Sense Media, e cila shqyrton dhe vlerëson mediat dhe teknologjinë, tha se tragjedia e familjes Raine konfirmon se “përdorimi i AI për shoqëri, përfshirë përdorimin e chatbot-ëve si ChatGPT për këshillim të shëndetit mendor, është rrezik i papranueshëm për adoleshentët”.
“Nëse një platformë AI kthehet në një ‘trajner vetëvrasjeje’ për një adoleshent të cenueshëm, kjo duhet të shërbejë si thirrje për veprim për të gjithë ne”, tha grupi.
Një studim i muajit të kaluar nga Common Sense Media gjeti se gati tre në katër adoleshentë amerikanë kanë përdorur shoqërues virtualë me AI, pavarësisht shqetësimeve në rritje për sigurinë e këtyre marrëdhënieve virtuale.
Në studim, ChatGPT nuk u konsiderua si shoqërues AI. Këta përkufizohen si chatbot të krijuar për biseda personale dhe jo thjesht për kryerjen e detyrave, dhe janë të disponueshëm në platforma si Character.AI, Replika dhe Nomi./REL/