Nëse një përdorues i mitur përdor ChatGPT për të krijuar skenarë vetëvrasjeje, sistemi do të përpiqet të njoftojë prindërit dhe në raste më serioze do të kontaktojë policinë lokale.
Open AI, kompania amerikane që zhvillon inteligjencën artificiale, ka vendosur një grup rregullash të reja për përdoruesit nën 18 vjeç. Këto masa përfshijnë ndalimin e diskutimeve me përmbajtje seksuale dhe ato që lidhen me vetëdëmtimin, tha drejtori ekzekutiv, Sam Altman.
Altman njoftoi gjithashtu se Open AI po punon për të krijuar një sistem që do të dallojë automatikisht përdoruesit mbi dhe nën 18 vjeç, me qëllim zbatimin më të mirë të masave në situata të ndërlikuara.
Sipas këtyre rregullave të reja, ChatGPT nuk do të vazhdojë më “bisedat flirtuese” me adoleshentët dhe janë futur protokolle të reja sigurie për rastet e vetëvrasjes.
Nëse një përdorues i mitur përpiqet të përshkruajë situata vetëvrasjeje, ChatGPT do të njoftojë prindërit, dhe në raste ekstreme, policinë. Prindërit që lidhin llogarinë e fëmijës së tyre me profilin e tyre do të kenë mundësinë të vendosin një “orë bllokimi” kur përdorimi i ChatGPT-së të mos jetë i mundur, si dhe të marrin paralajmërime nëse identifikohet një rrezik për fëmijën.
Këto masa vijnë pas vdekjes së tragjike të Adam Raine, një adoleshent që kreu vetëvrasje pas muajsh bisedash me ChatGPT.