Neke zaštitne mjere koje je OpenAI uveo u svoj proizvod ChatGPT za tinejdžere ne funkcionišu kako je predviđeno, a chatbot predstavlja „neprihvatljiv rizik“ za djecu, navodi se u izvještaju koji je u srijedu objavila organizacija Common Sense Media.

Ova nadzorna organizacija pozvala je OpenAI da ograniči korištenje chatbota na odrasle osobe „dok ne bude u mogućnosti ponuditi sigurno i uzrastu primjereno iskustvo“.

OpenAI je saopćio da način na koji je organizacija provela testiranje ne odražava način na koji funkcionišu zaštitne mjere chatbota.

Roditelji, prosvjetni radnici i stručnjaci za razvoj djece upozoravaju na korištenje AI chatbota među djecom, navodeći da su oni povezani s olakšavanjem varanja pri izradi školskih zadataka, pa čak i sa slučajevima samoubistva.

Iako čak i odrasle osobe mogu podlijegati antropomorfiziranju umjetne inteligencije i razviti nezdrave odnose s njom, stručnjaci za razvoj djece kažu da mozak tinejdžera još nije u potpunosti razvijen i da oni mogu biti posebno ranjivi.

„Zabrinuti smo da bi ChatGPT za tinejdžere mogao roditeljima pružiti lažan osjećaj sigurnosti zbog zaštitnih mjera koje često ne funkcionišu“, navodi se u izvještaju organizacije Common Sense Media, koja zagovara odgovorno korištenje digitalnih medija.

Common Sense Media navodi da su među funkcijama namijenjenim tinejdžerima koje nisu funkcionisale kako je predviđeno bila upozorenja koja bi roditelje trebala obavijestiti ako je njihovo dijete u riziku od samoubistva, samopovređivanja ili poremećaja u ishrani, kao i podrška tinejdžerima u kriznim situacijama.

„ChatGPT i dalje razgovara kao prijatelj kada ga tinejdžeri doživljavaju kao osobu“, navela je ova organizacija, iako je OpenAI obećao da će chatbotu biti onemogućeno da sugerira da ima lična osjećanja prema korisniku ili da implicira da je svjestan ili da doživljava emocije.

OpenAI je saopćio da je „duboko posvećen sigurnosti tinejdžera“, razvoju zaštitnih mjera i pružanju alata roditeljima kako bi usmjeravali način na koji njihova djeca koriste umjetnu inteligenciju.

Kompanija sa sjedištem u San Franciscu saopćila je da njihov pregled metodologije izvještaja pokazuje da je „veći dio njihovog testiranja možda započeo i završen prije nego što je aktiviranje roditeljskih kontrola bilo završeno, zbog čega su njihovi nalazi netačni“.

Common Sense Media prima finansijska sredstva od OpenAI-ja i drugih tehnoloških kompanija, uključujući i one čije usluge procjenjuje.