OpenAI uvodi roditeljsku kontrolu: ChatGPT davao savjete tinejdžeru za samoubistvo?

Kontrole omogućavaju roditeljima i tinejdžerima da se odluče za jače mjere zaštite tako što povežu svoje naloge, pri čemu jedna strana šalje pozivnicu, a roditeljska kontrola se aktivira samo ako druga strana prihvati, navela je kompanija.

Američki regulatori sve više proučavaju AI kompanije zbog mogućih negativnih posljedica upotrebe chatbota.

U augustu je Reuters objavio da su AI pravila META-e dozvoljavala koketne razgovore s djecom.

Prema novim mjerama, roditelji će moći smanjiti izloženost osjetljivom sadržaju, kontrolisati da li ChatGPT pamti prethodne razgovore, te odlučiti da li se razgovori mogu koristiti za treniranje OpenAI modela, navela je ova kompanija koju podržava Microsoft, na mreži X.

Roditeljima će također biti omogućeno da postave "tihe sate" koji blokiraju pristup tokom određenih vremenskih perioda, te da onemoguće glasovni režim, kao i generisanje i uređivanje slika, rekao je OpenAI.

Međutim, roditelji neće imati pristup transkriptima razgovora tinejdžera, dodala je kompanija.

U rijetkim slučajevima, kada sistemi i obučeni pregledači otkriju znakove ozbiljnog sigurnosnog rizika, roditelji mogu biti obaviješteni, ali samo uz informacije koje su potrebne kako bi se podržala sigurnost tinejdžera, rekao je OpenAI, dodajući da će roditelji biti obaviješteni ako tinejdžer prekine vezu između naloga.

OpenAI, koji ima oko 700 miliona sedmično aktivnih korisnika za svoje ChatGPT proizvode, razvija sistem za predviđanje dobi⁠ kako bi mogao procijeniti da li je korisnik mlađi od 18 godina, te automatski primijeniti postavke prikladne za tinejdžere.

Meta je također prošlog mjeseca najavila nove mjere zaštite tinejdžera u svojim AI proizvodima.

Kompanija je saopštila da će obučavati sisteme da izbjegavaju koketne razgovore i diskusije o samopovređivanju ili samoubistvu s maloljetnicima te da će privremeno ograničiti pristup određenim AI likovima.

(Vijesti.ba)