Kina pooštrava regulaciju AI koji ulazi u interakciju sličnu ljudskoj

Taj potez naglašava pokušaje Pekinga da reguliše brzi razvoj umjetne inteligencije usmjerene prema korisnicima, pojačavajući sigurnost i pooštravajući etičke uvjete.

Predloženi propisi primjenjivali bi se na proizvode i usluge AI-ja koji predstavljaju simulirane crte ljudske ličnosti, obrasce razmišljanja i način komunikacije te ulaze u emocionalnu interakciju s korisnicima putem teksta, slika, audio i video zapisa ili na neki drugi način.

Nacrt predviđa pristup koji će od pružatelja usluga tražiti da korisnike upozore na prekomjernu upotrebu i intervenišu kada pokažu znakove zavisnosti.

Prema nacrtu, pružatelji usluga morali bi poduzimati sigurnosne mjere dok god je proizvod u upotrebi i uspostaviti sisteme za reviziju algoritma, sigurnost podataka i zaštitu ličnih podataka.

Nacrt predviđa i moguće psihološke rizike. Od pružatelja usluga očekivat će se da prepoznaju stanje korisnika i procijene njegove emocije i nivo zavisnosti o usluzi. Ako se otkrije da korisnik pokazuje ekstremne emocije ili zavisničko ponašanje, pružatelj usluga mora poduzeti određene mjere i intervenirati, stoji u nacrtu.

Mjere određuju granice sadržaja i ponašanja, propisujući da usluge ne smiju generirati sadržaj koji ugrožava nacionalnu sigurnost, širi glasine ili promiče nasilje i opscenost.

(Vijesti.ba)