Malezija i Indonezija blokirale Grok zbog pornografskih sadržaja

Ovi potezi odražavaju rastuću globalnu zabrinutost zbog generativnih AI alata koji mogu proizvoditi realistične slike, zvuk i tekst, dok postojeće zaštite ne uspijevaju spriječiti njihovu zloupotrebu. Grok chatbot, koji je dostupan putem Muskove društvene mreže X, kritikovan je zbog generiranja manipuliranih slika, uključujući prikaze žena u bikinijima ili seksualno eksplicitnim pozama, kao i slika koje uključuju djecu.

Regulatori u ove dvije jugoistočnoazijske zemlje rekli su da postojeće kontrole ne sprječavaju stvaranje i širenje lažnog pornografskog sadržaja, posebno onog koji uključuje žene i maloljetnike. Vlada Indonezije privremeno je blokirala pristup Groku u subotu, a Malezija u nedjelju.

- Vlada smatra neodobrene seksualne deepfake sadržaje ozbiljnim kršenjem ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru - rekla je u subotu ministrica za komunikacije i digitalne poslove Indonezije, Meutya Hafid, u izjavi.

Ministarstvo je navelo da je mjera namijenjena zaštiti žena, djece i šire zajednice od lažnog pornografskog sadržaja generiranog putem AI tehnologije.

Početna ispitivanja pokazala su da Grok nema efikasne zaštite koje bi spriječile korisnike da stvaraju i dijele pornografski sadržaj temeljen na stvarnim fotografijama indonezijskih građana, rekao je Alexander Sabar, generalni direktor za nadzor digitalnog prostora, u zasebnoj izjavi. Naglasio je da takva praksa može narušiti privatnost i prava na sliku kada se fotografije manipulišu ili dijele bez pristanka, uzrokujući psihološku, socijalnu i reputacijsku štetu.

U Kuala Lumpuru, Malezijska komisija za komunikacije i multimediju naredila je privremeno ograničenje pristupa Groku u nedjelju nakon onoga što je nazvala "ponovljenom zloupotrebom" alata za generiranje neprimjerenih, seksualno eksplicitnih i neodobrenih manipuliranih slika, uključujući sadržaj koji uključuje žene i maloljetnike.

Regulator je naveo da su ranije ovog mjeseca X Corp. i xAI dobili obavijesti tražeći jače zaštite, ali da su odgovori uglavnom zavisili od mehanizama prijavljivanja od strane korisnika.

- Ograničenje je uvedeno kao preventivna i proporcionalna mjera dok traju pravni i regulatorni procesi - navodi se, dodajući da će pristup ostati blokiran dok se ne uvedu efikasne zaštite.

Grok je lansiran 2023. godine i besplatan je za korištenje na platformi X. Korisnici mogu postavljati pitanja i označavati objave koje su direktno kreirali ili odgovarali na objave drugih. Prošlog ljeta kompanija je dodala funkciju za generiranje slika, Grok Imagine, koja je uključivala tzv. "spicy mode" koji može generirati sadržaj za odrasle.

Ograničenja u jugoistočnoj Aziji dolaze usred rastuće kritike Groka i drugdje, uključujući Evropsku uniju, Britaniju, Indiju i Francusku. Prošle sedmice Grok je ograničio generisanje i uređivanje slika samo na korisnike koji plaćaju, nakon globalnog negodovanja zbog seksualizovanih deepfake sadržaja, ali kritičari kažu da to nije u potpunosti riješilo problem.

(Vijesti.ba)