Jedna fotografija djeteta dovoljna je za AI ucjenu

NCA i Fondacija za nadzor interneta (IWF) objavile su nove smjernice s ciljem zaštite djece od sve češće zloupotrebe AI tehnologije.

Upozorenje je uslijedilo nakon slučaja u Velikoj Britaniji u kojem su kriminalne grupe iskoristile javno dostupne fotografije učenika, napravile lažni eksplicitni sadržaj pomoću AI-a i potom ucjenjivale školu prijetnjama da će ga objaviti.

Prema podacima IWF-a, tokom 2025. godine otkriveno je čak 3.400 AI-generisanih videozapisa ove vrste, u poređenju sa samo 13 godinu ranije. Izvršni direktor IWF-a Kerry Smith upozorio je da je riječ o zabrinjavajućem trendu koji može imati dugoročne posljedice po djecu.

Naglasio je da cilj nije obeshrabriti roditelje da dijele fotografije s porodicom i prijateljima, već ih upoznati s rizicima kako bi mogli donositi informisane odluke.

Organizacije upozoravaju da sadržaj generisan umjetnom inteligencijom postaje sve realističniji i nasilniji. Čak 65 posto od ukupno 3.443 AI-generisana videa u 2025. godini svrstano je u najtežu kategoriju prema britanskom zakonu.

Roditeljima se preporučuje da fotografije djece dijele isključivo u zatvorenim grupama ili da postavke privatnosti na društvenim mrežama ograniče na osobe od povjerenja. Istovremeno, IWF poziva tehnološke kompanije da bolje zaštite AI modele kako bi spriječile njihovu zloupotrebu za stvaranje ovakvog sadržaja.

(Vijesti.ba)