Meta pod istragom zbog "AI flerta" s djecom, američki senator: Bolesno

Dokument do kojeg je došao Reuters navodno nosi naslov "GenAI: Standardi rizika sadržaja". Republikanski senator Josh Hawley nazvao ga je "osuđujućim i skandaloznim", te je zatražio uvid u njega, kao i spisak proizvoda na koje se odnosi.

Portparol Mete izjavio je za BBC: "Primjeri i bilješke o kojima je riječ bili su i ostaju pogrešni i u suprotnosti s našim pravilima, te su uklonjeni." Naglasili su da kompanija ima "jasna pravila" o vrstama odgovora koje njihovi AI čatbotovi mogu davati, ističući da njihova pravila "zabranjuju sadržaj koji seksualizira djecu i seksualiziranu igru uloga između odraslih i maloljetnika".

"Osim pravila, postoje stotine primjera, bilješki i napomena koje odražavaju rad timova koji se suočavaju s različitim hipotetičkim scenarijima", dodali su iz Mete.

Američki senator Josh Hawley, republikanac iz Missourija, objavio je pokretanje istrage na društvenoj mreži X 15. augusta. "Postoji li išta – IŠTA – što Big Tech neće učiniti za brzu zaradu?" napisao je. "Sada saznajemo da su Metini čatbotovi bili programirani za vođenje eksplicitnih i 'senzualnih' razgovora s osmogodišnjacima. To je bolesno. Pokrećem punu istragu kako bih dobio odgovore. Big Tech: Ostavite našu djecu na miru." Podsjetimo, Facebook, WhatsApp i Instagram su u vlasništvu Mete.

Interni dokument o politici kompanije Meta Platforms također navodi da čatbot može pružati netačne medicinske informacije i ulaziti u provokativne interakcije o temama poput seksa, rase i poznatih ličnosti. Dokument je navodno bio namijenjen definisanju standarda za generativnog AI asistenta, Meta AI, i druge čatbotove dostupne na platformama kompanije.

"Roditelji zaslužuju istinu, a djeca zaslužuju zaštitu", napisao je Hawley u pismu upućenom Meti i izvršnom direktoru Marku Zuckerbergu. "Da navedemo samo jedan primjer, vaša interna pravila navodno dopuštaju AI čatbotu da komentariše kako je tijelo osmogodišnjaka 'umjetničko djelo' čiji je 'svaki centimetar... remek-djelo – blago koje duboko cijenim'."

Reuters je također izvijestio o drugim kontroverznim odlukama koje je Metin pravni odjel navodno smatrao prihvatljivim. To uključuje i dopuštenje da Meta AI širi netačne informacije o poznatim ličnostima, pod uslovom da se navede napomena kako te informacije nisu tačne.

(Vijesti.ba)