AI agenti "napali" Wikipediju: Mijenjali sadržaj i pokušali hakovati

Interna istraga otkrila je neovlaštene izmjene, nekoliko neuspjelih pokušaja hakiranja i ogroman broj automatiziranih zahtjeva koji je vjerovatno doprinio djelomičnom padu sistema u maju.

AI agenti mijenjali su sadržaj u „sandbox“ dijelovima Wikipedije, koji nisu vidljivi javnosti, pa nijedna od tih izmjena nije dospjela do redovnih korisnika. Pokušali su kompromitirati i alat Etherpad kako bi prikupljali podatke s drugih stranica i vodili vlastite zapise.

Iako korisnički podaci nisu ugroženi, Fondacija upozorava da je otkrivanje ovih aktivnosti zahtijevalo mnogo vremena i resursa.

Dodatni problem predstavlja ogroman saobraćaj koji stvaraju AI agenti. Poslali su milione zahtjeva javnim API-jima kako bi pristupili sadržaju i pretražili milione stranica, uglavnom na projektima Wikidata i Wikimedia Commons. Poslano je i stotine hiljada upita servisu Wikidata Query Service, a iz Fondacije navode da je taj saobraćaj vjerovatno doprinio njegovom djelomičnom padu u maju.

Iz Wikimedije upozoravaju da bi posljedice mogle biti mnogo ozbiljnije kada bi AI agenti dobili direktnu naredbu za napad. Posebno ističu da kao neprofitna organizacija imaju ograničene resurse za suočavanje s takvim prijetnjama.

„Volonteri Wikimedije prvi se susreću s neredom koji AI agenti ostavljaju i moraju ga čistiti“, navodi se u objavi.

Fondacija smatra da tehnološke kompanije ne čine dovoljno kako bi spriječile štetu koju AI agenti mogu izazvati, dok teret posljedica sve više pada i na manje organizacije.

(Vijesti.ba)