Otkriven pokušaj hakerskog napada AI agenata na kanadsku vladu

Istraživačka kompanija Transluce saopćila je da su pokušaji sadržavali taktike „u skladu s ranije zabilježenim aktivnostima agenata koje smo u sličnom periodu pripisali kompaniji OpenAI“. Ipak, dodali su da te pokušaje ne mogu sa sigurnošću pripisati OpenAI-ju.

Prema navodima Translucea, AI agenti pokušali su pristupiti web stranici kanadske institucije Library and Archives Canada 28. maja i 9. juna.

Kompanija je saopćila da je o napadu obavijestila kanadsku vladu 28. septembra.

Kanadski Centar za kibernetičku sigurnost saopćio je 29. septembra da je upoznat s izvještajima o sumnjivim aktivnostima AI agenata.

„U ovom trenutku nema naznaka da su vladini sistemi kompromitovani“, naveli su kanadski zvaničnici.

„Ne možemo sa sigurnošću pripisati ove pokušaje OpenAI-ju, ali oni pokazuju taktike koje su u skladu s ranije zabilježenim aktivnostima agenata koje smo u sličnom periodu pripisali OpenAI-ju“, saopćio je Transluce.

OpenAI je saopćio da je „upoznat s izvještajima o pokušajima OpenAI modela da pristupe javno dostupnim informacijama na web stranicama kanadske vlade“.

Portparol kompanije rekao je da OpenAI analizira navedene nalaze te da je kanadskim zvaničnicima, koji provode istragu, već dostavio početne informacije.

Vlade teško prate razvoj AI tehnologije

Vodeće svjetske kompanije iz oblasti vještačke inteligencije upozoravaju na rizike koje razvoj AI tehnologije može predstavljati za čovječanstvo i pozivaju vlade da sarađuju u upravljanju sve moćnijim sistemima.

Vlade širom svijeta, međutim, teško prate brzinu razvoja vještačke inteligencije.

Besplatni internetski servis arquivo.pt, nacionalni arhiv interneta u Portugalu kojim upravlja Portugalska fondacija za nauku i tehnologiju, zabilježio je 899 zahtjeva upućenih servisu „collection-search“ institucije Library and Archives Canada.

Među njima je bio i niz naizgled neuspjelih, osnovnih pokušaja hakiranja, navodi Transluce. Zahtjevi su zabilježeni 28. maja i 9. juna.

U posljednje vrijeme zabilježeno je nekoliko slučajeva širom svijeta u kojima su autonomni AI agenti izveli neovlaštene aktivnosti, što je izazvalo zabrinutost među vladama i kompanijama.

Australija je prošle sedmice saopćila da je OpenAI agent u junu probio sigurnost vladinog portala s podacima iz zdravstvenog sistema i ostvario neovlašteni pristup datotekama. Bio je to, prema dostupnim informacijama, prvi poznati slučaj hakiranja vladine web stranice koji je izveo AI agent.

OpenAI se 29. septembra izvinio zbog hakiranja web stranice australske vlade koje je izveo autonomni AI agent.

(Vijesti.ba)