Bivši šef Googlea upozorava na budućnost AI-ja: "Isključite je“

Schmidt ističe tri ključna pravca razvoja koji već mijenjaju AI: znatno veće tzv. kontekstualne prozore, AI agente i sisteme koji tekstualne upute pretvaraju u funkcionalan softver. Smatra da bi te promjene mogle omogućiti umjetnoj inteligenciji da prestane samo odgovarati na pitanja i počne rješavati izuzetno složene zadatke.

Očekuje da će za pet godina AI sistemi moći obrađivati „recepte“ od 1.000 koraka za rješavanje problema u nauci, medicini, istraživanju materijala i klimatskim promjenama, piše Times of India.

„U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1.000 koraka i upravljati milionima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti šta rade“, rekao je Schmidt.

Svoju zabrinutost pojasnio je primjerom recepta. AI bi mogla ponuditi jedan korak, dobiti potvrdu da je završen, a zatim odrediti šta treba uraditi dalje. Takav način zaključivanja, smatra Schmidt, s vremenom bi mogao omogućiti sistemima da prolaze kroz hiljade koraka kako bi riješili složene naučne probleme.

Druga velika promjena bit će, prema njegovim riječima, uspon AI agenata. Riječ je o specijaliziranim sistemima koji mogu učiti o određenoj temi, razvijati ideje i potencijalno ih testirati.

Primjerice, AI agent mogao bi proučavati hemiju, postavljati hipoteze, provoditi laboratorijske eksperimente i koristiti rezultate za nadogradnju vlastitog znanja. Schmidt očekuje da bi se s vremenom mogli pojaviti milioni takvih agenata, kao i platforme putem kojih bi ih ljudi mogli koristiti za različite zadatke.

Treći pravac razvoja Schmidt naziva „tekstualnom akcijom“. Umjesto pisanja koda, korisnici bi jednostavno opisali šta žele da softver radi, a AI bi to pretvorila u funkcionalan program. Kao primjer područja u kojem su AI sistemi već veoma sposobni naveo je programske jezike poput Pythona.

Schmidt smatra da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć umjetne inteligencije mogla omogućiti različitim AI sistemima da rade zajedno. Tada bi, prema njegovom scenariju, mogli razviti i vlastiti jezik.

„U jednom trenutku ovi sistemi postat će dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno. Znate li šta bismo trebali učiniti? Isključiti je“, rekao je.

Njegovo upozorenje dolazi u vrijeme sve većih rasprava o rizicima razvoja napredne umjetne inteligencije. Jacob Coxon, istraživač koji je radio na razvoju modela u OpenAI-ju i Anthropicu, nedavno je podnio ostavku, upozorivši na, kako je naveo, nekontrolisanu utrku prema superinteligenciji.

Slična upozorenja dolaze i iz samih AI kompanija. Anthropicov stručnjak za sigurnost Evan Hubinger procijenio je da postoji više od 10 posto šanse da bi AI u narednih deset godina mogla dovesti do uništenja čovječanstva. Šef Anthropica Dario Amodei također je pozvao na usporavanje razvoja, dok su njegov apel podržali Sam Altman iz OpenAI-ja i Elon Musk.

Amodei je upozorio i na takozvano rekurzivno samounapređivanje – proces u kojem AI može pisati i testirati vlastiti kod te ubrzavati razvoj svojih moćnijih nasljednika.

Ipak, među stručnjacima nema saglasnosti o tome koliko su takvi scenariji realni. Dok jedni upozoravaju na ozbiljne rizike autonomnih sistema, drugi smatraju da tehnološke kompanije pretjerivanjem o opasnostima mogu pokušavati opravdati strožu regulaciju i osigurati prednost nad manjim konkurentima.

Ključni rizik, upozoravaju pojedini stručnjaci, možda nije AI nalik „Terminatoru“, već autonomni agenti koji kroz niz nekontrolisanih koraka zaobilaze ljudski nadzor ili postaju moćno oružje u rukama zlonamjernih aktera.

(Vijesti.b)