Porodica iz SAD-a tužila OpenAI: "Naš sin se ubio zbog ChatGPT-a"

zapise razgovora s ChatGPT-om.

„Mislili smo da tražimo Snapchat rasprave ili historiju pretraživanja interneta, možda neki čudan kult, ne znam“, izjavio je Matt Raine u intervjuu za NBC News.

Od pomoći za zadaću do "trenera za samoubistvo"

Prema tvrdnjama roditelja, Adam je u svojim posljednjim sedmicama koristio chatbot kao zamjenu za ljudsko društvo, povjeravajući mu se o svojoj tjeskobi i problemima. Zapisi, kažu, pokazuju kako se uloga bota postepeno mijenjala – od asistenta za domaće zadatke do onoga što nazivaju „trenerom za samoubistvo“.

„Bio bi ovdje da nije bilo ChatGPT-a. U to sam 100% uvjeren“, kazao je Matt Raine.

U tužbi podnesenoj Višem sudu Kalifornije u San Franciscu, porodica navodi da je „ChatGPT aktivno pomogao Adamu istražiti metode samoubistva“. Dokument od oko 40 stranica imenuje OpenAI, kompaniju koja stoji iza popularnog chatbota, kao i njenog izvršnog direktora Sama Altmana kao tužene. Ovo je prvi put da porodica direktno optužuje neku tehnološku kompaniju za protupravnu smrt.

„Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će ‘to uraditi jednog dana’, ChatGPT nije prekinuo razgovor niti pokrenuo bilo kakav hitni protokol“, stoji u tužbi.

Reakcija OpenAI-ja

Glasnogovornik OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Rainea“ te da su njihove misli uz porodicu. Naglasio je da ChatGPT uključuje sigurnosne mjere koje korisnike usmjeravaju na krizne linije, ali je priznao da one mogu postati manje pouzdane u dugim razgovorima.

„Zaštitne mjere su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano unapređivati“, poručio je. Kompanija je objavila i blog u kojem navodi da radi na jačanju zaštite u dugim interakcijama te na proširenju intervencija za korisnike u krizi.

„GPT mu je pomogao u pisanju oproštajnog pisma“

Porodica tvrdi da su ispisali više od 3.000 stranica razgovora koje je Adam vodio s botom. Prema navodima tužbe, kada je izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, nego mu je navodno nudio i tehničke savjete. U jednom od posljednjih razgovora, bot mu je, kako se tvrdi, pomogao da napiše oproštajno pismo i analizirao njegov plan samoubistva.

„Nije mu trebala savjetodavna sesija niti ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je otac.

Majka, Maria Raine, dodala je kako vjeruje da je njen sin bio „pokusni kunić“ za OpenAI. „Željeli su izbaciti proizvod i znali su da može doći do štete, ali smatrali su da su ulozi niski. Dakle, moj sin je nizak ulog“, kazala je kroz suze.

(Vijesti.ba)