Postoje oblasti u kojima više od 900 miliona sedmičnih korisnika može sebi napraviti ozbiljne probleme.
Lista ljudi koji su se sami doveli u probleme tako što su u ChatGPT unijeli pogrešne informacije nastavlja rasti. Tu su Samsungovi inženjeri, vršilac dužnosti direktora američke agencije za sajber odbranu, osobe koje su se same zastupale pred sudom i dostavljale citate nepostojećih sudskih odluka, kao i muškarac koji je kuhinjsku so zamijenio natrijevim bromidom nakon što je pitao kako da smanji unos soli.
Čak i Sam Altman, izvršni direktor OpenAI-ja, priznaje da ono što dijelite s ChatGPT-om nije zaštićeno profesionalnom povjerljivošću. Govoreći za podcast Thea Vona u julu 2025. godine, upozorio je da bi sudovi mogli primorati OpenAI da preda razgovore korisnika, nazivajući tu situaciju “veoma problematičnom”.
Kada nešto kažete ljekaru, advokatu ili terapeutu, zakon štiti povjerljivost tog razgovora. Međutim, razgovor s ChatGPT-om ostavlja digitalni trag. Rizik nije samo teoretski – u posljednjih 18 mjeseci zabilježeni su slučajevi u kojima su razgovori s ChatGPT-om bili predmet sudskih zahtjeva, javno izloženi putem funkcije za dijeljenje, indeksirani na Googleu ili sačuvani na osnovu sudskog naloga čak i nakon brisanja.
Naravno, chatbot može biti koristan alat za istraživanje – ali provjerite jesu li sudski citati stvarni – programiranje, objašnjavanje koncepata ili izradu nacrta tekstova. Ipak, postoje oblasti u kojima više od 900 miliona sedmičnih korisnika može sebi napraviti ozbiljne probleme.
Chat GPT ne bi trebalo koristiti za:
Pravne savjete
Istraživač Damien Charlotin evidentirao je više od 2.000 sudskih odluka širom svijeta u kojima je ChatGPT generisao nepostojeće pravne citate, slučajeve ili argumente. U 1.175 slučajeva radilo se o osobama koje su se same zastupale, dok je u 815 slučajeva riječ bila o advokatima.
Zbog toga sudovi sve češće izriču novčane kazne, a slični slučajevi zabilježeni su u SAD-u, Velikoj Britaniji, Južnoj Africi, Izraelu, Australiji i Španiji. ChatGPT je, među identificiranim alatima, bio najčešće korišten.
Dodatni problem je povjerljivost. Razgovori s ChatGPT-om nemaju istu pravnu zaštitu kao komunikacija s advokatom i mogu biti dostupni u sudskim postupcima. Opća pravna pitanja mogu se postavljati, ali detalje vlastitog spora bolje je ostaviti advokatu.
Kao terapeuta ili životnog savjetnika
OpenAI je procijenio da oko 0,15 posto sedmično aktivnih korisnika razgovara s ChatGPT-om o temama koje ukazuju na moguće planiranje samoubistva – što predstavlja više od milion ljudi sedmično. Stotine hiljada drugih pokazuju znakove psihoze ili manije.
Problem je i u tome što korisnici, posebno mladi, chatbot koriste kao terapeuta, iako razgovori nemaju istu zaštitu povjerljivosti kao kod stvarnog terapeuta. Nakon tužbe roditelja 16-godišnjeg Adama Rainea, koji su tvrdili da je ChatGPT dodatno poticao suicidalne misli njihovog sina, OpenAI je promijenio odgovore u kriznim situacijama i uključio više od 170 stručnjaka za mentalno zdravlje.
Istraživanja su pokazala i da chatbotovi mogu pretjerano potvrđivati korisnikova uvjerenja. Ako, naprimjer, opišete sukob sa supružnikom, model raspolaže samo vašom verzijom događaja i može je dodatno potvrđivati. Zbog sličnih zabrinutosti neke američke savezne države već ograničavaju korištenje AI sistema za terapiju.
Povjerljive poslovne informacije
Povjerljive poslovne dokumente ne treba unositi u javne AI chatbote. Jedan od primjera je bivši vršilac dužnosti direktora američke CISA-e Madhu Gottumukkala, koji je u ChatGPT postavio najmanje četiri dokumenta označena kao “samo za službenu upotrebu”, što je izazvalo sigurnosnu provjeru.
Samsung je još 2023. godine zabranio generativne AI alate na službenim uređajima nakon što su njegovi inženjeri u ChatGPT unosili interni izvorni kod. Kompanija je upozorila da podaci poslani takvim platformama završavaju na vanjskim serverima i mogu biti teško uklonjeni ili potencijalno izloženi.
Čak i kada je isključeno korištenje razgovora za treniranje modela, podaci mogu ostati pohranjeni, biti predmet sigurnosnog propusta ili pravnog postupka. Unošenje podataka klijenata ili materijala koji podliježu ugovorima o povjerljivosti može predstavljati ozbiljno kršenje radnih obaveza, piše Engadget.
Medicinske savjete
ChatGPT ne treba koristiti kao zamjenu za ljekara. Zdravstveni podaci uneseni u chatbot nemaju nužno istu zakonsku zaštitu kao podaci koje pacijent razmjenjuje sa zdravstvenom ustanovom.
Istraživanje Univerziteta Northeastern pokazalo je da zaštitni mehanizmi ChatGPT-a nisu jednako pouzdani za sva zdravstvena stanja, uključujući poremećaje u ishrani, nesanicu, zloupotrebu supstanci i bipolarni poremećaj.
U jednom slučaju 60-godišnji muškarac je, nakon pogrešnog savjeta koji je ChatGPT dao o smanjenju unosa hlorida, zaključio da je natrijev bromid sigurna zamjena za kuhinjsku so. Uzimajući ga tri mjeseca, završio je u bolnici.
Lozinke, identifikacioni i bankarski podaci
Posebno osjetljive podatke nikada ne treba unositi u ChatGPT. Prošle godine su pronađene hiljade javno dostupnih ChatGPT razgovora koji su sadržavali veoma osjetljive informacije. Razgovori su dospjeli u Googleovu pretragu nakon što su korisnici uključili opciju za javno dijeljenje, očigledno ne shvatajući njene posljedice. OpenAI je funkciju ubrzo ukinuo.
Dodatni problem predstavlja činjenica da su sudski postupci u pojedinim periodima obavezivali OpenAI da čuva razgovore korisnika, uključujući i obrisane razgovore.
Zato u ChatGPT ne treba unositi lozinke, jednokratne kodove, broj pasoša ili lične dokumente, broj socijalnog osiguranja, podatke bankovnih računa i kartica. Ako bi takvi podaci bili kompromitovani, mogli bi biti iskorišteni za krađu identiteta.
Jednostavno pravilo: ako ne biste željeli da osjetljivu informaciju jednog dana pročita druga osoba, nemojte je unositi u ChatGPT.
Izvor: tuzlanski.ba
