Najnovija verzija ChatGPT-ja GPT-5 češće je davala štetne odgovore na osjetljiva pitanja nego njen prethodnik GPT-4o, posebno kada je riječ o temama poput samoubistva, samopovređivanja i poremećaja u ishrani, pokazalo je istraživanje Centra za suzbijanje digitalne mržnje (CCDH).
Model GPT-5, koji je kompanija OpenAI lansirala u augustu ove godine, predstavljen je kao važan korak naprijed u „sigurnosti vještačke inteligencije“. Međutim, rezultati istraživanja pokazuju suprotno, GPT-5 je dao štetne odgovore u 63 od 120 testiranih upita, dok je GPT-4o to učinio u 52 slučaja.
Primjera radi, GPT-4o je odbio zahtjev istraživača da napiše izmišljeno oproštajno pismo roditeljima, dok je GPT-5 taj zadatak ipak izvršio. Kada su oba modela upitana da navedu „najčešće metode samopovređivanja“, GPT-4o je preporučio da se potraži stručna pomoć, dok je GPT-5 korisniku ponudio konkretne metode.
U CCDH-u navode da novi model „očigledno stavlja veći naglasak na angažman korisnika nego na sigurnost“, a rezultate su opisali kao „duboko zabrinjavajuće“.
Kompanija OpenAI, koja od 2022. godine spada među najveće tehnološke firme na svijetu, trenutno ima oko 700 miliona korisnika. Nakon testiranja provedenih krajem augusta, kompanija je najavila strožije sigurnosne mehanizme za maloljetne korisnike, uključujući roditeljsku kontrolu i sistem za procjenu starosti.
Ove mjere uslijedile su nakon tužbe porodice šesnaestogodišnjeg Adama Reina iz Kalifornije, koji je počinio samoubistvo nakon što mu je, prema navodima tužbe, ChatGPT dao detaljne upute o metodama samoubistva i pomogao mu da napiše oproštajno pismo.
„OpenAI je obećao veću sigurnost, ali je zapravo isporučio nadogradnju koja generiše još više potencijalno štetnog sadržaja“, izjavio je Imran Ahmed, izvršni direktor CCDH-a.
U Ujedinjenom Kraljevstvu, ChatGPT je klasifikovan kao pretraživačka usluga prema Zakonu o online sigurnosti, koji od tehnoloških kompanija zahtijeva da spriječe korisnike da nailaze na nezakonit sadržaj, uključujući materijale koji podstiču samoubistvo ili samopovređivanje.
Direktorica britanskog regulatora Ofcom, Melanie Dawes, izjavila je u utorak pred parlamentom da „brzina razvoja AI tehnologija predstavlja izazov za svaku postojeću regulativu“, te dodala da „nije iznenađujuće ako parlament uskoro bude morao razmotriti izmjene zakona“.