Tekstovi koje korisnici u Europskoj uniji izrađuju uz pomoć ChatGPT-a uskoro će sadržavati svojevrsni nevidljivi digitalni trag. OpenAI je najavio postupno uvođenje tehnologije koja bi trebala omogućiti prepoznavanje tekstova nastalih uz njegove modele umjetne inteligencije.
Nova tehnologija naziva se textGrain, a uvodi se u sklopu prilagodbe pravilima europskog AI Acta, koji od pružatelja generativne umjetne inteligencije zahtijeva da sadržaj nastao uz AI bude moguće prepoznati u strojno čitljivom obliku.
Važno je naglasiti da ChatGPT neće u tekst potajno ubacivati nevidljiva slova, posebne razmake ili skrivene poruke. Umjesto toga, sustav tijekom stvaranja teksta vrlo suptilno mijenja način na koji bira između mogućih riječi i dijelova riječi.
Tako se kroz duži tekst stvara statistički obrazac koji čovjek ne može vidjeti dok čita tekst, ali ga odgovarajući sustav za provjeru može pokušati prepoznati.
Drugim riječima, ako netko tekst iz ChatGPT-a jednostavno kopira i zalijepi na web-stranicu, u dokument ili objavu, sam čin kopiranja ne mora ukloniti taj trag jer se on nalazi u obrascu samog teksta.
Ipak, sustav nije nepogrešiv. OpenAI upozorava da je prepoznavanje znatno teže kod kratkih tekstova te da veće prepravljanje, parafraziranje ili prevođenje može oslabiti ili potpuno ukloniti mogućnost detekcije.
Također, pronađeni watermark ne otkriva tko je koristio ChatGPT, koji je upit korisnik napisao, niti njegove osobne podatke. Ne može ni pokazati koliko je teksta napisao čovjek, a koliko umjetna inteligencija.
OpenAI zbog mogućnosti pogrešnih rezultata svoj alat za detekciju tekstualnog watermarka zasad neće otvoriti svim korisnicima. U početnoj fazi pristup će dobiti odabrani istraživači i stručne organizacije.
Uvođenje će se odvijati postupno tijekom sljedećih tjedana i odnosit će se na odgovarajuće tekstove generirane kroz ChatGPT i Codex u Europskoj uniji, na svim korisničkim paketima.
Za korisnike koji ChatGPT koriste za pisanje članaka, školskih i akademskih radova, poslovnih dokumenata ili sadržaja za društvene mreže promjena je posebno zanimljiva: tekst na prvi pogled neće izgledati ništa drugačije, ali bi u određenim okolnostima moglo biti moguće strojno utvrditi da je u njegovu nastanku sudjelovao OpenAI-jev sustav.
Ipak, ni pozitivan rezultat neće predstavljati dokaz autorstva, niti dokaz da je kompletan tekst napisala umjetna inteligencija. OpenAI naglašava da je tehnologija još u razvoju te da su mogući i pogrešni pozitivni i negativni rezultati.
