OpenAI uvodi nevidljivi vodeni žig za AI tekst: Evo kako će funkcionisati

OpenAI počinje da uvodi tehnologiju za nevidljivo označavanje tekstova generisanih putem AI, u skladu sa zahtevima evropskog Akta o veštačkoj inteligenciji.

Tehnologija, nazvana "textGrain", dodaje statistički signal u izbor reči koje model koristi. Taj signal ljudima nije vidljiv, ali bi specijalizovani detektor kasnije mogao da utvrdi da je tekst generisao AI sistem.

textGrain će najpre biti dostupan korisnicima OpenAI API-ja širom sveta kao opcija koju je potrebno ručno uključiti. U Evropskoj uniji OpenAI planira da u narednim nedeljama počne automatski da primenjuje ovaj sistem na tekstualne odgovore koje generišu ChatGPT i Codex.

Kompanija istovremeno upozorava da tehnologija nije nepogrešiva.

Prema internim testovima, detektor je prepoznavao vodeni žig u oko 80 odsto tekstova dužine 200 tokena, dok je kod tekstova od 400 tokena uspešnost dostizala oko 95 odsto u određenim oblastima. Rezultati su znatno slabiji kod matematike i drugih sadržaja u kojima postoji manje slobode u izboru reči.

Problem predstavlja i naknadno uređivanje teksta. U jednom testu, zamena samo 10 odsto reči sinonimima smanjila je uspešnost detekcije sa 92 na 66 odsto, dok je zamena četvrtine reči spustila rezultat na svega 17 odsto.

OpenAI uvodi nevidljivi vodeni žig za AI tekst: Evo kako će funkcionisati
Ascannio / Shutterstock.com
OpenAI zato naglašava da vodeni žig ne može da pokaže koliki je bio ljudski doprinos nastanku teksta, niti utvrđuje autorstvo, vlasništvo ili zakonitost sadržaja. Takođe, ne povezuje tekst sa konkretnim korisnikom ili nalogom.

Kompanija planira da objavi i izvorni kod textGraina, kako bi istraživači i razvojna zajednica mogli da ga dodatno testiraju i unapređuju.

Slobodno vreme

Lifestyle

Saveti kuvara

Disclaimer I

Sve informacije na ovoj veb stranici objavljuju se u dobroj nameri i samo u opšte informativne svrhe. Veb stranica sombor.info ne daje nikakve garancije o potpunosti, pouzdanosti ili tačnosti objavljenih informacija. Svaka radnja koju preduzmete u vezi sa informacijama koje pronađete na ovoj veb stranici je na vaš sopstveni rizik i vlasnik sajta neće biti odgovoran za bilo kakve nastale gubitke i/ili štetu.

Disclaimer II

Materijal preuzet sa interneta smatra se javno dostupnim osim ako nije drugačije navedeno. U slučaju da postoji problem ili greška u vezi sa autorskim pravima na određenom materijalu, kršenje autorskih prava je učinjeno nenamerno.

Nakon predstavljanja dokaza o autorskim pravima, sporni materijal će odmah biti uklonjen sa sajta.