AI nasuprot autentičnosti: rastuća potreba za podrijetlom u digitalnom sadržaju

Kako tvrtke reagiraju na porast AI sadržaja

Zbog ovih problema, velike tehnološke tvrtke rade na načinima za poboljšanje autentičnosti i podrijetla medija. Kao dio svoje godišnje konferencije Build, Microsoft je najavio da će njegovi alati Bing Image Creator i Designer sada imati nove značajke medijskog podrijetla.

Korisnici će moći provjeriti je li AI napravio slike ili videozapise pomoću kriptografskih metoda koje uključuju informacije o tome odakle je sadržaj došao.

Ali da bi ovaj sustav funkcionirao, različite platforme moraju pristati na specifikaciju Koalicije za podrijetlo i autentičnost sadržaja (C2PA).

Isto tako, Meta je objavila alat pod nazivom Meta Video Seal koji može dodati nevidljive vodene žigove videoisječcima koje je napravila umjetna inteligencija.

Ovaj alat otvorenog koda namijenjen je radu s postojećim softverom bez ikakvih problema, što olakšava pronalaženje sadržaja koji je napravila umjetna inteligencija.

Video Seal obećava da će biti otporan na uobičajene izmjene poput zamućenja i obrezivanja, za razliku od starijih tehnologija vodenih žigova koje su imale problema s kompresijom i manipulacijom videozapisa.

Problemi i ograničenja

Čak i uz ova poboljšanja, još uvijek postoje problemi s navođenjem velikog broja ljudi da koriste ove tehnologije. Mnogi programeri možda oklijevaju prijeći s postojećih vlasničkih rješenja na opcije otvorenog koda kao što je Video Seal.

Meta planira održati radionice na velikim konferencijama o umjetnoj inteligenciji i napraviti javnu ljestvicu koja uspoređuje različite metode vodenog žiga kako bi potaknula više ljudi da rade zajedno.

Također, metode vodenog žiga koje sada imamo nisu uvijek dovoljno jake ili učinkovite kada je u pitanju video sadržaj.

Dva glavna pristupa borbi protiv sadržaja generiranog umjetnom inteligencijom

U borbi protiv sadržaja generiranog umjetnom inteligencijom pojavile su se dvije različite strategije:

1. Vodeni žig (preventivni pristup):

• Funkcionira dodavanjem nevidljivih potpisa sadržaju u trenutku stvaranja
• Djeluje kao digitalni certifikat koji pokazuje “ovo je napravio AI”
• Alati kao što su Meta Video Seal i Microsoftove značajke podrijetla predstavljaju ovaj pristup
• Glavna prednost je trenutna identifikacija AI sadržaja

2. Alati za otkrivanje (analitički pristup):

• Analizira postojeći sadržaj kako bi utvrdio je li generiran umjetnom inteligencijom
• Traži obrasce i karakteristike tipične za sadržaj stvoren umjetnom inteligencijom
• Posebno korisno za sadržaj koji nije označen prilikom stvaranja
• Ovi alati čine našu drugu liniju obrane

Oba su pristupa potrebna jer se međusobno nadopunjuju: vodeni žig sprječava zlouporabu, dok alati za otkrivanje pomažu u prepoznavanju neoznačenog sadržaja.

Alati i tehnologije za otkrivanje

Sadržaj generiran umjetnom inteligencijom može se pronaći na više načina od samih tehnologija vodenog žiga. Novi alati za otkrivanje koriste složene algoritme za pregled tekstualnog i slikovnog sadržaja.

• Originalnost, algoritme dubokog učenja koristi AI za pronalaženje obrazaca u tekstu koji je generirala umjetna inteligencija.
• GPTZero proučava jezične strukture i frekvencije riječi kako bi razlikovao sadržaj koji su napisali ljudi i sadržaj koji su stvorili strojevi.
• CopyLeaks koristi usporedbe N-grama i sintakse kako bi pronašao male promjene u jeziku koje bi mogle biti znakovi autorstva umjetne inteligencije.

Ovi bi alati trebali korisnicima dati točna mišljenja o tome koliko je sadržaj stvaran, ali koliko dobro rade može se uvelike razlikovati.

U zaključku

Kako generativna umjetna inteligencija napreduje, zaštita digitalne autentičnosti postaje sve važnija. Microsoft i Meta prednjače s revolucionarnim standardima za autentičnost sadržaja i provjeru podrijetla medija.

Za učinkovitu borbu protiv deepfakea potrebno nam je usvajanje ovih alata u cijeloj industriji i jača suradnja između tehnoloških tvrtki. Budući integritet digitalnog sadržaja ovisi o tehnologijama otkrivanja koje se razvijaju brže od obmane generirane umjetnom inteligencijom.

Zapravo, nedavno smo opisali kako YouTube poduzima slične korake uvođenjem novih alata za otkrivanje umjetne inteligencije za autore i robne marke. Njihov pristup uključuje sintetičku identifikaciju glasa i tehnologije otkrivanja lica generirane umjetnom inteligencijom, što dodatno pokazuje kako glavne platforme rade na zaštiti autentičnosti sadržaja u eri umjetne inteligencije.