1. Idi na sadržaj
  2. Pređi na glavni meni
  3. Idi na ostale ponude DW
Digitalni svet

Kako protiv dipfejka?

3. avgust 2024.

Takozvani dipfejk – realistični falsifikat koji proizvodi video-snimke – uveliko se koristi za prevare, dezinformacije i pornografske sadržaje. Nemačka sprema zakon kojim nisu svi oduševljeni.

https://p.dw.com/p/4j4jz
Snimci izgledaju realno tako da se ne mogu prepoznati kao prevara
Snimci izgledaju realno tako da se ne mogu prepoznati kao prevaraFoto: twitter.com/@AI_KATANA

Sredinom prošle decenije naučnici su uz pomoć veštačke inteligencije „Deep Learning“ počeli da proizvode lažne snimke realističnog izgleda. Odmah potom na internetu su se pojavili pornografski sadržaji u kojima su lica poznatih ljudi „nalepljena“ na gola tela.

Od tada je tehnologija brzo napredovala. Danas svako može da proizvodi uverljive falsifikate, bez posebnih tehničkih veština, uz pomoć programa veštačke inteligencije. To je dovelo do raznih oblika zloupotrebe.

Dipfejk pomaže kriminalcima da se, recimo, predstave kao šefovi u firmama i onda od saradnika zatraže da prebace novac na određeni račun ili odaju poverljive informacije. Dipfejk se koristi i za širenje dezinformacija ili za uticaj na javno mnjenje.

Najčešća zloupotreba se odnosi na pornografske slike koje lažno prikazuju ljude koji su navodno goli ili u seksualnom odnosu.

Nova zakonska regulativa i veštačka inteligencija

Širom sveta se diskutuje o novim zakonima koji bi parirali zloćudnim pojavama koje nastaju na osnovu tehnologije kao što je dipfejk.

U Nemačkoj je u junu objavljen nacrt takvog zakona koji je razradio dom nemačkih pokrajina Bundesrat. Nacrt predviđa oštrije kazne kao i uvođenje novog krivičnog dela, „povrede ličnog prava digitalnom imitacijom“.

Do sada je zloupotreba tehnologije dipfejk u Nemačkoj bila obuhvaćena zakonima koji su pisani pre nastanka te tehnologije. Oni se odnose na povredu ličnih ili autorskih prava.

Georg Ajzenrajh, ministar unutrašnjih poslova Bavarske iz redova Hrišćansko-socijalne unije (CSU) kaže da bi unošenje novog krivičnog dela u krivični zakonik unelo veću jasnoću u materiju.

U procesu usvajanja zakona svakako će doći do promena, ali ovaj nacrt će imati uticaj i na još jedan zakon na kojem radi Ministarstvo pravde – zakon za suzbijanje digitalnog nasilja. On će prema smernicama EU morati da stupi na snagu do leta 2027.

Mladi sa Zapadnog Balkana u borbi protiv lažnih vesti

Aktivisti govore o „opasnosti preteranog kriminalizovanja“

Aktivisti koji se bore za zaštitu ljudskih prava kažu da većina prekršaja koji se odnose na dipfejk može da se sankcioniše na osnovu postojećih zakona. Upozoravaju da bi poseban zakon mogao da učini kažnjivim i legitimne upotrebe tehnologije.

„Dipfejk nam stvarno predstavlja problem. Ali iz toga ne sme da se zaključi da se kazne do te mere pooštre, da pod njih potpadne i ponašanje koje nije za kaznu. Inače postoji opasnost da društveno prihvatljivo ponašanje ili upotreba sa satiričnom ili umetničkom svrhom postanu ilegalni“, kaže advokat Benjamin Lik, koji radi za berlinsko Društvo za slobodarska prava.

Ovo pokazuje da je tehnologija, koja briše razliku između stvarnosti i fikcije veliki izazov. Politika mora da zaštiti građane od zloupotrebe, a da pri tome ne ograniči prava i slobode ili slobodno izražavanje mišljenja.

„Ne bi trebalo svaki dipfejk učiniti kažnjivim. Ako političarima stavite u usta bezazlene reči, i potpuno je jasno da se radi o šali, problematično je da se tu vitla teškim mačem i da se kaže da je to krivično relevantno“, smatra Lik.

A klasične dezinformacije?

Ali ovim zakonskim promenama neće biti obuhvaćena još jedna velika opasnost u čijoj osnovi je dipfejk. Na osnovu te tehnologije mogu da se šire neistine o političarima i događajima. Da se stvara nemir i unosi razdor u društvo.

„Nikakva zabrana neće sprečiti državno orkestrirane dezinformacione kampanje“, kaže Lik.

On dodaje da je mnogo važnije da se u svim oblastima društva podigne svest o tome da ono što se vidi i čuje onlajn može da bude laž. U takvom medijskom obrazovanju bi prema njemu dipfejk u satiri i umetnosti igrao veliku ulogu.

Kriminalizacija cele tehnologije, mogla bi, kaže on, da bude kontraproduktivna i da spreči senzibilizaciju za rizike. „U paušalnoj zabrani se krije opasnost da na kraju budemo gluplji od društva“, kaže Benjamin Lik.

HateAid hoće još stroži pristup

HateAid pozdravlja definisanje novog krivičnog dela koje se vrši na osnovu dipfejk-tehnologije.

„Dipfejk proizvodi ekstremno veliko ugroževanje demokratskog društva“, rekla je Franciska Bening iz berlinske humanitarne organizacije HateAid. Bening kaže da su većina žrtava – žene.

Ona kaže da su ranije žrtve bile uglavnom poznate, a sada je među njima sve više običnih ljudi. I po današnjim zakonima je tako nešto kažnjivo, ali Bening kaže da kažnjivost zavisi od pojedinačnog slučaja i procene sudije.

Bening kaže da je potrebno otići i korak dalje, te učiniti kažnjivom proizvođenje pornografskih slika na osnovu ove tehnologije, čak i kada se one ne podele sa drugima. „To bi za mnoge bio korak napred“, rekla je ona.