U nedostatku jakih zakona o privatnosti podataka o deci, lične fotografije dece se koriste za “treniranje” veštačke inteligencije (AI), bez njihovog znanja ili saglasnosti. Ovi alati se potom mogu koristiti za stvaranje zlonamernih dubokih lažnjaka (deepfake) koji dovode još više dece u opasnost od eksploatacije i štete.
Istraživanje je otkrilo da LAION-5B, veliki otvoreni skup podataka koji se koristi za obuku popularnih alata veštačke inteligencije, sadrži linkove ka prepoznatljivim fotografijama dece. Imena neke dece su čak navedena u propratnom naslovu ili URL-u gde je slika uskladištena. U mnogim slučajevima, njihovom identitetu je lako ući u trag, uključujući informacije o tome kada i gde se dete nalazilo u vreme kada je njihova fotografija snimljena. Na jednoj takvoj fotografiji, na primer, nalazi se beba koja se smeši u kameru, obučena u veselu majicu sa izvezenom pčelicom iz crtanog filma. Njeno ime je navedeno u URL-u slike. Informacije ugrađene u fotografiju otkrivaju tačnu lokaciju kuće njenih baka i dede u ruralnom gradu u Tenesiju, gde je fotografija snimljena pre šest godina u ponedeljak popodne.
Fotografije koje se mogu pronaći u skupu podataka LAION-5B postavila su deca, njihovi roditelji ili njihovi dede i bake na ličnim blogovima i sajtovima za razmenu fotografija i video zapisa. Mnoge su objavljene godinama ili čak deceniju pre nego što je LAION-5B stvoren, videlo ih je vrlo mali broj ljudi i čini se da su ranije imali određenu meru privatnosti.
Ova pojava bi trebalo da skrene pažnju javnosti na sve veće mogućnosti zloupotrebe dece na internetu, međutim o tome se priča samo u usko stručnim krugovima i većina javnosti u Srbiji gotovo da nije ni svesna o čemu se ovde radi. Zbog toga želim da naglasim da ovde nije reč o nečemu što se dogodilo preko noći, već je u pitanju vrh ledenog brega. Kačenje fotografija dece koje su javno dostupne na internetu je trend star koliko i sam internet. U najvećem broju slučajeva to čine upravo roditelji ili bliža porodica – upravo onaj krug ljudi koji bi trebalo najviše da se brine za bezbednost dece.
Prevaranti traže otkupninu od roditelja koristeći klonove glasova njihove dece generisane veštačkom inteligencijom moleći za pomoć, preteći da će ih podeliti sa detetovim prijateljima osim ako dete ne plati otkup. Česti su slučajevi retraumatizacije porodice stvarajući video-snimke svoje nestale ili ubijene djece koji pričaju o svojoj smrti. Zlonamerni akteri su takođe koristili alate veštačke inteligencije trenirane u LAION-u da generišu eksplicitne slike dece koristeći bezazlene fotografije preuzete sa njihovih naloga na društvenim mrežama, kao i grafičke scene preživelih dece čije su slike seksualnog zlostavljanja urezane u LAION-5B.
Ovakvih slučajeva ima sve više – deca su nam veoma ugrožena. Da bismo mogli da ih zaštitimo moramo prvo da razumemo šta se događa i da prihvatimo svoj deo odgovornosti, promenimo svoje rutine i ponašanje i budemo oprezniji. Zato mi iz CNZD želimo ješ jednom da apelujemo na odrasle da moraju da se ponašaju odgovornije i da javno kačenje fotografija dece može da dovede do trajnih problema, koje je posle jako teško ili nemoguće ispraviti.