Zapanjujuće realistične fotografije zlostavljanja dece generisane uz pomoć veštačke inteligencije otežavaju identifikaciju i zaštitu dece koja su u opasnosti.
Veštačka inteligencija je revolucionarno uticala na različite industrije, od zdravstva do finansija. Međutim, kako tehnologija nastavlja da napreduje, pojavljuju se novi izazovi, a jedan posebno zabrinjavajući problem je generisanje velikog broja realističnog materijala seksualnog zlostavljanja dece uz pomoć veštačke inteligencije.”Internet Watch Foundation – IWF” je upozorila na sve veću zastupljenost fotografija kreiranih pomoću veštačke inteligencije koje su neodvojive od stvarnih fotografija, što otežava identifikaciju i zaštitu dece koja su u opasnosti.
“IWF” organizacija koja je zadužena za pronalaženje i uklanjanje materijala seksualnog zlostavljanja dece na internetu, naišla je na „zapanjujuće realistične“ fotografije dece uzrasta čak i od tri godine, koje su stvorene pomoću veštačke inteligencije. Ove forografije su toliko verodostojne da ih je teško razlikovati od stvarnih fotografija, što stvara izazove u prepoznavanju autentičnih fotografija i zaštiti dece.
Izazovi brzog napretka u tehnologiji veštačke inteligencije
Fotografije seksualnog zlostavljanja dece generisane uz pomoć veštačke inteligencije su ilegalne u Velikoj Britaniji. Međutim, brz napredak i dostupnost ove tehnologije predstavljaju značajan izazov za agencije koje su zadužene za sprovođenje zakona i suočavanju sa razmerama ovih problema. Nacionalna agencija za borbu protiv kriminala (National Crime Agency – NCA) prepoznaje rastući rizik i naglašava važnost ozbiljnog pristupa ovom pitanju. Kris Faramond, direktor za vođenje borbe protiv pretnji u NCA, upozorava da sve veći broj AI-generisanih materijala može preopteretiti resurse agencija za sprovođenje zakona, što može produžiti vreme potrebno za identifikaciju dece koja su zaista u opasnosti.
Uloga tehnoloških kompanija
Tehnološke kompanije, posebno one koje razvijaju tehnologije veštačke inteligencije, imaju ključnu ulogu u borbi protiv ovog problema. IWF je otkrila „priručnik“ na internetu koji su napisali kriminalci kako bi drugima pomogli da koriste veštačku inteligenciju za stvaranje još realističnijih fotografija zlostavljanja, zaobilazeći bezbednosne mere implementirane od strane generatora fotografija. Kompanije poput OpenAI, tvoraca ChatGPT i DALL-E 2, preduzimaju korake kako bi ograničile trening podataka i sprečile generisanje određenog sadržaja. Takođe koriste automatizovane i ljudske sisteme nadzora kako bi sprečili zloupotrebu tehnologije. Međutim, nastavak zloupotrebe veštačke inteligencije zahteva stalno prilagođavanje kako bi se osiguralo da ove platforme ne budu iskorišćene u negativne svrhe.
Pojava „zapanjujuće realističnih“ fotografija zlostavljanja dece generisanih uz pomoć veštačke inteligencije predstavlja ozbiljnu pretnju bezbednosti na internetu i zaštiti dece. Kako se tehnologija nastavlja razvijati, tako i napori institucija, tehnoloških kompanija i agencija za sprovođenje zakona moraju biti usmereni na efikasnu borbu protiv ovog problema. Prioritetno rešavanje ovog pitanja i zajedničko delovanje omogućiće stvaranje sigurnijeg okruženja na internetu i zaštitu najugroženijih članova našeg društva. Samo zajedničkim naporima možemo ublažiti posledice zloupotrebe veštačke inteligencije i osigurati da tehnologija služi boljitku čovečanstva.
izvor: IWF