Britanske agencije upozoravaju roditelje da zbog AI-a ne objavljuju fotografije djece

NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja. Do toga je došlo nakon što je škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika da bi pomoću AI-a stvorile pornografski materijal i zatim prijetile da će ih objaviti ako im se ne plati. Analitičari IWF-a su u 2025. otkrili 3400 video snimki generiranih AI-om, golemi rast u odnosu na 13 u 2024.“Prijetnja je uznemirujuća", rekao je izvršni direktor IWF-a Kerry Smith. “Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke imajući na umu sve činjenice".Smith kaže da posljednice takvih fotografija mogu biti razorne. "Šteta je vrlo stvarna. I potencijal za dugoročne posljedice je nešto što vjerujem svaki roditelj želi spriječiti".

Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije. Osim toga, fotografije i video snimke sve su nasilnije, pa je tako 65 posto od 3443 umjetno generiranih videa u 2025. klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja. Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore "prijateljske" grupe u kojima dijele fotografije svoje djece ili da prilagode postavke o privatnosti kako bi ih mogli vidjeti samo ograničeni broj ljudi. IWF je također pozvao tehnološke kompanije da dobro zaštite svoje modele AI-a prije nego što ih ponude korisnicima kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.