Zloupotreba slika djece umjetnom inteligencijom: šta roditelji trebaju znati

Umjetna inteligencija (AI) danas može od obične fotografije napraviti potpuno novu sliku ili video koji izgleda stvarno. Većina ljudi je koristi za bezazlene stvari. Ali zloupotreba slika djece umjetnom inteligencijom je stvaran i dokumentovan problem, i roditelji o njemu trebaju znati bez panike. Ovaj tekst objašnjava šta se dešava, šta možeš smanjiti i šta uraditi ako se zloupotreba desi tvom djetetu.

Tema je teška. Pišemo o njoj mirno i bez detalja o tome kako se zloupotreba izvodi, jer to roditelju ne treba da bi zaštitio dijete.

Kako izgleda zloupotreba slika djece umjetnom inteligencijom

Polazna tačka može biti sasvim obična fotografija na kojoj se vidi lice djeteta. Od takvih slika mogu se napraviti lažne slike i lažni video snimci (u javnosti poznati kao “deepfake”) na kojima dijete izgleda kao da je negdje bilo ili nešto radilo, iako nije.

Najteži oblik su seksualizovane lažne slike. Britanska Nacionalna agencija za kriminal (NCA) upozorava da slike podijeljene na internetu, čak i obične porodične fotografije, mogu biti ukradene i izmijenjene u seksualizovan sadržaj, bez znanja djeteta i roditelja.

Šta pokazuju podaci

Internet Watch Foundation (IWF) je britanska organizacija koja pronalazi i uklanja materijal seksualnog zlostavljanja djece sa interneta. U svojim izvještajima za 2025. godinu navode:

• da su procijenili 8.029 slika i videa napravljenih umjetnom inteligencijom koji realistično prikazuju seksualno zlostavljanje djece, što je 14% više nego godinu ranije,
• da su pronašli više od 3.400 takvih videa, u odnosu na samo 13 u 2024. godini,
• da su djevojčice prikazane u 97% slika ove vrste koje su procijenili.

IWF također navodi da ovakav materijal ponovo nanosi štetu djeci čije su stvarne slike korištene za njegovo pravljenje.

Lažni glas: prevare sa snimcima djece

Drugi rizik je manje poznat. Umjetna inteligencija može oponašati nečiji glas. Američka Federalna trgovinska komisija (FTC) upozorava da je prevarantu za to dovoljan kratak audio snimak glasa člana porodice, koji može pronaći u sadržaju objavljenom na internetu.

Kako to izgleda u praksi: zazvoni telefon, a s druge strane je glas koji zvuči kao tvoje dijete ili rođak, uplašen, i traži hitnu pomoć ili novac. Video s rođendana ili treninga na kojem dijete govori može biti izvor takvog glasa.

FTC savjetuje jednostavno pravilo: ne vjeruj glasu. Prekini razgovor i nazovi osobu na broj za koji znaš da je njen. Možeš se s porodicom dogovoriti i o tajnoj riječi koju znate samo vi, pa je u takvom pozivu tražiti.

Da li je takav materijal nezakonit?

Da. Seksualizovani sadržaj sa djecom nezakonit je bez obzira na to da li je snimljen kamerom ili napravljen umjetnom inteligencijom, barem prema britanskom zakonu, kako navode IWF i NCA. Prema navodima IWF-a, propisi država članica Evropske unije o takvom materijalu nisu ujednačeni, te se to nastoji promijeniti novom direktivom.

U Bosni i Hercegovini krivični zakoni entiteta propisuju krivično djelo iskorištavanja djeteta ili maloljetnika radi pornografije, s kaznama od šest mjeseci do deset godina zatvora, kako je izvijestio Radio Slobodna Evropa. Kako se domaći propisi primjenjuju na sadržaj napravljen umjetnom inteligencijom, pitanje je za pravnike i tužilaštva. Za tebe je važno ovo: takav sadržaj prijavljuješ, a ne čuvaš i ne šalješ dalje.

O pravnom okviru za fotografisanje djece pišemo više u tekstu Fotografisanje djece i zakon o zaštiti ličnih podataka.

Šta možeš smanjiti

Potpunu zaštitu niko ne može obećati. Ali rizik da se desi zloupotreba slika djece umjetnom inteligencijom zavisi od toga koliko je jasnih slika i snimaka djeteta javno dostupno i koliko ljudi ih može vidjeti. Direktorica IWF-a je, predstavljajući nove smjernice, rekla da organizacija ne želi roditeljima poručiti da ne dijele slike djece s ljudima koje vole i kojima vjeruju. Savjet je da se razmisli o tome kome su slike vidljive.

Konkretno:

• Manje javnih slika lica. Slike na kojima se jasno vidi lice djeteta podijeli s užim krugom, a ne javno. Slika s leđa ili iz daljine često ispriča istu priču.
• Oprez sa snimcima u kojima dijete govori. Video s glasom djeteta šalji porodici direktno, umjesto da ga objavljuješ javno.
• Ograniči vidljivost profila. IWF i NCA savjetuju da pregledaš podešavanja privatnosti i dijeliš s užim krugom, na primjer s listom bliskih prijatelja. Kako to podesiti, opisujemo u vodiču Privatnost na Instagramu i Facebooku.
• Zamoli druge. Možeš zamoliti rodbinu, prijatelje, vrtić ili klub da ne objavljuju slike tvog djeteta bez dogovora. Ustanovama u tome može pomoći naš besplatan paket pravila za ustanove.
• Uključi dijete. Kako dijete raste, pitaj ga šta misli o slikama koje objavljuješ i da li se s tim slaže. Neka zna da smije reći ne.

Šta uraditi ako se zloupotreba desi

Ako otkriješ lažnu ili izmijenjenu sliku svog djeteta, prvi korak je da ostaneš smiren. NCA savjetuje roditeljima da umire dijete i jasno mu kažu da nije ono krivo.

Zatim, redom:

1. Ne dijeli sadržaj dalje. Ni kao upozorenje drugim roditeljima, ni u porodičnoj grupi. Svako novo slanje širi štetu.
2. Ne preuzimaj i ne čuvaj sliku ili video. CEOP, obrazovni program britanske NCA, upozorava da je čuvanje ili slanje materijala seksualnog zlostavljanja djece nezakonito, čak i kada je namjera da se upozori drugi. Zato ne pravi ni snimke ekrana, jer je i to čuvanje sadržaja.
3. Zapiši podatke umjesto sadržaja. Zabilježi adresu stranice na kojoj se sadržaj nalazi, korisnička imena profila koji su ga objavili, naziv platforme te datum i vrijeme kada si ga vidio. CEOP navodi da je za prijavu dovoljna adresa stranice.
4. Prijavi sadržaj na platformi. Svaka velika mreža ima opciju za prijavu objave ili profila, a prijava pomaže da se sadržaj brže ukloni.
5. Prijavi na sigurnodijete.ba. Na ovoj stranici, koju vodi IFS-EMMAUS, prijava nezakonitog sadržaja može biti anonimna. Prijave se prosljeđuju policiji ili partnerskim službama za prijavu u drugim državama.
6. Obrati se policiji. U hitnim situacijama, ili ako neko prijeti ili ucjenjuje dijete, nazovi 122.

Detaljan pregled svih adresa i brojeva nalazi se u tekstu Prijava zloupotrebe djece na internetu u BiH.

Česta pitanja

Može li se lažna slika napraviti od samo jedne fotografije?

Na to pitanje nema jednog odgovora, jer zavisi od alata i od same slike. NCA upozorava da i obične porodične fotografije mogu biti zloupotrijebljene. Zato je važnije ko može vidjeti slike tvog djeteta nego koliko ih je, a uži krug ljudi znači i manje prilika za zloupotrebu.

Da li trebam izbrisati sve stare slike djeteta?

Ne moraš sve brisati preko noći. Kreni od javnih objava na kojima se jasno vidi lice, ime ili mjesto, i ograniči njihovu vidljivost ili ih ukloni. Kako to uraditi na Facebooku i Instagramu, opisujemo u vodiču Privatnost na Instagramu i Facebooku.

Šta ako mi neko pošalje lažnu sliku mog djeteta da me upozori?

Zahvali se, ali zamoli osobu da sadržaj ne šalje dalje i da ga izbriše. Od nje uzmi samo podatke: gdje je sadržaj vidjela, adresu stranice i naziv profila. S tim podacima napravi prijavu, kako je opisano gore.

Prije sljedeće objave odvoji trideset sekundi za našu provjeru prije objave. Pet pitanja pomaže da procijeniš da li je slika za javnost ili za uži krug.

Ovo je osjetljiva tema. Ako je tvoje dijete pogođeno, Plavi telefon na broju 080 05 03 05 pruža besplatnu podršku.